在训练机器学习模型时,找到合适的数据集一直是个棘手的问题。近日,亚马逊AWS高级技术顾问Will Badr介绍了8种寻找机器学习数据集的方法。
08
Kaggle数据集
https://www.kaggle.com/datasets
Kaggle的数据集中,包含了用于各种任务,不同规模的真实数据集,而且有许多不同的格式。此外,你还可以在这里找到与每个数据集相关联的交互式笔记本Kernels,这些笔记本能够在浏览器中运行。
在这里,每个数据集都是一个小的交流社区,可以讨论数据,寻找一些公开的代码,或者在Kernels中创建自己的项目。
07
亚马逊数据集
https://registry.opendata.aws/
这里有许多不同领域的数据集,比如公共交通、生态资源、卫星图像等等。同时也提供了一个搜索框,来帮助你寻找数据集。伴随着数据集,也有相关的描述与用法示例。数据集存储在AWS中,如果你正在使用AWS训练机器学习模型,会非常方便,数据集的传输速度非常快。
06
UCI机器学习数据库
https://archive.ics.uci.edu/ml/datasets.html
这个数据库里面有100个数据集。来自加州大学信息与计算机科学学院。数据集已经按照机器学习问题进行了分类,你可以在这里找到单变量和多变量时间序列数据集;分类、回归或推荐系统的数据集。而且,其中的一些数据集已经清理完毕,拿走就能使用。成都加米谷大数据培训机构,大数据开发,数据分析与挖掘,2019春节前预报名学费特惠。详情可咨询加米谷大数据张老师:181-9072=2591.
05
谷歌数据集搜索引擎
https://toolbox.google.com/datasetsearch
2018年9月份,谷歌推出了这项服务,可以按名称搜索数据集。目标是收集起来成千上万不同的数据集存储库。
04
微软数据集
https://msropendata.com/
2018年7月,微软推出“微软研究开放数据”。涵盖计算机科学、社会科学、物理学、天文学、生物学、经济学等等多个学科领域。数据集存储在云中,用于推动全球研究团体之间的协作。收集了一系列已发表的研究中使用的精确数据集。
03
公共数据集资源收集
https://github.com/awesomedata/awesome-public-datasets
按照不同的主题对近600个数据集进行了分类,一共涉及29个主题,比如生物学、经济学、教育学等等。大多数数据集都是免费的,不过在使用前,还是检查一下许可要求比较好。
02
欧盟开放数据集:欧洲政府的数据集
https://data.europa.eu/euodp/data/dataset
美国政府数据集:(暂时无法使用)
https://www.data.gov/
中国国家统计局:
http://www.stats.gov.cn/
01
计算机视觉数据
https://www.visualdata.io/
里面有各种用于计算机视觉研究数据集,可以通过特定的主题去查找数据集,比如语义分割、图像字幕、图像生成等等。也可以通过应用场景来查找数据集,比如自动驾驶汽车数据集。
网友评论