最全数据集网站汇总,绝对是一个金矿请查收!

news/2024/5/17 4:52:57/文章来源:https://blog.csdn.net/r6Auo52bK/article/details/80105751

如果用一个句子总结学习数据科学的本质,那就是: 学习数据科学的最佳方法就是应用数据科学。 如果你是一个初学者,你每完成一个新项目后自身能力都会有极大的提高,如果你是一个有经验的数据科学专家,你已经知道这里所蕴含的价值。

640?wx_fmt=jpeg&wxfrom=5&wx_lazy=1

 本文将为您提供一个网站/资源列表,从中你可以使用数据来完成你自己的数据项目,甚至创造你自己的产品。

一.如何使用这些资源?

如何使用这些数据源是没有限制的,应用和使用只受到您的创造力和实际应用。使用它们最简单的方法是进行数据项目并在网站上发布它们。这不仅能提高你的数据和可视化技能,还能改善你的结构化思维。

另一方面,如果你正在考虑/处理基于数据的产品,这些数据集可以通过提供额外的/新的输入数据来增加您的产品的功能。所以,继续在这些项目上工作吧,与更大的世界分享它们,以展示你的数据能力!我们已经在不同的部分中划分了这些数据源,以帮助你根据应用程序对数据源进行分类。

我们从简单、通用和易于处理数据集开始,然后转向大型/行业相关数据集。然后,我们为特定的目的——文本挖掘、图像分类、推荐引擎等提供数据集的链接。这将为您提供一个完整的数据资源列表。如果你能想到这些数据集的任何应用,或者知道我们漏掉了什么流行的资源,请在下面的评论中与我们分享。(部分可能需要翻墙)

二.由简单和通用的数据集开始

1.data.gov ( https://www.data.gov/ ) 这是美国政府公开数据的所在地,该站点包含了超过19万的数据点。这些数据集不同于气候、教育、能源、金融和更多领域的数据。


640?wx_fmt=jpeg


2.data.gov.in ( https://data.gov.in/ ) 这是印度政府公开数据的所在地,通过各种行业、气候、医疗保健等来寻找数据,你可以在这里找到一些灵感。根据你居住的国家的不同,你也可以从其他一些网站上浏览类似的网站。

3.World Bank( http://data.worldbank.org/ ) 世界银行的开放数据。该平台提供 Open Data Catalog,世界发展指数,教育指数等几个工具。

4.RBI ( https://rbi.org.in/Scripts/Statistics.aspx ) 印度储备银行提供的数据。这包括了货币市场操作、收支平衡、银行使用和一些产品的几个指标。

5.Five Thirty Eight Datasets ( https://github.com/fivethirtyeight/data ) Five Thirty Eight,亦称作 538,专注与民意调查分析,政治,经济与体育的博客。该数据集为 Five Thirty Eight Datasets 使用的数据集。每个数据集包括数据,解释数据的字典和Five Thirty Eight 文章的链接。如果你想学习如何创建数据故事,没有比这个更好。

三.大型数据集

1.Amazon Web Services(AWS)datasets ( https://aws.amazon.com/cn/datasets/ )Amazon提供了一些大数据集,可以在他们的平台上使用,也可以在本地计算机上使用。您还可以通过EMR使用EC2和Hadoop来分析云中的数据。在亚马逊上流行的数据集包括完整的安然电子邮件数据集,Google Books n-gram,NASA NEX 数据集,百万歌曲数据集等。


640?wx_fmt=png


2.Google datasets ( https://cloud.google.com/bigquery/public-data/ ) Google 提供了一些数据集作为其 Big Query 工具的一部分。包括 GitHub 公共资料库的数据,Hacker News 的所有故事和评论。

3.Youtube labeled Video Dataset ( https://research.google.com/youtube8m/ ) 几个月前,谷歌研究小组发布了YouTube上的“数据集”,它由800万个YouTube视频id和4800个视觉实体的相关标签组成。它来自数十亿帧的预先计算的,最先进的视觉特征。


640?wx_fmt=png


四.预测建模与机器学习数据集

1.UCI Machine Learning Repository ( https://archive.ics.uci.edu/ml/datasets.html )UCI机器学习库显然是最著名的数据存储库。如果您正在寻找与机器学习存储库相关的数据集,通常是首选的地方。这些数据集包括了各种各样的数据集,从像Iris和泰坦尼克这样的流行数据集到最近的贡献,比如空气质量和GPS轨迹。存储库包含超过350个与域名类似的数据集(分类/回归)。您可以使用这些过滤器来确定您需要的数据集。


640?wx_fmt=png


2.Kaggle ( https://www.kaggle.com/datasets ) Kaggle提出了一个平台,人们可以贡献数据集,其他社区成员可以投票并运行内核/脚本。他们总共有超过350个数据集——有超过200个特征数据集。虽然一些最初的数据集通常出现在其他地方,但我在平台上看到了一些有趣的数据集,而不是在其他地方出现。与新的数据集一起,界面的另一个好处是,您可以在相同的界面上看到来自社区成员的脚本和问题。


640?wx_fmt=png


3.Analytics Vidhya (https://datahack.analyticsvidhya.com/contest/all/ ) 您可以从我们的实践问题和黑客马拉松问题中参与和下载数据集。问题数据集基于真实的行业问题,并且相对较小,因为它们意味着2 - 7天的黑客马拉松。


640?wx_fmt=png


4.Quandl ( https://www.quandl.com/ ) Quandl 通过起网站、API 或一些工具的直接集成提供了不同来源的财务、经济和替代数据。他们的数据集分为开放和付费。所有开放数据集为免费,但高级数据集需要付费。通过搜索仍然可以在平台上找到优质数据集。例如,来自印度的证券交易所数据是免费的。


640?wx_fmt=png


5.Past KDD Cups ( http://www.kdd.org/kdd-cup ) KDD Cup 是 ACM Special Interest Group 组织的年度数据挖掘和知识发现竞赛。

6.Driven Data ( https://www.drivendata.org/ ) Driven Data 发现运用数据科学带来积极社会影响的现实问题。然后,他们为数据科学家组织在线模拟竞赛,从而开发出最好的模型来解决这些问题。

五.图像分类数据集

1.The MNIST Database ( http://yann.lecun.com/exdb/mnist/ ) 最流行的图像识别数据集,使用手写数字。它包括6万个示例和1万个示例的测试集。这通常是第一个进行图像识别的数据集。

2.Chars74K (http://www.ee.surrey.ac.uk/CVSSP/demos/chars74k/ ) 这里是下一阶段的进化,如果你已经通过了手写的数字。该数据集包括自然图像中的字符识别。数据集包含74,000个图像,因此数据集的名称。

3.Frontal Face Images (http://vasc.ri.cmu.edu//idb/html/face/frontal_images/index.html ) 如果你已经完成了前两个项目,并且能够识别数字和字符,这是图像识别中的下一个挑战级别——正面人脸图像。这些图像是由CMU & MIT收集的,排列在四个文件夹中。

4.ImageNet ( http://image-net.org/ ) 现在是时候构建一些通用的东西了。根据WordNet层次结构组织的图像数据库(目前仅为名词)。层次结构的每个节点都由数百个图像描述。目前,该集合平均每个节点有超过500个图像(而且还在增加)。

六.文本分类数据集

1.Spam – Non Spam (http://www.esp.uem.es/jmgomez/smsspamcorpus/) 区分短信是否为垃圾邮件是一个有趣的问题。你需要构建一个分类器将短信进行分类。

2.Twitter Sentiment Analysis (http://thinknook.com/twitter-sentiment-analysis-training-corpus-dataset-2012-09-22/) 该数据集包含 1578627 个分类推文,每行被标记为1的积极情绪,0位负面情绪。数据依次基于 Kaggle 比赛和 Nick Sanders 的分析。

3.Movie Review Data (http://www.cs.cornell.edu/People/pabo/movie-review-data/) 这个网站提供了一系列的电影评论文件,这些文件标注了他们的总体情绪极性(正面或负面)或主观评价(例如,“两个半明星”)和对其主观性地位(主观或客观)或极性的标签。

七.推荐引擎数据集

1.MovieLens ( https://grouplens.org/ ) MovieLens 是一个帮助人们查找电影的网站。它有成千上万的注册用户。他们进行自动内容推荐,推荐界面,基于标签的推荐页面等在线实验。这些数据集可供下载,可用于创建自己的推荐系统。

2.Jester (http://www.ieor.berkeley.edu/~goldberg/jester-data/) 在线笑话推荐系统。

八.各种来源的数据集网站

1.KDNuggets (http://www.kdnuggets.com/datasets/index.html) KDNuggets 的数据集页面一直是人们搜索数据集的参考。列表全面,但是某些来源不再提供数据集。因此,需要谨慎选择数据集和来源。

2.Awesome Public Datasets (https://github.com/caesar0301/awesome-public-datasets) 一个GitHub存储库,它包含一个由域分类的完整的数据集列表。数据集被整齐地分类在不同的领域,这是非常有用的。但是,对于存储库本身的数据集没有描述,这可能使它非常有用。

3.Reddit Datasets Subreddit (https://www.reddit.com/r/datasets/) 由于这是一个社区驱动的论坛,它可能会遇到一些麻烦(与之前的两个来源相比)。但是,您可以通过流行/投票来对数据集进行排序,以查看最流行的数据集。另外,它还有一些有趣的数据集和讨论。

九.结尾的话

我们希望这一资源清单对于那些想项目的人来说是非常有用的。这绝对是一个金矿,好好加以利用吧!

来源:网络大数据


640

大数据周刊

邮箱:tougao@bigdatamag.cn

电话:010-57524293


640

众论大数据 引领大时代

长按二维码关注


本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.luyixian.cn/news_show_757938.aspx

如若内容造成侵权/违法违规/事实不符,请联系dt猫网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

中国社科院李勇坚:网站平台大数据 可监测网民诚信行为

7月5日是“全国网络诚信宣传日”。近日,中国社科院财经院互联网经济研究室主任李勇坚做客“网络诚信专家谈”系列访谈。互联网时代,网络安全事件层出不穷,推动网络诚信建设成为互联网健康有序发展的题中之义。7月5日是“全国网络诚信宣传日”…

干货 | 想学习STEAM科学知识,必看这15个超赞的国外网站

学习科学应着眼于广阔的世界、广袤的宇宙、未知的未来。为让孩子更好地学习科学知识,对国外知识和探索了解更多,特推荐以下网站,值得大家且看且收藏!1、DK Findout适合年龄段:3-8网址:https://www.dkfindou…

Slog33_支配vue框架初阶项目之博客网站-注册页面-数据关联

ArthurSlogSLog-33Year1GuangzhouChinaAug 9th 2018GitHub掘金主页简书主页segmentfault用七八十年提交一份人生的答卷 这是一场开卷 没有监考老师 有的 是在乎你的人 我想 答案并不是最重要的 重要的是一起答卷的这群人 特别是真正在乎你的人 当答卷提交的那一刻 也许不再是忐…

企业营销是选择SEO好还是选择SEM好?

一个企业想要做推广,大多数都会在SEO和SEM中徘徊不定,的确,现在做网络推广SEO和SEM都是两种非常有效地模式。那么该怎么在这两个模式之间进行取舍呢?以前我在码教授进行学习的时候,老师就重点讲解过这个问题。首先&…

服务器网站设置起始页,服务器IP默认页,默认网站设置,禁止空主机头网站

服务器IP默认页,默认网站设置,禁止空主机头网站写这篇教程是因为很多服务器IP访问会直接访问到业务网站,这对网站来说是一个挺大的隐患。不禁止空主机头IP直接访问,别人如果把域名直接指向你的服务器,那访问他的域名就…

如何给网站配置SSL证书(https)

如何给网站配置SSL证书(https) 访问安全的需求和大众的趋势使得我们该考虑给网站加ssl了,给网站加上ssl并不难,只要申请一个免费的ssl证书,在服务器端配置好ssl,wordpress稍加修改就可以实现https访问了。 …

反击黑客之对网站攻击者的IP追踪

ip追踪是一件比较难实现的,因为我只有一个ip,而且在没有任何技术支持下对该ip追踪,同时我在公司也没有服务器权限,仅有后台,一般的ip追踪技术分类,反应式ip追踪,主动式的追踪,分享的…

phpcms网站漏洞如何修复对远程代码写入缓存漏洞利用

2019独角兽企业重金招聘Python工程师标准>>> SINE安全公司在对phpcms2008网站代码进行安全检测与审计的时候发现该phpcms存在远程代码写入缓存文件的一个SQL注入漏洞,该phpcms漏洞危害较大,可以导致网站被黑,以及服务器遭受黑客的…

信息学竞赛有什么好的比赛网站?

点击上方蓝字关注我们1、HustOJ http://47.110.135.197 热心家长创建的一个自测 OJ,与华中科技大学颇有渊源。不定期举办 一些针对初学者的比赛。菜鸟们不妨一试。2、信奥题库 https://www.oitiku.com/3、计蒜客 www.jisuanke.com 课程要付费,但是月赛和…

windows版 nginx配置反向代理实例教程 跳转tomcat和php网站

抄自 https://www.cnblogs.com/j-star/p/8785334.html 个人理解 nginx端口设置为80,简称n tomcat端口设置为其他,例如8080,简称t php网站和javaweb网站域名解析到服务器上面 当访问java域名时,n判断为java网站,就跳转到tomcat 当访问php域名时,n判断为php网站,就不跳转了 n就是…

网站搭建 (第17天) Celery定时刷新缓存

一、前言 当网站使用redis缓存时,就会涉及到缓存的过期时间,redis数据库中的内容就会消失。这个时候进行用户操作又会变慢,所以要采用一种办法,当缓存刚好要过期时,能够使得redis数据库自动对缓存内容进行更新。这个办…

修复网站漏洞对phpmyadmin防止被入侵提权的解决办法

2019独角兽企业重金招聘Python工程师标准>>> phpmyadmin是很多网站用来管理数据库的一个系统,尤其是mysql数据库管理的较多一些,最近phpmysql爆出漏洞,尤其是弱口令,sql注入漏洞,都会导致mysql的数据账号密…

动态加载图片网站爬虫基本操作

1判断动态加载 检查流程如下: 1.1 浏览器检查,观察network->XHR,确定是否是动态页面(如果随着下拉页面,项目不断增加就说明是动态页面)。 1.2. 确定是动态页面以后,观察任意几个请求项目&…

大型网站技术架构(五)网站高可用架构

2019独角兽企业重金招聘Python工程师标准>>> 网站的可用性(Avaliability)描述网站可有效访问的特性。 1、网站可用性的度量与考核 网站不可用时间(故障时间)故障修复时间点-故障发现(报告)时间点…

Apache配置多个网站的方法

Apache的虚拟主机是一种允许在同一台机器上,运行超过一个网站的解决方案。虚拟主机有两种,一种叫基于IP的(IP-based),另一种叫基于名字的(name-based)。虚拟主机的存在,对用户来说是…

能够支持python开发的环境_百度排名:做SEO不能靠猜,需要观察数据的本质

很多人学会了一些SEO的常识,就觉得自己已经学会了SEO了,能够给很多网站提供意见,但是其实他们提出的意见,很多时候都是靠猜,靠感觉。至于实际上有没有效果,会不会给网站带来正面的影响,只能走一…

centos 设置本地域名_详解如何让自己的网站/APP/应用支持IPV6访问,从域名解析配置到服务器配置详细步骤完整。...

详解如何让自己的网站/APP/应用支持IPV6访问,从域名解析配置到服务器配置详细步骤完整。感谢阅读,本文依然和一颗优雅草科技毫无关系且不代表且不代表其观点和立场,由伊凡撰写,如有转载请注明来源,码字不易&#xff0c…

夺命雷公狗ThinkPHP项目之----企业网站1之快速搭建后台

我们还是老规矩照老方法&#xff0c;将框架里面多余的东西都干掉&#xff0c;然后在index.php里面将框架搭建起来 <?php//定义项目目录define(APP_PATH,./WEB/);//开启调试define(APP_DEBUG,True);//包含thinkphp项目入口文件require "Thinkphp/Thinkphp.php"; 然…

php5.4安装手册,网站新手指南:Win2003+Apache2.2.22+PHP5.4安装配置教程

网站新手指南&#xff1a;Win2003Apache2.2.22PHP5.4安装配置教程作者&#xff1a;迅美网 发布日期&#xff1a;2012/12/15 21:14:48 浏览次数&#xff1a;4705 复制服务器环境:Windows2003Apache2.2.22PHP5.4MySql5.5所需软件包:1)httpd-2.2.22-win32-x86-openssl-0.9.8t.zip2…

买网站服务器需要什么软件有哪些东西,建网站的软件有哪些,哪些常用?

建网站必须的不仅是专用软件&#xff0c;也要申请注册域名&#xff0c;购买网络服务器(或云虚拟主机)&#xff0c;随后在网络服务器内构建网站。下面我们就来说说建网站的软件有哪些&#xff0c;哪些常用。1、DreamweaverDreamweaver集网页页面bai制做和管理方法网站建站于一身…