【数据集资源】大数据资源

时间: 2023-12-21 admin 维修知识

【数据集资源】大数据资源

【数据集资源】大数据资源

大概包含10个领域数据集:
金融
交通
商业
推荐系统
医疗健康
图像数据
视频数据
音频数据
自然语言处理
社会数据
处理后的科研和竞赛数据

1、huggingface的数据下载方式:

 1.进入官网数据集列:Hugging Face – The AI community building the future.2.选中自己想要下载的数据后,在本地执行如下命令:git lfs installgit clone 

2、魔塔社区的数据下载方式(中文数据社区)

1、进入官网数据集列():数据集首页 · 魔搭社区 (modelscope)2.选中自己想要下载的数据后,下载方式如下:数据集的下载 · 文档中心 (modelscope)

Machine Learning Datasets | Papers With Code

阿里巴巴datahub:

清华官网整理数据集:openslr

聚数力:数据集 – Labeled Faces in the Wild 数据集 | 聚数力平台 | 大数据应用要素托管与交易平台

文本分类(情感分析)中文数据集汇总
这段时间在公司NLP组里实习,相应的开始学习了一些NLP的知识,并搜索了一些关于NLP中文本分类领域的相关数据集,本文主要列举一些中文数据集。关于英语数据集,且听下回分解。

1.THUCNews数据集:
THUCNews是根据新浪新闻RSS订阅频道2005~2011年间的历史数据筛选过滤生成,包含74万篇新闻文档(2.19 GB),均为UTF-8纯文本格式。我们在原始新浪新闻分类体系的基础上,重新整合划分出14个候选分类类别:财经、彩票、房产、股票、家居、教育、科技、社会、时尚、时政、体育、星座、游戏、娱乐。使用THUCTC工具包在此数据集上进行评测,准确率可以达到88.6%。

数据集地址: /

2.今日头条新闻文本分类数据集:
数据来源:今日头条客户端
数据规模:共382688条,分布于15个分类中。
数据格式:6552431613437805063_!102!news_entertainment!谢娜为李浩菲澄清网络谣言,之后她的两个行为给自己加分!_佟丽娅,网络谣言,快乐大本营,李浩菲,谢娜,观众们

每行为一条数据,以_!_分割的个字段,从前往后分别是
新闻ID,分类code(见下文),分类名称(见下文),新闻字符串(仅含标题),新闻关键词

数据集地址:

3.全网新闻数据(SogouCA):
来自若干新闻站点2012年6月—7月期间国内,国际,体育,社会,娱乐等18个频道的新闻数据,提供URL和正文信息

数据格式为

页面URL 页面ID 页面标题 页面内容 1 2 3 4 5 6 注意:content字段去除了HTML标签,保存的是新闻正文文本

数据集地址: .php

4.搜狐新闻数据(SogouCS):
来自搜狐新闻2012年6月—7月期间国内,国际,体育,社会,娱乐等18个频道的新闻数据,提供URL和正文信息

数据格式为

页面URL
页面ID
页面标题
页面内容

1
2
3
4
5
6
7
注意:content字段去除了HTML标签,保存的是新闻正文文本

数据集地址: .php

5.ChnSentiCorp_htl_all数据集:
7000 多条酒店评论数据,5000 多条正向评论,2000 多条负向评论

数据字段:
Label:1表示正向评论,0表示负向评论
Review:评论内容
1
2
3

数据集地址:
.csv

6.waimai_10k数据集:
某外卖平台收集的用户评价,正向4000 条,负向约 8000 条

数据字段:

Label:1表示正向评论,0表示负向评论
Review:评论内容
1
2
3
4

数据集地址:
.csv

7.online_shopping_10_cats数据集:
10 个类别(书籍、平板、手机、水果、洗发水、热水器、蒙牛、衣服、计算机、酒店),共 6 万多条评论数据,正、负向评论各约 3 万条

数据集下载地址:
.zip

8.weibo_senti_100k数据集:
10 万多条,带情感标注 新浪微博,正负向评论约各 5 万条。

数据集下载地址:
.ipynb

9.simplifyweibo_4_moods数据集:
36 万多条,带情感标注 新浪微博,包含 4 种情感,其中喜悦约 20 万条,愤怒、厌恶、低落各约 5 万条

数据集下载地址:

10.dmsc_v2数据集:
28部电影,超70万用户,超200万条评分/评论数据

数据集地址:

原始数据集地址:

11.yf_dianping数据集:
24 万家餐馆,54 万用户,440 万条评论/评分数据

数据集地址:
原始数据集地址:/

12.yf_amazon数据集:
52 万件商品,1100 多个类目,142 万用户,720 万条评论/评分数据

原始数据集地址:/
数据集地址:

13.Datahub数据中心:
包含文本分类、情感分析以及知识图谱的数据集

相关地址:=2&parent_category=1

14.知乎看山杯数据集:
数据集下载地址:
提取码: qbiw

15.AI_challenger情感分析数据集:
数据集分为训练、验证、测试A与测试B四部分。数据集中的评价对象按照粒度不同划分为两个层次,层次一为粗粒度的评价对象,例如评论文本中涉及的服务、位置等要素;层次二为细粒度的情感对象,例如“服务”属性中的“服务人员态度”、“排队等候时间”等细粒度要素。

数据集下载地址:

16.复旦中文文本分类语料库
数据链接:
密码:zyxa

以上来源于,更多查看原文链接!

版权声明:本文为CSDN博主「会发paper的学渣」的原创文章,遵循CC 4.0
BY-SA版权协议,转载请附上原文出处链接及本声明。
原文链接:

1金融

美国劳工部统计局官方发布数据:

沪深股票除权除息、配股增发全量数据,截止 2016.12.31

上证主板日线数据,截止 2017.05.05,原始价、前复权价、后复权价,1260支股票

深证主板日线数据,截止 2017.05.05,原始价、前复权价、后复权价,466支股票

深证中小板日线数据,截止 2017.05.05,原始价、前复权价、后复权价,852支股票

深证创业板日线数据,截止 2017.05.05,原始价、前复权价、后复权价,636支股票

上证A股日线数据,1999.12.09 至 2016.06.08,前复权,1095支股票

深证A股日线数据,1999.12.09 至 2016.06.08,前复权,1766支股票

深证创业板日线数据,1999.12.09 至 2016.06.08,前复权,510支股票

MT4平台外汇交易历史数据

Forex平台外汇交易历史数据

几组外汇交易逐笔(Ticks)数据

美国股票新闻数据【Kaggle数据】

美国医疗保险市场数据【Kaggle数据】

美国金融客户投诉数据【Kaggle数据】

Lending Club 网贷违约数据【Kaggle数据】

信用卡欺诈数据【Kaggle 数据】

美国股票数据XBRL【Kaggle数据】

纽约股票交易所数据【Kaggle数据】

贷款违约预测竞赛数据【Kaggle竞赛】

Zillow 网站房地产价值预测竞赛数据【Kaggle竞赛】

Sberbank 俄罗斯房地产价值预测竞赛数据【Kaggle竞赛】

Homesite 保险定价竞赛数据【Kaggle竞赛】

Winton 股票回报率预测竞赛数据【Kaggle竞赛】

2交通

2013年纽约出租车行驶数据

2013年芝加哥出租车行驶数据

Udacity自动驾驶数据

纽约 Uber 接客数据 【Kaggle数据】

英国车祸数据(2005-2015)【Kaagle数据】

芝加哥汽车超速数据【Kaggle数据】

KITTI 自动驾驶任务数据【数据太大仅有部分】

Cityscapes 场景标注数据【数据太大仅有部分】

德国交通标志识别数据

交通信号识别数据

芝加哥Divvy共享自行车骑行数据(2013年至今)

美国查塔努加市共享单车骑行数据

Capital 共享单车骑行数据 /

Bay Area 共享单车骑行数据

Nice Ride 共享单车骑行数据

花旗银行共享单车骑行数据

运用卫星数据跟踪亚马逊热带雨林中的人类轨迹竞赛【Kaggle竞赛】

纽约出租车管理委员会官方的乘车数据(2009年-2016年)

3商业

Airbnb 开放的民宿信息和住客评论数据

Amazon 食品评论数据

【Kaggle数据】

Amazon 无锁手机评论数据

【Kaggle数据】

美国视频游戏销售和评价数据

【Kaggle数据】

Kaggle 各项竞赛情况数据【Kaggle数据】

Bosch 生产流水线降低次品率竞赛数据【Kaggle竞赛】

预测公寓租金竞赛数据

广告点击预测竞赛数据

餐厅营业收入预测建模竞赛

银行产品推荐竞赛数据

网站用户推荐点击预测竞赛数据

在线广告实时竞价数据【Kaggle数据】

购物车商品关联竞赛数据【Kaggle竞赛】

Airbnb 新用户的民宿预定预测竞赛数据【Kaggle竞赛】

3推荐系统

Netflix 电影评价数据

MovieLens 20m 电影推荐数据集

WikiLens

Jester

HetRec2011

Book Crossing

Large Movie Review

Retailrocket 商品评论和推荐数据

4医疗健康

人识别物体时大脑核磁共振影像数据

人理解单词时大脑核磁共振影像数据

心脏病心房图像及标注数据

细胞病理识别

FIRE 视网膜眼底病变图像数据

食物营养成分数据 【Kaggle数据】

EGG 大脑电波形状数据【Kaggle数据】

某人基因序列数据【Kaggle数据】

癌症CT影像数据【Kaggle数据】

软组织肉瘤CT图像数据【Kaggle数据】

美国国家健康与服务部-国家癌症研究所发起的癌症数据仓库介绍【仅有介绍】

Data Science Bowl 2017 肺癌识别竞赛数据【数据太大仅有介绍】

TCGA-LUAD 肺癌CT图像数据

RIDER Lung CT 肺癌CT影像

TCGA-COAD癌症CT影像数据

TCIA-TCGA-OV 癌症CT影像数据

TCIA RIDER NEURO 癌症MRI影像数据

QIN Beast 乳腺癌MRI影像数据

5图像数据

综合图像

Visual Genome 图像数据

Visual7w 图像数据

COCO 图像数据

SUFR 图像数据

ILSVRC 2014 训练数据(ImageNet的一部分)

PASCAL Visual Object Classes 2012 图像数据

PASCAL Visual Object Classes 2011 图像数据

PASCAL Visual Object Classes 2010 图像数据

80 Million Tiny Image 图像数据【数据太大仅有介绍】

ImageNet【数据太大仅有介绍】

Google Open Images【数据太大仅有介绍】

场景图像

Street Scences 图像数据

Places2 场景图像数据

UCF Google Street View 图像数据

SUN 场景图像数据

The Celebrity in Places 图像数据

Web图像标签

HARRISON 社交标签图像

NUS-WIDE 标签图像

Visual Synset 标签图像

Animals With Attributes 标签图像

人形轮廓图像

MPII Human Shape

人体轮廓数据

Biwi Kinect Head Pose 头部姿势数据

上半身人像数据

INRIA Person 数据集

视觉文字识别图像

Street View House Number 门牌号图像数据

MNIST 手写数字识别图像数据

3D MNIST 数字识别图像数据【Kaggle数据】

MediaTeam Document 文档影印和内容数据

Text Recognition 文字图像数据

NIST Handprinted Forms and Characters 手写英文字符数据

NIST Structured Forms Reference Set of Binary Images

(SFRS) 图像数据

NIST Structured Forms Reference Set of Binary Images

(SFRS) II 图像数据

特定一类事物图像

著名的猫图像标注数据

Caltech-UCSD

Birds200 鸟类图像数据

Stanford Car 汽车图像数据

Cars 汽车图像数据

MIT Cars 汽车图像数据

Stanford Cars 汽车图像数据

Food-101 美食图像数据

17_Category_Flower

图像数据

102_Category_Flower

图像数据

UCI Folio Leaf 图像数据

Labeled Fishes

in the Wild 鱼类图像

美国 Yelp 点评网站酒店照片

CMU-Oxford

Sculpture 塑像雕像图像

Oxford-IIIT Pet 宠物图像数据

Nature

Conservancy Fisheries Monitoring 过度捕捞监控图像数据【Kaggle数据】

材质纹理图像

CURET 纹理材质图像数据

ETHZ Synthesizability 纹理图像数据

KTH-TIPS 纹理材质图像数据

Describable Textures 纹理图像数据

物体分类图像

COIL-20 图像数据

COIL-100 图像数据

Caltech-101 图像数据

Caltech-256 图像数据

CIFAR-10 图像数据

CIFAR-100 图像数据

STL-10 图像数据

LabelMe_12_50k

图像数据

NORB v1.0 图像数据

NEC Toy Animal 图像数据

iCubWorld 图像分类数据

Multi-class 图像分类数据

GRAZ 图像分类数据

人脸图像

IMDB-WIKI 500k+ 人脸图像、年龄性别数据

Labeled Faces in the Wild 人脸数据

Extended Yale Face Database B 人脸数据

Bao Face 人脸数据

DC-IGN 论文人脸数据

300 Face in Wild 图像数据

BioID Face 人脸数据

CMU Frontal Face Images

FDDB_Face Detection Data Set and Benchmark

NIST Mugshot Identification Database

Faces in the Wild 人脸数据

CelebA 名人人脸图像数据

VGG Face 人脸图像数据

Caltech 10k Web Faces 人脸图像数据

姿势动作图像

HMDB_a large human motion database

Human Actions and Scenes Dataset

Buffy Stickmen V3 人体轮廓识别图像数据

Human Pose Evaluator 人体轮廓识别图像数据

Buffy pose 人类姿势图像数据

VGG Human Pose Estimation 姿势图像标注数据

指纹识别图像

NIST FIGS 指纹识别数据

NIST Supplemental Fingerprint Card Data (SFCD) 指纹识别数据

NIST Plain and Rolled Images from Paired Fingerprint Cards

in 500 pixels per inch 指纹识别数据

NIST Plain and Rolled Images from Paired Fingerprint Cards

1000 pixels per inch 指纹识别数据

其他图像数据

Visual Question Answering V1.0 图像数据

Visual Question Answering V2.0 图像数据

6视频数据

综合视频

DAVIS_Densely Annotated Video Segmentation 数据

YouTube-8M 视频数据集【数据太大仅有介绍】

YouTube 网站视频备份【数据太大仅有介绍】

人类动作视频

Microsoft Research Action 人类动作视频数据

UCF50 Action Recognition 动作识别数据

UCF101 Action Recognition 动作识别数据

UT-Interaction 人类动作视频数据

UCF iPhone 运动中传感器数据

UCF YouTube 人类动作视频数据

UCF Sport 人类动作视频数据

UCF-ARG 人类动作视频数据

HMDB 人类动作视频

HOLLYWOOD2 人类行为动作视频数据

Recognition of human actions 动作视频数据

Motion Capture 动作捕捉视频数据

SBU Kinect Interaction 肢体动作视频数据

目标检测视频

UCSD Pedestrian 行人视频数据

Caltech Pedestrian 行人视频数据

ETH 行人视频数据

INRIA 行人视频数据

TudBrussels 行人视频数据

Daimler 行人视频数据

ALOV++ 物体追踪视频数据

密集人群视频

Crowd Counting 高密度人群图像

Crowd Segmentation 高密度人群视频数据

Tracking in High Density Crowds 高密度人群视频

其他视频

Fire Detection 视频数据

7音频数据

综合音频

Google Audioset 音频数据【数据太大仅有介绍】

语音识别

Sinhala TTS 英语语音识别

TIMIT 美式英语语音识别数据

LibriSpeech ASR corpus 语音数据

Room Impulse Response and Noise 语音数据

ALFFA 非洲语音数据

THUYG-20 维吾尔语语音数据

AMI Corpus 语音识别

8自然语言处理

RCV1

英语

新闻数据

20news 英语新闻数据

First Quora Release Question Pairs 问答数据

JRC Names

各国语言专有实体名称

Multi-Domain Sentiment V2.0

LETOR 信息检索数据

Yale Youtube Vedio Text

斯坦福问答数据【Kaggle数据】

美国假新闻数据【Kaggle数据】

NIPS会议文章信息数据(1987-2016)【Kaggle数据】

2016年美国总统选举辩论数据【Kaggle数据】

WikiLinks 跨文档指代语料

European Parliament Proceedings Parallel Corpus 机器翻译数据

WikiText 英语语义词库数据

WMT 2011 News Crawl 机器翻译数据

Stanford Sentiment Treebank 词汇数据

英语语言模型单词预测竞赛数据

9社会数据

希拉里邮件门泄露邮件

波士顿Airbnb 公开数据【Kaggle数据】

世界各国经济发展数据【Kaagle数据】

世界大学排名芝加哥犯罪数据(2001-2017)【Kaagle数据】

世界范围显著地震数据(1965-2016)【Kaagle数据】

美国婴儿姓名数据【Kaagle数据】

全世界鲨鱼袭击人类数据【Kaagle数据】

1908年以来空难数据【Kaagle数据】

2016年美国总统大选数据【Kaagle数据】

2013年美国社区统计数据【Kaagle数据】

2014年美国社区统计数据【Kaagle数据】

2015年美国社区统计数据【Kaagle数据】

欧洲足球运动员赛事表现数据【Kaagle数据】

美国环境污染数据【Kaagle数据】

美国H1-B签证申请数据Kaggle数据】

IMDB五千部电影数据【Kaggle数据】

2015年航班延误和取消数据【Kaggle数据】

凶杀案报告数据【Kaggle数据】

人力资源分析数据【Kaggle数据】

美国费城犯罪数据【Kaggle数据】

安然公司邮件数据【Kaggle数据】

历史棒球数据【Kaggle数据】

美联航 Twitter 用户评论数据【Kaggle数据】

波士顿 Airbnb 公开数据【Kaggle数据】

芝加哥市2001年以来犯罪记录数据

美国查塔努加市犯罪记录数据(2003年至今)

芝加哥街边咖啡厅季节中的人行道咖啡厅许可数据

芝加哥餐馆卫生检查结果数据

几个人类运动位置路线GPS数据集(骑行、跑步等)

10处理后的科研和竞赛数据

NIPS 2003 属性选择竞赛数据

台湾大学林智仁教授处理为 LibSVM 格式的分类建模数据

Large-scale 分类建模数据

几个UCI 中 large-scale 分类建模数据

Social Computing

Data Repository 社交网络数据

猫和狗分类识别竞赛数据【Kaggle竞赛】

DSTL 卫星图像识别竞赛数据【Kaggle竞赛】

根据手机应用软件使用行为预测用户性别年龄竞赛数据【Kaggle竞赛】

人脸关键点标定竞赛数据【Kaggle竞赛】

Kaggle竞赛数据合辑(部分竞赛数据)