机器学习数据集，数据集是被标记标签（manual labeling）的数据，数据的类型是多样的，包括：图片、音频、文本等
分类
数据集从功能上分类：
- Training set
- Test set
- Dev set
- 等
类别
MNIST: 经典的小型（28x28 像素）灰度手写数字数据集，共 10 类，用于灰度数据图像识别。训练集 60000 张，测试集 10000 张。CIFAR10: 10 个类别，32x32 像素彩色图像，用于图像分类。训练集 50000 张，测试集 10000 张。CIFAR100: 100 个类别，32x32 像素彩色图像，用于图像分类。训练集 50000 张，测试集 10000 张。IMDB REVIEWS: 电影影评情感分类，训练集 25000 条评论，正面评价标为 1，负面评价标为 0。测试集 25000 条评论。TF FLOWERS: 数据集为五种花朵数据集，分别为雏菊（daisy），郁金香（tulips），向日葵（sunflowers），玫瑰（roses），蒲公英（dandelion）。FASHION MNIST: 训练集 60000 张，大小 28*28，共 10 类（0-9），测试集 10000 张图像。CATS VS DOGS: Kaggle 大数据竞赛的猫狗大战数据集，有 1738 张图片可供训练。
下载地址
- Open Datasets https://www.kaggle.com/datasets
- MOT17 Challenge https://motchallenge.net/data/MOT17/
- 城市街景实例/语义分割 https://www.cityscapes-dataset.com/
- ImageNet 1000 类分类识别数据集
- ImageNet是一个根据 WordNet 层次结构组织的图像数据库（目前只有名词），其中层次结构的每个节点都由成百上千的图像来描述
- 大型目标跟踪数据集 https://got-10k.aitestunion.com
- RoBERTa 预训练模型 https://docs.qq.com/sheet/DVnpkTnF6VW9UeXdh?tab=BB08J2
- 视网膜病变研究的数据集 http://drive.grand-challenge.org/
- 密集人群中行人跟踪数据集（多目标跟踪） https://motchallenge.net/data/MOT20/
- 自动驾驶场景数据集 https://www.cvlibs.net/datasets/kitti/
- 航拍图像物体检测数据集 https://captain-whu.github.io/DOTA
- ADE20K 场景语义分割数据集 https://sceneparsing.csail.mit.edu
说明
- 数据通常是混乱（messy）的
- limitations of ML
- Insufficient data
- Mislabeled data
- Ambiguous labels
- Garbage in, Garbage out
- Data 的问题包括：
- 错误的 labels
- 错误的 value
- having more data almost never hurts
- small datasets, already can make progress
大模型对比使用的数据集
以下为 deepseek-r1 和其他模型能力对比数据集
- AIME 2024 包含 2024 年美国数学邀请赛（AIME）中的问题
- AIME 是一项著名的高中数学竞赛，以其具有挑战性的数学问题而闻名
- Codeforces 是最受竞技程序员欢迎的网站之一，定期举办竞赛，参赛者必须解决具有挑战性的算法优化问题
- GPQA Diamond 是一个由生物学、物理学和化学专家编写和验证的多选题、问答题数据集，其中包含难度极高的问题
- MATH-500 该数据集包含 OpenAI 在 “逐步验证”（Let’s Verify Step by Step）论文中创建的 MATH 基准中 500 个问题的子集
- MMLU
- SWE-bench Verified 是 SWE-bench 测试集中 500 个样本的子集，这些样本的质量已经过人工验证