数据集 / HuggingFaceFW / fineweb-edu

HuggingFaceFW / fineweb-edu

从FineWeb中筛选的教育类网页数据集，使用LLM分类器。

作者
HuggingFaceFW
规模
34.97亿行 · 6.2 TB
模态
多模态
任务
文本生成
授权
odc-by · 可商用
语种
en
下载
382,429
收藏
1,177

社区实测

社区认可其开放透明(脚本完整公开)与教育子集的高质量,认为技术报告为预训练数据构建提供了宝贵参考

  • 预训练数据构建过程不透明:多数大模型厂商不公开数据细节,该数据集完整公开了所有处理脚本
  • 大规模高质量开源预训练数据的获取:15万亿token规模且质量超越同类数据集
来源

FineWeb: Decanting the web for the finest text data at scale | Hacker NewsFineWeb-Edu: How to Make a Very High-Quality Dataset to Pre-train ...

截至 2026-06-20

  • pyfrom datasets import load_dataset ds = load_dataset("HuggingFaceFW/fineweb-edu")

观测时间线