togethercomputer / RedPajama-Data-1T
遵循LLaMA数据集格式的开源文本数据
2年前更新
已被取代 RedPajama-Data-V2 · V2 将规模从 1.2T 扩展到 30T tokens,覆盖 84 个 CommonCrawl 快照,是官方推荐的后续版本
项目方资料核对
- 原始web数据存在HTML转文本伪影、低质量来源和内容偏差,不宜直接用于LLM训练
2 个来源 · 截至 2026-06-20
2026-06-07 
2026-06-07 2026-06-07 遵循LLaMA数据集格式的开源文本数据
2年前更新
已被取代 RedPajama-Data-V2 · V2 将规模从 1.2T 扩展到 30T tokens,覆盖 84 个 CommonCrawl 快照,是官方推荐的后续版本
2 个来源 · 截至 2026-06-20