SummFlow 2026-05-23 Hugging Face

🌌nanotron / ultrascale-playbook

Hugging Face Nanotron 团队做的互动电子书/教程 Space,用实战视角系统讲清怎么在多机多卡 GPU 集群上训练大规模 LLM(数据并行、模型并行、流水线并行、ZeRO、内存/带宽瓶颈等),基于他们在 4,000+ 次、最高 512 GPU 的真实缩放实验经验总结,被称为“大规模 LLM 训练终极指南”。

收藏 3.9k · 11个月前更新
  • static
  • 运行中
详情