Transformers

framework
model

预训练模型的事实标准加载库:集中定义模型架构,训练框架与推理引擎共享同一套模型格式

Python
Apache-2.0
162k ★
Python 3.10+ · PyTorch 2.4+
1M+ 预训练模型检查点

Hugging Face 维护的 Python 模型定义框架,覆盖文本、视觉、音频、视频及多模态模型的推理与训练。它的核心设计是把模型架构定义集中维护,使 Axolotl、Unsloth、DeepSpeed、FSDP 等训练框架与 vLLM、SGLang、TGI 等推理引擎都能基于同一份模型定义工作,社区因此把它当成加载预训练模型的通用入口——代码里 from_pretrained() 一行即可下载并加载模型,已发布在 Hub 上的模型检查点超过 100 万。高层 API Pipeline 把预处理、推理、后处理串成一次调用;Trainer 封装了混合精度、torch.compile、分布式训练等完整训练流程。还内置了一个 OpenAI 兼容的服务端 transformers serve,支持 chat/completions/responses/transcriptions 等端点。

社区实测

社区普遍将 Transformers 视为 Python 生态中加载预训练模型的标准入口,`from_pretrained()` 已成为事实 API;多数第三方框架围绕其模型定义构建兼容层

统一模型加载接口:不同架构的模型通过相同的 `from_pretrained()` / `Pipeline` API 调用,降低上手成本
跨框架互操作:一份模型定义在 PyTorch、JAX、TensorFlow 之间迁移,训练框架与推理引擎共享同一份模型格式
模型分发:Hub 上 100 万+ 检查点可直接下载使用,省去从头训练的算力与时间

库体积大、依赖重,在轻量部署场景中不如直接使用 ONNX 或 llama.cpp 等方案
训练 API 专为其 PyTorch 模型设计,通用训练循环建议用 Accelerate 等独立库
源码安装的 latest 版本可能不稳定,生产环境建议使用 PyPI 稳定版

来源

Transformers: State-of-the-Art Natural Language Processing (EMNLP 2020)Hugging Face Transformers: Leverage Open-Source AI in Python | Real Python Hugging Face Transformers 4.0 release discussion | Hacker News

截至 2026-07-05

pip install "transformers[torch]"

conda install conda-forge::transformers