FastContext-1.0-4B-SFT (Microsoft)

独立证据与社区反馈

7 个独立来源 · 另 2 官方/转载最近验证 2026-08-05

FastContext 是一个 4B 参数的仓库探索子模型，通过分离仓库探索与任务求解来降低编码代理的 token 消耗，最高可节省 60.3% 的 token；社区实测发现它确实能节省大量 token 并提升部分基准的端到端准确率，但检索准确性不稳定，有时会返回不存在的文件路径；此外微软已删除原始模型仓库，仅靠社区镜像维持可用。

• 大幅降低主编码模型的 token 消耗，最高可达 60.3%
• 提升多个主模型在 SWE-bench Pro、SWE-bench Multilingual、SWE-QA 等基准上的端到端准确率
• 4B 参数量的轻量模型可在本地运行，有 GGUF 量化版本可用
• 将仓库探索与任务求解分离，减少大模型在文件读取和搜索上浪费的工具调用与上下文
• 4B-RL 版本在部分基准上可超越 30B-SFT 版本
• MIT 许可证开源，社区可自由分发与二次开发

• 微软已删除原始模型仓库及 GitHub 页面，官方分发渠道已不可用
• 检索结果存在准确性缺陷，社区实测中出现返回不存在文件路径的情况
• 社区反馈综合体验不佳，有用户直接评价为'trash'
• 论文自述部分基准任务可能与预训练数据有重叠，结果需谨慎解读
• vLLM 部署时需使用 hermes 解析器，不能直接使用通用 OpenAI tools schema
• 模型使用 tie_word_embeddings=true，lm_head 权重可能与常规 checkpoint 结构不同
• NVFP4 格式的 KV cache 在主流部署栈上不可用，需使用 fp8 KV

• 独立评测FastContext-1.0-4B-SFT — LLM listing | explainx.ai
• 基准/排行FastContext: Training Efficient Repository Explorer for Coding Agents
• 独立评测Microsoft FastContext: The 4B Bug Hunter: Run Locally
• 社区实测Microsoft has taken down fastcontext model from everywhere
• 社区实测Why is NO one talking about Microsoft's open source Fast Context!!!
• 独立评测Medium
• 独立评测FastContext-1.0-4B-SFT VRAM Requirements: ~9 GB, Cheapest GPU from $0.53/hr | Spheron
• 转载/仓库mitkox/FastContext-1.0-4B-SFT-Q4_K_M-GGUF · Hugging Face
• 转载/仓库FastContext-1.0-4B-RL-NVFP4/AGENTS.md at main

可信度集成后 SWE-bench Multilingual 73.3 (↑1.6), token 降 20.4%