SummFlow 2026-06-25 Hugging Face

Mythos-nano (squ11z1)

轻量推理模型,专注数学与代码任务的本地运行

入选理由
Mythos-nano 的 GGUF 量化版,提供从 IQ1_S 到 Q6_K 多种精度,可直接用 Ollama 运行,适合本地部署小模型做推理/数学/代码任务。
对位
对位 Qwen2-1.5B
适合
本地数学推理与简单代码生成 / 轻量级智能代理原型开发
不适合
复杂多步推理或长文本理解
规模
未知 · 未知
授权
MIT · 需自查
框架
llama.cpp / ollama
血统
量化自 Mythos-nano
可信度
HF 下载量 4.9k,点赞 52,基于 Qwen2 蒸馏,许可 MIT

社区实测

社区普遍持怀疑态度,认为 3B 参数模型声称击败 Opus 4.5 和 GPT 5 的说法缺乏可信度,这也是该模型鲜有人讨论的原因

  • 可在本地通过 Llama.cpp 运行,适合资源受限的本地推理场景
  • 基于 Qwen 2.5 的 3B 参数模型,声称能与前沿模型匹敌的说法缺乏独立验证,社区认可度低

截至 2026-06-28

快速上手

from llama_cpp import Llama; llm = Llama.from_pretrained(repo_id='mradermacher/Mythos-nano-i1-GGUF', filename='Mythos-nano.i1-Q4_K_M.gguf')