North-Mini-Code-1.0 (Cohere)
30B总/3B激活的MoE代码代理模型,专注代码生成与终端任务
社区实测
社区认为这是一款有潜力的专项编程模型,编程能力接近更大参数量的模型,但通用基准落后且输出偏冗长。
- 单张 H100 即可运行的开放权重编程模型
- 编程专项能力接近 Qwen 3.6 35B 水平
- 支持 256K 上下文与 64K 输出的 agentic 编程工作流
- 输出量约为同类模型 3 倍,生产环境中推理成本偏高
- 通用基准得分(28)明显落后于 Qwen 3.6 35B(43)
来源
Cohere North Mini Code 1.0 : r/LocalLLaMA - RedditCohere open-sources a coding agent that runs on a single H100
截至 2026-06-19
快速上手
llama-server -hf unsloth/North-Mini-Code-1.0-GGUF --model North-Mini-Code-1.0-UD-Q4_K_XL.gguf --jinja --n-gpu-layers 99 --ctx-size 16384 (需llama.cpp PR #24260)