8GB 显存能跑的智能体模型
共 8 个
显存档为包含式:更低显存也能跑的模型一并列在此。数值取 Q4 量化后显存估算。
MiniCPM5-1B-Claude-Opus-Fable5-V2-Thinking (GnLOLot) 1B 工具调用思考模型 GGUF 量化，本地运行 MaralGPT-Mythos-9B (MaralGPT) 无审查 Qwen3.5-9B 微调，用于网络安全与生物医学 Gemma-4-12B Agentic v2 (yuxinlu1) 编程与工具调用代理微调，供开发者本地使用 Huihui-Qwythos-9B-1M (huihui-ai) 未审查 1M 上下文 Qwen3.5 微调，支持工具调用 Gemma4-12B-Uncensored (HauhauCS) 解除审查的Gemma4多模态模型，面向代理编码与创意写作 Qwythos-9B (Empero) 开源 9B 推理模型，不审查，支持 1M 上下文和函数调用 MiniCPM5-1B (OpenBMB) 1B 模型 GGUF 量化，本地 agent 与边缘部署用 Qwopus3.5-9B-Coder-MTP (Jackrong) 9B多令牌预测代码模型，GGUF量化，面向代码推理