Laguna-S-2.1-NVFP4 (poolside)
117.6B MoE (8.5B 激活) 代理编码模型，本地设备可运行
作者 poolside
~75GB 8-bit许可 需自查任务 文本生成最近核对 2026-07-23
- 格式
- 8-bit
- 文件
- ~65GB
- 运行内存
- ~75GB–97GB
- 运行时
- VLLM
- 下载
- 1,953
仅 safetensors · 无 pickle 加载风险
Hugging Face 源仓库 ↗
快速上手示例
vllm serve poolside/Laguna-S-2.1-NVFP4 点击复制
依赖版本和硬件参数请以源仓库说明为准。
适合与不适合
- 入选理由
- Laguna S 2.1 的 NVFP4 量化版，Ollama 一键运行，适合本地部署做编码 agent 任务，但本质是量化版本。
- 对位
- 对位 Mixtral-8x7B (12.9B 激活)
- 适合
- 代理编码与长周期任务 / 支持工具调用与推理
- 不适合
- 通用闲聊或非代码场景
完整规格
- 规模
- 117.6B (8.5B 激活) · 256K · 下载 ~65GB · 显存最低 ~75GB · 推荐 ~97GB · 8-bit(估算)
- 授权
- OpenMDW-1.1 · 需自查
- 框架
- vllm / sglang / transformers / trt-llm / ollama / llama.cpp
- 工具调用
- poolside_v1 格式
- 血统
- 量化自 Laguna-S-2.1
- 访问提示
- Hugging Face 可能需要代理