Hy4-preview-GGUF (Tencent) 腾讯 Hy4 量化版,需补丁构建 llama.cpp 入选理由腾讯 Hy4-preview 的 GGUF 量化包,提供 Q4_K_M 和半精度 STQ1_0 方案,MoE+MLA 架构,需自行打补丁编译 llama.cpp,适合具备多卡高显存环境的玩家。 对位对位 DeepSeek-V3(671B 级 MoE) 适合8xH20 以上集群批处理推理 / 验证 2.38bpw 混合量化策略 不适合单卡或未打补丁 llama.cpp 规模未公开 · 未知 授权未知 · 需自查 框架llama.cpp 可信度109k 下载,附补丁与量化配方及 8xH20 实测