Hy4-preview-GGUF (Tencent)

腾讯 Hy4 量化版，需补丁构建 llama.cpp

仓库标识AngelSlim/Hy4-preview-GGUF

显存未知许可需自查最近核对 2026-09-05

链接指向的配置不在本页收录的形态里,已显示默认形态(GGUF)。

适合与不适合

入选理由: 腾讯 Hy4-preview 的 GGUF 量化包，提供 Q4_K_M 和半精度 STQ1_0 方案，MoE+MLA 架构，需自行打补丁编译 llama.cpp，适合具备多卡高显存环境的玩家。
对位: 对位 DeepSeek-V3（671B 级 MoE）
适合: 8xH20 以上集群批处理推理 / 验证 2.38bpw 混合量化策略
不适合: 单卡或未打补丁 llama.cpp

30天下载 171.4k → 323.7k