模型 / Hy-MT2-30B-A3B-APEX (Tencent)

Hy-MT2-30B-A3B-APEX (Tencent)

多语言翻译 MoE 模型的 APEX 量化版,供本地 GGUF 推理

作者
alphaZimuth
对位
对位 NLLB-3.3B / MADLAD-400-3B 等翻译模型
适合
多语种离线文本翻译 / 本地资源受限设备翻译服务
不适合
需要在线 API 的场景
入选理由
腾讯Hy-MT2翻译模型的GGUF量化版,直接下载即可用llama.cpp进行多语言翻译,适合需要本地部署离线翻译的用户。
规模
30B (3B 激活) · Q4 ~20GB / FP16 ~72GB
授权
Apache-2.0 · 需自查
框架
llama.cpp / ollama
国内访问
需代理
可信度
基于腾讯 Hy-MT2-30B-A3B 官方 BF16 权重,使用开源 APEX 框架量化,流程可复现

本形态显存 Q4 ~20GB / FP16 ~72GB · 国内 需代理 · 316 下载

快速上手

ollama run hf.co/alphaZimuth/Hy-MT2-30B-A3B-APEX-GGUF

本形态源 ↗

下载动量

观测时间线