模型 / POCKET-KR-MLX (FINAL-Bench)

POCKET-KR-MLX (FINAL-Bench)

35B 韩语模型,在 iPhone/Mac 上用 MLX 本地运行

作者 FINAL-Bench

仓库标识FINAL-Bench/POCKET-KR-MLX

~4.9GB 2-bit许可 可商用任务 文本生成最近核对 2026-07-24
格式
2-bit
文件
~4.3GB
运行内存
~4.9GB–6.4GB
运行时
MLX_LM
下载
7

仅 safetensors · 无 pickle 加载风险

Hugging Face 源仓库 ↗

快速上手示例

mlx_lm.generate --model FINAL-Bench/POCKET-KR-MLX

依赖版本和硬件参数请以源仓库说明为准。

适合与不适合

入选理由
Apple Silicon上原生运行35B MoE,5GB占用,CPU/GPU速度超过Bonsai,韩语优化,HF Space可试用。
对位
对位 Bonsai-27B(激活参数同量级)
适合
移动端韩语聊天 / 无需 GPU 的本地推理
不适合
高精度韩语专业翻译

完整规格

规模
35B · 下载 ~4.3GB · 显存最低 ~4.9GB · 推荐 ~6.4GB · 2-bit(估算)
授权
Apache-2.0 · 可商用
框架
mlx
血统
量化自 Darwin-36B-Opus
访问提示
Hugging Face 可能需要代理

下载动量

30天下载 314 → 214 · likes +6

观测时间线