此页是 2026-07-24 的观测快照,查看该模型当前信息 → /m/final-bench__pocket-kr-mlx/

归档 / 2026-07-24 / POCKET-KR-MLX (FINAL-Bench)

POCKET-KR-MLX (FINAL-Bench)

35B 韩语模型，在 iPhone/Mac 上用 MLX 本地运行

  • MLX
入选理由
Apple Silicon上原生运行35B MoE，5GB占用，CPU/GPU速度超过Bonsai，韩语优化，HF Space可试用。
对位
对位 Bonsai-27B（激活参数同量级）
适合
移动端韩语聊天 / 无需 GPU 的本地推理
不适合
高精度韩语专业翻译
规模
35B · 未知 · Q4 ~9.6GB / FP16 ~35GB
授权
Apache-2.0 · 需自查
框架
mlx
血统
量化自 Darwin-36B-Opus
可信度
发布者 VIDRAFT，提供与 Bonsai-27B 的 CPU/GPU 速度对比实测数据

仅 safetensors · 无 pickle 加载风险

快速上手示例

mlx_lm.generate --model FINAL-Bench/POCKET-KR-MLX

依赖版本和硬件参数请以源仓库说明为准。

评分详情

Q1
今天能接上用吗   5 / 5
Q2
有可信证据吗   1 / 5
Q3
是新东西吗   2 / 5
总分
8

HuggingFace 原始数据 (抓取于 2026-07-24)

作者
FINAL-Bench
任务类型
text-generation
推理库
mlx
下载
7
点赞
23
许可证
Apache-2.0
标签
mlx, safetensors, qwen3_5_moe, conversational, on-device, mobile, iphone, android, cpu, local-llm, edge, mixture-of-experts, moe, quantized, imatrix, pocket, vidraft, apple-silicon, korean, korean-llm, darwin, text-generation, base_model:FINAL-Bench/Darwin-36B-Opus, base_model:quantized:FINAL-Bench/Darwin-36B-Opus, license:apache-2.0, 2-bit, region:us

探索

源链接