支持MTP加速的3B激活参数量化视觉语言模型,面向本地编程代理
适合本地多模态推理与编程代理 (MTP加速) / 视觉问答、文档理解与工具调用
短板要求原始精度的量化敏感场景
35B (3B active, Q4_K_XL) · Apache-2.0 · 262k (可扩展至1M) · llama.cpp可商用
证据237.6k 下载 / 249 赞 / 12 个社区来源
支持MTP加速的3B激活参数量化视觉语言模型,面向本地编程代理
适合本地多模态推理与编程代理 (MTP加速) / 视觉问答、文档理解与工具调用
短板要求原始精度的量化敏感场景
35B (3B active, Q4_K_XL) · Apache-2.0 · 262k (可扩展至1M) · llama.cpp可商用
证据237.6k 下载 / 249 赞 / 12 个社区来源
输入关键词,跨模型 / 数据集 / 空间 / 工具 / 资讯 / 论文 检索