Swift-1.5-Qwen3.8-27B-Uncensored-Dynamic-MTP-GGUF (ajgazin)

27B 多模态 GGUF 量化，支持 MTP 自投机解码

入选理由: 可直接在 llama.cpp 运行,支持图像输入和 MTP 投机解码,多档量化适配不同显存,适合本地部署低拒答率多模态模型,但商用需注意 Swift Open License 限制。
对位: 对位 Qwen3-32B / Gemma-3-27B
适合: 本地多模态 GGUF 推理 / 12–48 GB 显存的量化部署
不适合: 需要强拒绝行为的合规场景
规模: 27B · 32k · Q4 ~18GB / FP16 ~65GB
授权: Swift Open License v1.0（≤$1M 免费，超出需企业授权） · 需自查
框架: llama.cpp
血统: 量化自 Swift-1.5-Qwen3.8-27B-Uncensored-MTP
可信度: 23,778 下载；卡内列明 12 个 UD 量化档、4 个 RCO 档及复现命令

快速上手示例

llama-server -hf ajgazin/Swift-1.5-Qwen3.8-27B-Uncensored-Dynamic-MTP-GGUF:UD-Q6_K_XL -ngl 99 -c 32768

依赖版本和硬件参数请以源仓库说明为准。

评分详情

作者: ajgazin
任务类型: image-text-to-text
推理库: gguf
下载: 23,778
点赞: 24
许可证: Swift Open License v1.0（≤$1M 免费，超出需企业授权）
标签: gguf, llama.cpp, qwen3_8, abliterated, uncensored, unsloth, imatrix, dynamic-quant, rco, mixed-precision, mtp, image-text-to-text, arxiv:2604.18556, arxiv:2605.00649, arxiv:2406.11717, base_model:ajgazin/Swift-1.5-Qwen3.8-27B-Uncensored-MTP, base_model:quantized:ajgazin/Swift-1.5-Qwen3.8-27B-Uncensored-MTP, license:other, region:us