Qwen3.8-27B-ABLITERATED (Blackfrost)

GGUF 量化 27B 图文模型，供 llama.cpp 本地部署

仓库标识Blackfrost-AI/Qwen3.8-27B-ABLITERATED-GGUF

~16GB 4-bit许可可商用任务智能体最近核对 2026-08-17

快速上手示例

llama-server -hf Blackfrost-AI/Qwen3.8-27B-ABLITERATED-GGUF:Q4_K_M -ngl 999 --jinja -c 16384

依赖版本和硬件参数请以源仓库说明为准。

适合与不适合

入选理由: Qwen3.8-27B 的去拒答 GGUF，可直接用 llama.cpp 部署，支持多模态与工具调用，适合本地试用，需 16GB 以上显存或内存。
对位: 对位 Gemma-2-27B、Qwen2.5-32B
适合: 本地图文/视频输入 GGUF 推理 / 长上下文与工具调用实验
不适合: 安全合规要求高的生产环境

30天下载 266.7k → 321.7k