此页是 2026-08-17 的观测快照,查看该模型当前信息 → /m/blackfrost-ai__qwen38-27b-abliterated-gguf/

归档 / 2026-08-17 / Qwen3.8-27B-ABLITERATED (Blackfrost)

Qwen3.8-27B-ABLITERATED (Blackfrost)

GGUF 量化 27B 图文模型,供 llama.cpp 本地部署

入选理由
Qwen3.8-27B 的去拒答 GGUF,可直接用 llama.cpp 部署,支持多模态与工具调用,适合本地试用,需 16GB 以上显存或内存。
对位
对位 Gemma-2-27B、Qwen2.5-32B
适合
本地图文/视频输入 GGUF 推理 / 长上下文与工具调用实验
不适合
安全合规要求高的生产环境
规模
27B · 262k · Q4 ~18GB / FP16 ~65GB
授权
Apache-2.0 · 需自查
框架
llama.cpp
血统
量化自 Qwen3.8-27B-ABLITERATED-BF16
可信度
58.7k 下载;Q4_K_M 通过 llama.cpp 实测;拒答残 11/450

快速上手示例

llama-server -hf Blackfrost-AI/Qwen3.8-27B-ABLITERATED-GGUF:Q4_K_M -ngl 999 --jinja -c 16384

依赖版本和硬件参数请以源仓库说明为准。

评分详情

Q1
今天能接上用吗   5 / 5
Q2
有可信证据吗   3 / 5
Q3
是新东西吗   1 / 5
总分
9

HuggingFace 原始数据 (抓取于 2026-08-17)

作者
Blackfrost-AI
任务类型
image-text-to-text
推理库
gguf
下载
58,708
点赞
119
许可证
Apache-2.0
标签
gguf, qwen3.8, qwen, 27b, dense, abliterated, quantized, multimodal, reasoning, tool-calling, llama.cpp, long-context, image-text-to-text, base_model:Blackfrost-AI/Qwen3.8-27B-ABLITERATED-BF16, base_model:quantized:Blackfrost-AI/Qwen3.8-27B-ABLITERATED-BF16, license:apache-2.0, endpoints_compatible, region:us, conversational

探索

源链接