SummFlow 2026-06-14 Hugging Face

Averroes-Q-Instruct (hayulalab)

Qwen2 架构的阿/英指令模型 GGUF 量化

  • Apple Silicon
入选理由
阿拉伯语/英语双语指令Qwen2模型的GGUF量化，可直接用llama.cpp或Ollama本地运行，适合需要阿拉伯语对话的用户。
对位
对位 Qwen2-7B-Instruct
适合
阿拉伯语/英语混合指令跟随 / 消费级设备本地推理
不适合
非阿拉伯语/英语任务
规模
7B · 未知
授权
apache-2.0 · 可商用
框架
llama.cpp / ollama / llama-cpp-python
血统
量化自 Averroes-Q-Instruct
可信度
GGUF 量化自 hayulalab/Averroes-Q-Instruct (Apache 2.0)，基于 Qwen2 架构。

快速上手

ollama run hf.co/mradermacher/Averroes-Q-Instruct-GGUF