模型 / Averroes-Q-Instruct (hayulalab)

Averroes-Q-Instruct (hayulalab)

Qwen2 架构的阿/英指令模型 GGUF 量化

作者
mradermacher
对位
对位 Qwen2-7B-Instruct
适合
阿拉伯语/英语混合指令跟随 / 消费级设备本地推理
不适合
非阿拉伯语/英语任务
入选理由
阿拉伯语/英语双语指令Qwen2模型的GGUF量化，可直接用llama.cpp或Ollama本地运行，适合需要阿拉伯语对话的用户。
规模
7B · 最低 ~4.2GB · 4-bit(估算)
授权
apache-2.0 · 可商用
框架
llama.cpp / ollama / llama-cpp-python
血统
量化自 Averroes-Q-Instruct
国内访问
需代理
可信度
GGUF 量化自 hayulalab/Averroes-Q-Instruct (Apache 2.0)，基于 Qwen2 架构。

本形态 ~4.2GB 4-bit · 国内 需代理 · 388 下载

快速上手

ollama run hf.co/mradermacher/Averroes-Q-Instruct-GGUF

本形态源 ↗

下载动量

观测时间线