sakthai-context-0.5b-merged (Nanthasit)

边缘工具调用模型，基于 Qwen2.5-0.5B，可在树莓派运行

入选理由: 轻量级工具调用模型，基于Qwen2.5-0.5B，支持Ollama一键运行，适合边缘设备如树莓派。提供GGUF量化与Transformers代码。
对位: 对位 Qwen2.5-0.5B-Instruct
适合: 低资源设备上的工具调用 / 作为轻量 AI 助手的本地推理
不适合: 高频长文本或复杂多步推理
规模: 0.5B · 未知 · Q4 ~0.3GB / FP16 ~1.2GB
授权: apache-2.0 · 需自查
框架: transformers / ollama / llama.cpp
工具调用: 自定义 <tool_call> XML 格式
血统: 量化自 Qwen2.5-0.5B-Instruct
可信度: 下载量 1370，SakThai Bench v2 选择准确率 91.2%

仅 safetensors · 无 pickle 加载风险

快速上手示例

ollama run hf.co/Nanthasit/sakthai-context-0.5b-merged

依赖版本和硬件参数请以源仓库说明为准。

评分详情

作者: Nanthasit
任务类型: text-generation
推理库: transformers
下载: 1,370
点赞: 0
许可证: apache-2.0
标签: transformers, safetensors, gguf, qwen2, text-generation, qwen2.5, sakthai, house-of-sak, tool-calling, function-calling, merged, edge, lightweight, low-resource, raspberry-pi, on-device, ollama, benchmark, conversational, en, dataset:Nanthasit/sakthai-combined-v7, dataset:Nanthasit/sakthai-bench-v2, base_model:Qwen/Qwen2.5-0.5B-Instruct, base_model:quantized:Qwen/Qwen2.5-0.5B-Instruct, license:apache-2.0, model-index, eval-results, text-generation-inference, endpoints_compatible, region:us