模型 / Koleslaw-Nemotron-30B (ThunkAboutIt)

Koleslaw-Nemotron-30B (ThunkAboutIt)

把粗糙提示变成结构化详细提示,方便交给任意模型

作者 thunkaboutit

仓库标识thunkaboutit/Koleslaw-Nemotron-30B-A3B-PromptEnhance

~19GB 4-bit许可 需自查任务 文本生成最近核对 2026-08-05
格式
4-bit
文件
~16GB
运行内存
~19GB–25GB
运行时
OLLAMA
下载
633

仅 safetensors · 无 pickle 加载风险

Hugging Face 源仓库 ↗

快速上手示例

ollama run hf.co/thunkaboutit/Koleslaw-Nemotron-30B-A3B-PromptEnhance

依赖版本和硬件参数请以源仓库说明为准。

适合与不适合

入选理由
专用于 prompt 增强的 Nemotron 微调,提供 GGUF 和 Ollama 用法,可在 24GB 显存运行,适合把粗略需求转成结构化提示词。
对位
对位 Qwen2.5-32B 等 30B 级开源模型
适合
将含糊需求转为结构化任务提示 / 作为 AI 工作流的前置输入优化
不适合
非英文提示或通用对话

独立证据与社区反馈

5 个独立来源最近验证 2026-08-05

社区对 Nemotron 30B 系列评价两极,有人惊艳于其同尺寸下的智能表现,也有人反馈出错较多、一致性不如同类模型。

  • 在 30B 规模下展现出超出预期的通用问题回答能力
  • 幻觉测试、知识回忆、列表合并等任务表现良好,且回答简洁不冗长
  • 在系统内存中推理速度约 2-3 tokens/s
  • 30B 版本稳定性不足,存在较多错误
  • 一致性不如 qwen3-coder 30B-A3B
  • 部分用户更倾向于使用 qwen3.6 或 gemma-4

可信度生产驱动 koleslaw.ai,量化效果对比(IQ4_NL vs Q8_0)及评测数据已公开

完整规格

规模
31.6B · 8K · 下载 ~16GB · 显存最低 ~19GB · 推荐 ~25GB · 4-bit(估算)
授权
NVIDIA Nemotron Open Model License · 需自查
框架
ollama / llama.cpp / vllm / transformers
血统
LoRA · 基于 NVIDIA-Nemotron-3-Nano-30B-A3B-BF16
访问提示
Hugging Face 可能需要代理

下载动量

30天下载 1.3k → 784 · likes +1

观测时间线

模型家族

查看全部家族 →