紧凑推理微调,减少冗余推理轨迹,降低推理token消耗
适合低成本推理服务 / 数学与代码紧凑推理
短板需要长推导的复杂推理
Q4 ~7.9GB / FP16 ~29GB · other · 未知 · transformers需自查
证据797 下载 / 47 赞 / 3 个社区来源
紧凑推理微调,减少冗余推理轨迹,降低推理token消耗
适合低成本推理服务 / 数学与代码紧凑推理
短板需要长推导的复杂推理
Q4 ~7.9GB / FP16 ~29GB · other · 未知 · transformers需自查
证据797 下载 / 47 赞 / 3 个社区来源
输入关键词,跨模型 / 数据集 / 空间 / 工具 / 资讯 / 论文 检索