paw-programs (programasweights)
用途未公开
社区实测
PAW 将自然语言任务编译为 22MB 的本地 LoRA 程序，在 0.6B 解释器上跑出 32B 模型的准确率，推理成本极低且离线可用，适合生产环境中的模糊文本任务；但编译器为闭源云端服务，多步推理、跨平台兼容性仍有明显短板，目前仅适用于单步模式匹配场景。
- 编译一次即可离线运行，无需持续调用 API，将模糊文本任务的推理成本降至接近零
- 0.6B 解释器 + 23MB 适配器在 FuzzyBench 上达到 73.8%，超过 Qwen3-32B 直接推理的 68.7%，推理内存仅约 1/50
- MacBook M3 上可达 30 tokens/s，CPU 上单次调用约 300-500ms，本地部署可行
- 自然语言一句话即可定义函数，替代传统规则编程难以覆盖的模糊任务（日志告警、JSON 修复、邮件分拣、语义搜索）
- pip install 即可安装，编译产物作为普通 Python 函数运行，集成门槛低
- 同一解释器可热插拔不同 LoRA 适配器，一套运行时支持多种任务切换
- 本地运行无需上传数据，满足隐私敏感场景需求
- 编译器为闭源云端服务，编译过程不可控，用户无法自行部署或审计编译逻辑
- 多步推理任务表现不佳，不适用于需要链式思考的复杂场景
- 对自然语言描述字面化解读，缺乏语义灵活性
- Windows 下存在兼容性 bug，跨平台体验不完善
- 仅适用于模糊模式匹配类任务，不具备通用推理能力
- 编译器本身需 4B 参数运行，编译阶段仍需 GPU 资源
来源
TechTimes: Compile Once, Run Offline - PAW 匹配 32B 模型仅需 23MB 文件YouTube: 实机安装与测试（Prompt Engineer）arXiv: Program-as-Weights 论文YouTube: PAW 编译任务到本地 LLM 权重ProgramAsWeights 官网LinkedIn: Liliana Hotsko 发布 PAWHuggingFace: PAW 论文页Yuntian Deng 个人主页
截至 2026-07-12