🌳webml-community / ternary-bonsai-2-webgpu-kernels
这是一个在浏览器中通过 WebGPU 本地运行 Ternary-Bonsai-2-27B 三值 Transformer 模型的 demo,提供 27B 级推理;权重取值 {−1,0,+1},存储约 1.71 bits/weight,并适配 llama.cpp 后端。
运行模型 prism-ml/Ternary-Bonsai-2-27B-gguf →
收藏 61 · 1个月前更新
本页记录当日收录项目;运行状态与体验入口按当前结果更新。完整目录见 Space 体验目录。
这是一个在浏览器中通过 WebGPU 本地运行 Ternary-Bonsai-2-27B 三值 Transformer 模型的 demo,提供 27B 级推理;权重取值 {−1,0,+1},存储约 1.71 bits/weight,并适配 llama.cpp 后端。
运行模型 prism-ml/Ternary-Bonsai-2-27B-gguf →
可视化流程编辑器,用于搭建基于 LLM 的文本分析流水线;用户上传数据、配置处理节点,并接入任何 OpenAI 兼容 API(OpenAI、OpenRouter、Ollama/vLLM)运行,自带 API Key。
输入关键词,跨模型 / 数据集 / 空间 / 工具 / 资讯 / 论文 检索