🌳webml-community / ternary-bonsai-2-webgpu-kernels
这是一个在浏览器中通过 WebGPU 本地运行 Ternary-Bonsai-2-27B 三值 Transformer 模型的 demo,提供 27B 级推理;权重取值 {−1,0,+1},存储约 1.71 bits/weight,并适配 llama.cpp 后端。
用途与交互
- 用途
- 用途待核
空间 / webml-community / ternary-bonsai-2-webgpu-kernels
这是一个在浏览器中通过 WebGPU 本地运行 Ternary-Bonsai-2-27B 三值 Transformer 模型的 demo,提供 27B 级推理;权重取值 {−1,0,+1},存储约 1.71 bits/weight,并适配 llama.cpp 后端。
输入关键词,跨模型 / 数据集 / 空间 / 工具 / 资讯 / 论文 检索