🌳webml-community / bonsai-webgpu-kernels
在浏览器中使用WebGPU运行1-bit 27B大语言模型,权重为单符号位加共享FP16缩放因子,有效比特率1.125比特/权重,较FP16压缩约14.2倍。
空间 / webml-community / bonsai-webgpu-kernels
在浏览器中使用WebGPU运行1-bit 27B大语言模型,权重为单符号位加共享FP16缩放因子,有效比特率1.125比特/权重,较FP16压缩约14.2倍。
输入关键词,跨模型 / 数据集 / 空间 / 工具 / 资讯 / 论文 检索