EmbeddingGemma-2-GGUF (Unsloth)

多模态 embedding，768 维，覆盖文本/图像/视频/音频。

入选理由: EmbeddingGemma 2 的 GGUF 量化版，多模态统一嵌入，支持文本/图像/视频/音频，可直接用 llama.cpp 本地跑，适合检索和 RAG。
对位: 对位 Qwen3-Embedding-0.6B（同级开源）
适合: 多模态语义检索与 RAG / 文本/图像/音频聚类和分类
不适合: float16 推理，会出现 NaN 或静默降级
规模: 740M · 8k · Q4 ~0.5GB / FP16 ~1.8GB
授权: Apache-2.0 · 需自查
框架: llama.cpp / sentence-transformers
血统: 量化自 embeddinggemma-2
可信度: 下载 11470，点赞 165；由 Unsloth 量化原版 Google EmbeddingGemma 2。

快速上手示例

llama-server -hf unsloth/embeddinggemma-2-GGUF

依赖版本和硬件参数请以源仓库说明为准。

评分详情

作者: unsloth
任务类型: feature-extraction
推理库: 未指定
下载: 11,470
点赞: 165
许可证: Apache-2.0
标签: gguf, embedding, feature-extraction, multimodal-embedding, multimodal, vision, audio, video, image-feature-extraction, audio-feature-extraction, video-feature-extraction, sentence-similarity, unsloth, multilingual, base_model:google/embeddinggemma-2, base_model:quantized:google/embeddinggemma-2, license:apache-2.0, endpoints_compatible, region:us, conversational