#设备本地推理

0.5GB 内存跑多模态模型——谷歌把嵌入模型压到 740M：EmbeddingGemma 2 开源

谷歌开源 EmbeddingGemma 2——首个原生多模态开源嵌入模型，参数总量 740M、Apache 2.0 协议、0.5 GB 内存消费级设备可本地跑。模型不是单一结构，由 270M 文本 + 170M 视觉 + 300M 音频三个组件组合拼成。核心能力是把文字/代码/图像/音频/视频统一到同一个共享向量空间，端侧可完成跨模态检索和匹配，不依赖云端。GGUF 权重托管在 Hugging Face，Unsloth 提供运行和训练。参数分配透露出多模态核心地位——音频占比最大(300M)、视觉次之(170M)、文本最小(270M)，多模态不是文本模型的附属功能。