Google(Google DeepMind)は10月6日、テキスト・コード・画像・動画・音声を1つの意味空間に変換できるオンデバイス向け埋め込みモデル「EmbeddingGemma 2」を発表した。Apache 2.0ライセンスで公開され、Hugging FaceやKaggleから即日ダウンロードできる。2025年9月公開の初代モデルはテキストのみに対応していたが、新版では複数のメディア形式をまとめて扱えるようになった。
新モデルは合計7億4000万パラメータで構成され、テキスト用の2億7000万パラメータの本体に、画像用の1億7000万パラメータ・音声用の3億パラメータのエンコーダーを組み合わせる設計となっている。開発者はアプリの用途に応じて必要なモジュールだけを読み込める。コンテキストウィンドウも初代の2000トークンから8000トークンへと4倍に拡大された。
ベースとなるアーキテクチャも第3世代の「Gemma 3」から第4世代の「Gemma 4」に切り替わった。出力する埋め込みベクトルは、Matryoshka Representation Learningという手法により768次元から512・256・128次元へと必要に応じて圧縮でき、オンデバイスでのベクトル検索に使うストレージを抑えられるという。初代モデルは200MB未満のメモリで動く軽量さが特徴だったが、新版は対応するメディアが増えた分、相応にモデルサイズも大きくなっている。
Googleは、初代EmbeddingGemmaがこれまでに2000万回以上ダウンロードされたことを明らかにしており、オンデバイスでの検索や検索拡張生成(RAG)用途での需要の高さを、新版投入の背景として挙げている。
出典: OfficeChai
