Google Chrome、ユーザーの同意なしに4GBのローカルAIモデル「Gemini Nano」を自動ダウンロード

「OptGuideOnDeviceModel」に潜む4GB

プライバシー研究者で「That Privacy Guy」として知られるアレクサンダー・ハンフ氏が発見した。Chromeのフォルダ「OptGuideOnDeviceModel」の中に「weights.bin」というファイルがあり、その正体はGoogleの軽量AIモデル「Gemini Nano」だった。ファイルサイズは約4GBにのぼる。

Googleは米Gizmodoの取材に対し、Gemini Nanoは2024年からデバイス上に搭載されていると説明。目的は「ネットワーク接続やクラウドへのデータ送信を必要とせずに、リッチな生成AI体験を提供する」ことで、特にプライバシー保護が最優先事項の場合に有用だと述べている。

同意なしのダウンロードが問題に

ローカルAIモデルは本来、ユーザーのデバイスだけで処理が完結するためプライバシー面で優れている。しかし、ユーザーの同意なしに4GBものデータを黙ってダウンロードする手法は、データ使用量の観点からも透明性の観点からも問題がある。

特にモバイル環境では4GBのダウンロードは通信制限に直結する可能性があり、Googleの説明が不足していた点が批判を集めている。

Gemini Nanoをチャットボットとして使うと悲惨な結果に

GIZMODO編集部はGemini Nanoを実際にチャットボットとして動作させるテストを実施。結果は「初期のChatGPT程度」の性能で、ハルシネーションが多発した。

「モンキー・アイランド」のパズルに関する質問では、AIは「鍵穴は猿の頬袋にあり、鍵はココナッツの殻の形」と誤った回答をした（正解は耳に鍵を差し込み、鍵の形は巨大な綿棒）。また、アメリカ大統領を就任時年齢順に並べるよう依頼したところ、「ジョン・F・リンカーン」という架空の大統領を捏造し、訂正を求めても再び同じ誤りを繰り返した。

さらにテスト中、キャラクター設定の変更指示を無視し続けるという問題も確認された。

Gemini Nanoの本来の用途

GoogleはGemini Nanoをチャットボットとして使用することを想定していない。開発者がネットワーク接続なしでスマートリプライや要約などの機能を提供するためのローカルAI基盤として設計されている。4GBというサイズでこれだけの性能があれば、GPT-3（350GB）と比較すればむしろ効率的とも言える。

しかし、Chromeがユーザーに通知せずに4GBものデータをダウンロードしている事実は、今後のAI機能の組み込み方に関する議論を呼ぶことになりそうだ。