ทันเอไอ

Google、Google EarthからAI画像生成機能を公開わずか1日で削除

Googleは、実際の座標に重ね合わせてフェイク画像を生成し、偽情報への懸念が生じたため、Web版Google Earth上のAI画像生成機能を公開わずか1日で一時停止した。

Googleは先日、Web版Google Earthに「Nano Banana 2」モデルを搭載したAI画像生成機能を導入し、ユーザーがプロンプトを入力して実際の座標や衛星写真上にシミュレーション画像を重ね合わせられるようにした。しかし、この機能は公開からわずか1日で停止に追い込まれ、たちまち問題となった。

原因は、研究者やユーザーの間で、実際の場所に爆撃跡や架空の原子力発電所、実際には起きていない災害現場といったリアルなフェイク画像（ディープフェイク）を重ね合わせて作成する事例が発見されたことにある。これにより、こうした画像が誤情報として拡散され、世界中の人々や組織が利用する衛星写真の参照元としてのGoogle Earthの信頼性が損なわれる懸念が浮上した。

Google側の説明によると、利用規約に違反する画像を生成したユーザーが一部確認されたため、安全性やガードレール（安全対策）をより厳格にする目的で一時的に無効化したという。また、生成されたすべての画像にはSynthIDのウォーターマーク（AI生成であることを示す技術）が埋め込まれており、これらの画像がGoogle Earthの実際の地図データベースに統合されることはないと強調している。

この出来事は、画像生成AIツールが現実世界の信頼性の高いデータと結びついた際、多くのツールが直面する設計上の課題を浮き彫りにしている。「シミュレーション」機能が、現実と見分けがつかない偽画像を作成する温床になりかねないことを示している。