Google Earthの新AI画像生成、公開1日でロールバック｜「偽衛星写真」が数秒で作れた深刻な理由

「衛星写真だから信頼できる」——そんな長年の常識が、たった24時間で揺らぎました。Googleは7月30日、Google Earthに、テキストの指示だけでリアルな衛星画像風の景色を生成できる新機能を追加しました。しかし公開からわずか1日後の7月31日、この機能はロールバック(撤回)されています。理由は、ユーザーがこの機能を使って、原発の爆発や難民キャンプといった、生々しい”偽の衛星写真”を作れてしまうことが分かったからです。

何が起きたのか

7月30日、Googleは自社の最新画像生成技術「Nano Banana 2」をGoogle Earthに統合した新機能を発表しました。使い方は簡単で、地図上の好きな場所にズームインし、「画像を作成」をタップして、見たい景色をテキストで入力するだけ。歴史的な景観の再現や、不動産の将来イメージのビジュアル化といった用途を想定した機能でした。

しかし公開直後から、オープンソース調査(OSINT)の専門家たちが、この機能の危険性を次々と実証し始めます。調査者のヘンク・ヴァン・エス氏は、イランの原子力発電所や、米国とメキシコの国境にある難民キャンプといった、極めてリアルな偽画像を、わずか数秒で生成してみせました。生成された画像には、SynthID(Googleの電子透かし技術)が埋め込まれていたものの、専門家たちは「地理空間情報の検証における信頼そのものを損ないかねない」と、強い懸念を表明しました。

なぜ「衛星写真」だからこそ深刻なのか

Bellingcatの上級研究員ジェイク・ゴーディン氏の指摘が的確です。衛星写真はこれまで、出来事の真偽を検証する上で「比較的信頼できる情報源」とされてきました。理由は単純で、衛星写真は特定の企業や機関が管理する、地上数百キロ上空のカメラという、模倣が難しい情報源だったからです。紛争や災害の実態を確認する際、報道機関や研究者は、この”改ざんしにくさ”を前提に、衛星画像を根拠として使ってきました。

今回の一件は、その前提そのものを崩しかねません。「Google Earthで見た衛星写真」というだけで、これまでは一定の信頼性が担保されていました。しかし、誰でも数秒でリアルな偽の衛星写真を作れるとなれば、その信頼の土台自体が揺らぎます。Googleの広報担当者は、「地理空間分野の専門家が有用な目的でこの機能を使っている例も見てきたが、同時にポリシーに違反する形で生成画像を共有する人々も見られた」とコメントし、「より強固なガードレールを実装するまでの間、この機能を撤回する」と説明しています。

情報の信頼性を扱う上での教訓

この一件は、これまでたびたび取り上げてきた「AI検索汚染」や「AI生成コンテンツの信頼性」というテーマとも地続きです。これまで”改ざんが難しい”とされてきた情報源であっても、生成AI技術の進化によって、その前提が急速に崩れていく可能性があります。Googleほどの企業が、公開からわずか1日で撤回するという判断を下したこと自体が、この種のリスクの大きさを物語っています。

まとめ

生成AIの安全な活用・情報の信頼性設計のご相談はお気軽にどうぞ。