Googleは、Google Earthにナノバナナを掲載するという間違いを犯した。

先週、GoogleはAIを活用した画像生成モデル「Nano Banana 2」を、Google Earthの世界探査プログラムに統合しました。同社はこの統合を、世界中のさまざまな場所に関するインフォグラフィックを作成したり、最近の画像から歴史的な風景を生成したりする方法として宣伝しました。ユーザーは、リアルな背景をバックに「夢の家」を生成することもできました。自宅の増築を計画している場合や、湖畔に別荘を建てる構想がある場合、Google EarthのNano Banana 2を使ってそれらを視覚化できるのです。

このニュースは、GoogleがAIプラットフォームをほぼすべての製品とサービスに統合する動きの中で発表された（例えば、先週、Googleドキュメントのワークスペースユーザー向けに新しいGemini機能を追加した）。Googleの視点からすれば、Nano Banana 2をGoogle Earthに追加することは理にかなっていた。しかし、後に判明したように、この統合はGoogle Earthには適していなかった。

Google EarthはすでにNano Banana 2をリリースしている

Nano Banana 2向けのこの重要な統合機能を発表したわずか1日後、Googleはこの機能を削除しました。同社は当初の発表を更新し、次のように述べています。「Google Earthは、世界に関する信頼できる情報源として、多くの人々から絶大な信頼を得ています。地理空間の専門家がこの機能をさまざまな用途で活用していることは承知していますが、同時に、当社のポリシーに違反していると思われる生成画像のスクリーンショットを共有するユーザーも確認しています。そのため、より強力な管理体制を構築する間、この機能をGoogle Earthから削除します。なお、生成された画像はGoogle Earthのメイン画面には表示されず、AIによって生成されたことを示す透かしが入っていたことを付け加えておきます。」

この声明は、ユーザーがこのツールで生成していた画像を正確に説明していません。私の意見では、これは単にGoogleのポリシーに「違反」したというレベルを超えています。予想通り、インターネットユーザーはNano Banana 2を使って、実際の場所に基づいた不適切でセンシティブな画像を生成しました。最も広く拡散された画像の一つが、マンハッタンの新しいワールドトレードセンターに飛行機が衝突する様子を描いたものだったことは、おそらく驚くには当たらないでしょう。他にも、エッフェル塔が廃墟と化したり、エジプトのピラミッドが深い穴に崩れ落ちたりする画像もありました。これらの画像がジョークとして作成されたものだと理解する人も多いかもしれませんが、はるかに多くの人が、これらの「公式」Google Earth画像をオンラインで見て、最悪の事態を想定するかもしれません。

しかし冗談はさておき、誤情報や偽情報が拡散する可能性は憂慮すべきものでした。例えば、あるユーザーは、このツールを使って難民をメキシコ国境付近に肩を並べて配置する方法を実演しました。このような画像が拡散し、視聴者がこのGoogle Earthのスナップショットが本物の衛星画像だと信じてしまう可能性は容易に想像できます。Googleはおそらく多くの画像生成プロセスを防止するための制御策を講じていたでしょうが、これらの制限は明らかに十分ではありませんでした。GoogleのAI機能に料金を支払っているかどうかに関わらず、誰でもGoogle EarthでNano Banana 2を使用できたため、Google Earthを開いてNano Banana 2が反応するまで悪意のあるプロンプトを操作するだけでよかったのです。

生成型人工知能は、Google Earthのようなツールにはふさわしくない。

そもそもなぜこれが悪いアイデアだったのかを説明するのに、AI懐疑論者である必要はありません。しかし、AI企業のほとんどは、生成AI機能を自社製品に詰め込む前に、何の懐疑心も示さないようです。Google Earthのようなツールは教育目的で設計されています。私たちはそれを使って、世界、その地理、さまざまな都市や風景がどのようなものかを学びます。私自身は、デジタル地球儀を回転させて新しい場所を探索するのが好きですし、よくランダムな場所にピンを立ててストリートビューでその場所がどのように見えるかを確認します。その理由は、Google Earthが世界に関する正確で信頼できる情報源だと考えているからです。そうでなければ、私が気にする理由はありません。

したがって、本質的に不正確で歪んだ世界のイメージを生成するツールをGoogleが提供することに、私は何の論理も見出せません。Nano Banana 2のセールスポイントの一つは、地図上に過去の姿を表示することでしたが、実際にはそうではありませんでした。むしろ、このAIは学習データに基づいて、その地域の歴史的な表現だと信じるものを生成しました。もし1726年のパリの様子を見せてほしいと頼んだら、300年前のパリの実際の姿を描くのではなく、公共の建物や構造物を地図上に配置する可能性が高いでしょう。得られるのは歴史の幻想です。面白いかもしれませんが、教育的とは言えません。ソーシャルメディアで粗悪なAI生成の歴史コンテンツを閲覧するのと何ら変わりません。

AIが生成する「情報インフォグラフィック」にも同じことが言えます。Googleのような企業は、AIの能力を教育ツールとして積極的に宣伝しており、Google Earthが地図上の場所を示す情報インフォグラフィックを生成できるのは素晴らしいことのように思えます。しかし、生成されたインフォグラフィックは、いかなる権威機関、ましてや専門家によっても検証されていません。Nano Banana 2が生成した画像には、半真実や幻覚が散りばめられている可能性があり、さらに悪いことに、AIの成果を検証するためのクリック可能な情報源も提供されていません。一般ユーザーは、これらのインフォグラフィックから「学んだ」情報を、それが正確かどうかに関わらず、そのまま記憶してしまう可能性があります。

最悪の場合、この機能は誤情報を拡散する機械として機能しました。世界の特定の地域で何か悪いことが起こったと人々に信じ込ませたい場合、リクエストを入力するだけで、Nano Banana 2はあなたのアイデアをリアルに再現した衛星画像を生成し、ソーシャルメディアで簡単に共有できる状態にしました。AIが生成する誤情報が急速に拡散している今、これは問題を悪化させ、すでに燃え盛っている火に油を注ぐようなものです。Googleのような企業は、AIが生成する悪質なコンテンツを真の情報から分離する方法を見つけるべきであり、その拡散を助長するべきではありません。

これはAIツール全般に対する批判ではなく、生成型AIを教育ツールに統合することに対する批判です。Googleが事実を歪曲することで、AIの「成功」を自慢する際に別の事例として挙げる以外に、どのようなメリットがあると考えているのか私には分かりません。