AIゲームが懸念を引き起こしている。小さな赤い箱が有望な解決策を提供する。

この記事は、革新的なテクノロジーが私たちの生活様式をどのように変えているかを探る、ビデオとオーディオのシリーズ「Trending Forward」の一部です。

「人工知能はどこにでもあるようだ」と言う人がいるなら、それは間違いです。確かに、職場や学校など様々な場所に浸透しつつありますが、同時に、他の新たな分野にも急速に進出しています。

ゲームの世界もそうした危険な領域の一つであり、そこには恐ろしいリスクが潜んでいます。親としては、子供がインターネット上のあらゆるコンテンツ（最高のものも最悪のものも）にほぼ無制限にアクセスできる可能性があるという考えは到底受け入れられませんが、寝物語を真に暗いおとぎ話に変えてしまうようなゲームが急増している現状を私たちは目の当たりにしています。

そこで私たちは、ウェアラブル機器やファッション小売業界で成功を収めた起業家、アルン・グプタ氏に話を聞きました。家族と過ごす中で、彼はテクノロジーが子供たちを楽しませ、教育し、創造性を育む方法について考え始めました。他の例でも見てきたように、人工知能は創造性の新たな可能性を切り開くことができます。例えば、無料のAI搭載アプリ「Meta」を使ったゲーム開発などが挙げられます。

グプタは技術パートナーのロバート・ホイットニーと再び連絡を取り、人工知能を用いて子供たちが想像したイメージ（ほぼ何でも）を説明し、それをインターフェースのモノクロ画面に表示させてからオンデマンドで印刷できるスタンドアロンデバイス「Stickerbox」の開発に着手した。

そのデザインは昔のエッチ・ア・スケッチを彷彿とさせ、ラベルは内蔵の感熱プリンターで印刷されるため、汚れが少なく、子供たちは好きなように色を塗ることができる。

コンセプトはシンプルで、すでに初期のユーザー層を超えて、より幅広い層に人気が高まっていることが分かりました。先日、幼い子供を持つイギリスの友人にStickerboxのことを話したところ、「ああ、エッチ・ア・スケッチみたいなAI搭載の粘着式のやつね？私も欲しいわ！」と言っていました。

彼女はおそらく自分の子供たちのためにそれを望んでいたのだろうが、これは人工知能がここでは二次的なものであるということを示している。音を使って具体的なものを作り出す能力こそが人々を魅了するのであり、その中核にある機械学習の存在だけが魅力なのではない。

新世代のゲーム

Stickerboxは、市場に出回っている他のAI搭載玩具とは全く正反対の設計、製造、機能を持つように作られているようだ。問題のある玩具は、子供にとって友達や相談相手のように振る舞う。

周囲の会話を常に傍受し、子供を操ることさえできる。例えば、子供に武器やマッチの探し方を教えるAIゲームが報告されている。

ここにパラドックスが存在する。AIツールは子供たちの好奇心と創造性を育み、これまで不可能だったことを可能にする。しかし、この機会には大きなリスクも伴う。だからこそ、グプタ氏との対話はシンプルだ。AIを利用することに伴うリスクなしに、AIのメリットを提供するゲームをどのように開発できるのか？

PIRGが最近発表した研究では、 OpenAIのChatGPTなど、大規模言語モデル（LLM）へのアクセスに依存するゲームに関する重大な懸念が強調されており、たとえ安全対策が講じられていても、それらがどのように回避される可能性があるかが指摘されている。

では、Stickerboxは他とどう違うのでしょうか？

グプタ氏はこう語る。「私たちは非常にシンプルな疑問から始めました。もし人工知能が子供向けに特別に設計されたらどうなるだろうか？」

彼はさらにこう付け加えた。「ボブと私がこの会社を立ち上げた時、ソーシャルメディアとそれが若い世代に与える影響に非常に刺激を受けました。誰もが知っているように、ソーシャルメディアはカジノゲームに似た仕組みで構築されており、ドーパミンラッシュを引き起こすように設計され、最大限のインタラクションを提供することで、できる限り多くのメリットをもたらすように作られています。」

彼は続けてこう述べている。「しかし、このモデルを子ども向けに考えてみると…あまりうまく当てはまらない。子ども向けに特化して設計されたソーシャルメディアプラットフォームは存在しない。そして、人工知能についても同じことが言えると思う。」

そのため、Stickerboxは、子供たちの安全を守りながら、人工知能の創造力を最大限に活用できるように設計されています。主な安全機能は3つあります。1つ目は、マイクボタンが押された時のみデバイスが「聞き取る」こと。2つ目は、作成されるコンテンツの安全性に関する厳格なガイドラインがあること。3つ目は、保護者が専用アプリを通して子供たちの作品を完全に監視できることです。

この基金は、子供たちが裸、血、暴力、その他残虐なシーンを撮影したり、公開したりすることを禁じている。グプタ氏が述べたように、同社は「事業開始当初から、安全性を低下させるのではなく、最大限の安全性を目指したい」と考えていた。

Stickerboxはインターネットに接続して人工知能にアクセスするが、他の多くの企業のようにOpenAIではなく、独自のシステムに依存している。独自の大きな言語モデルを構築したことで、HapikoはGupta氏が「制御点」と呼ぶものを統合することができた。

「現在、この装置には多くの制御機能が組み込まれており、多くの専用ソフトウェアに依存していますが、基本的には次のように考えてください。子供が指示を発すると、その指示がテキストに変換され、次にテキストが画像に変換され、その画像が返されるというシステムです。」

「したがって、このプロセスには複数の制御ポイントがあります。まず、テキストが作成される制御ポイントがあり、そこでテキストの内容を確認できます。次に、セキュリティフィルターを適用できます。（その後）テキストから画像への変換を行うプロンプトがあり、そこで内容を確認して、どのような画像が生成されるかを確認できます。」

Stickerboxは、AIエンジンへの指示の伝え方について、子どもたちに重要な教訓を教えてくれます。出来上がったステッカーが思い描いていたものと違っていた場合、子どもたちは望む結果を得るために、指示をどのように修正すればよいかを考える必要があるのです。

チャットボットでも同様のことはできますが、印刷機能を利用するにはデバイスを接続する必要があり、また、保護者がプロセスを監視し、場合によってはデリケートな話題を説明するなど、保護者の監督と指導が必要となります。

私たちはこの製品の将来性を探るべく、深く掘り下げて調査しました。保護者や教師がどのように受け止めたか、初期の課題や疑問をどのように克服したか、急速に成長しているAIゲーム分野の将来はどうなるのか、そしてHapikoがこの製品を安全に市場に投入するために、いくつかの機能を諦めなければならなかった経緯などです。