知っておくべき最も重要なこと
- 高所得国が定めるAI安全基準は、言語、文化、学習データが異なる地域でモデルを展開する際に盲点や深刻なリスクを生み出し、医療などのデリケートな分野で重大なエラーにつながる可能性がある。
- 人工知能の急速な世界的普及に伴い、安全インフラも同様のペースで拡充する必要があり、チャットボットがユーザーの言語を理解し、正確で誤解を招かない情報を提供することに重点を置くべきである。
- 言語の違いはAIセキュリティにおいて新たなギャップを生み出し、同じ製品であってもユーザーによって受けられる保護レベルが異なり、訓練データが少ない言語では情報に基づいてモデルが捏造される可能性が高まる。
AI企業は、自社モデルの能力向上に伴って何が起こるかを懸念し、莫大なリソースを投入している。OpenAIは先月、安全上の懸念から、自社モデルのトレーニングを一時的に停止するという異例の措置を講じた。この分野は、自律的な動作から高度化するサイバー攻撃能力に至るまで、さまざまなリスクに直面している。
しかし、見落とされがちなAIの安全性に関するもう一つの問題があります。それは、これらのシステムに組み込まれた安全対策が、必ずしもすべての人に等しく有効に機能するとは限らないということです。Rest of Worldによる新しいレポートでは、 AIの安全性に関する取り組みが依然として主に裕福な英語圏諸国のニーズに焦点を当てていることが指摘されています。このため、アジア、アフリカ、その他の発展途上地域の人々は、チャットボットが言語を誤解するなど、根本的かつ深刻な問題に直面する可能性があります。
人工知能の安全性に関する認識は、シリコンバレー以外では全く異なっている。
多くの大手AI企業は、信頼性と安全性を専門とする大規模なチームを抱えているが、モデルの評価に使用される基準は主に高所得国で形成されている。研究者らは、言語、インフラ、法律、文化的期待が異なる地域で同じモデルが展開されると、盲点が生じると主張している。医療分野は特に深刻な例である。アフリカで使用されている自然言語処理AIシステムの研究では、医療用語に関する翻訳エラーが明らかになっている。例えば、ティグリニャ語では、機械翻訳が天然痘と梅毒を混同したり、「静脈内抗生物質」を「静脈内殺虫剤」と翻訳したりした。
問題は単なる翻訳にとどまりません。研究によると、AIモデルは、学習データが比較的少ない言語では、情報を捏造する頻度が高くなることが示されています。英語での悪意のあるリクエストを検出するように設計されたセキュリティ制御は、他の言語では性能が低下したり、回避しやすくなったりする可能性があります。これは、人々が健康情報やその他の重要な意思決定においてチャットボットにますます依存するようになっている現状において、特に重要です。事実上、これは新たなAI格差を生み出します。つまり、同じ製品を使用しても、話す言語が異なるというだけで、2人の人が受ける保護レベルが大きく異なる可能性があるのです。
人工知能の導入は、安全基準が追いつくのを待つものではない。
人工知能への関心がこれらの市場の多くで急速に高まっていることを考えると、この問題は特に重要だ。中国はその最も分かりやすい例と言えるだろう。AIの導入はテクノロジー企業にとどまらず、学校から地方自治体まで、さまざまな組織に広がっていることがすでに明らかになっている。北京の餃子店にまでAIが浸透し、ある店は顧客にAIトークンを配布したり、AIを活用した行列管理ツールを開発したりしている。こうした熱狂は必ずしも問題ではない。しかし、研究者たちは、安全対策のインフラも同じペースで整備する必要があると警告している。
各国政府は対応を開始した。AIの安全性は、ブレッチリー宣言や今年のインドで開催されたAIサミットなど、数多くの国際的な取り組みで重要な位置を占めており、中国も発展途上国におけるAIリスク管理のためのメカニズムを提案している。最大の課題は、「AIの安全性」が、将来のAIモデルが権限を逸脱したりサイバー攻撃を仕掛けたりするのを防ぐことだけを意味しないようにすることだ。すでにこれらのツールを利用している何百万人もの人々にとって、安全性はもっと単純なものになり得る。チャットボットが自分の言葉を理解し、緊急時を認識し、誤った危険な情報を自信を持って与えないようにすることだ。AIが日常生活にますます浸透するにつれ、これらの問題はもはや例外的なものではなくなり、真に安全なAIを実現する上で不可欠な要素となっている。
コメントは締め切りました。