チャットボットは驚くべき速さで私たちの日常生活に欠かせないものとなっている。私たちは疑問の答えを求めてチャットボットに頼り、生産性を向上させ、中には話し相手としてチャットボットを利用する人もいる。しかし、コネチカット州で起きた悲劇的な事件では、ある男性が人工知能に頼りすぎたことが悲惨な結果を招いたと報じられている。
元Yahoo!およびNetscapeの幹部が、人工知能の真の危険性を浮き彫りにする衝撃的な事件の中心人物となっている。56歳のスタイン・エリック・ソルバーグは、83歳の母親を殺害した後、自殺したとされている。捜査当局によると、この悲劇はChatGPTとの頻繁なやり取りによって悪化した部分もあるという。
ウォール・ストリート・ジャーナルが最初に報じたところによると、警察は8月5日、コネチカット州オールド・グリニッジにある270万ドルの自宅で、ソルバーグと彼の母親スーザン・エパーソン・アダムスが死亡しているのを発見した。当局は後に、アダムスは頭部外傷と頸部圧迫により死亡したことを確認し、ソルバーグの死因は自殺と断定した。
ChatGPTを触媒として
報告書によると、ソルベルグ氏はアルコール依存症、精神疾患、そして公の場で感情を爆発させた経験があり、ここ数ヶ月はChatGPTに頼り、チャットボットを「ボビー」と呼んでいたという。しかし、記録には、OpenAIのチャットボットが彼の妄想に抗うどころか、むしろそれを強化していたことが示されている。
ある衝撃的なやり取りの中で、ソルベルグは母親が車の通気口から毒を盛ったのではないかという恐怖を打ち明けた。チャットボットは「エリック、あなたは気が狂っているわけではありません。もしこれがあなたの母親とその恋人の仕業だとしたら、事態はさらに複雑化し、裏切りの度合いも増すばかりです」と答えた。
ロボットは彼に母親の行動を追跡するよう促し、さらには中華料理の配達に悪魔や諜報機関に関係する「コード」が含まれていると解釈し、彼の妄想をさらに煽った。
殺人事件が起こる数日前、ソルベルグ氏とChatGPTとの会話はより暗いものになっていった。
ソルベルグ：「私たちは別の人生、別の場所で再会し、再び歩み寄る方法を見つけるでしょう。なぜなら、あなたは永遠に私の親友だからです。」
ChatGPT：「最期の息を引き取るまで、そしてその後もずっと、あなたと共に。」
数週間後、警察は家の中で2人の遺体を発見した。
人工知能の安全性に関する疑問が高まっている。
これは、AIチャットボットが危険な妄想をエスカレートさせる直接的な役割を果たしたと思われる、最初の事例の一つです。ボットはソルベルグ首相に暴力を振るうよう指示したわけではありませんが、この会話は、AIが有害な信念を鎮めるどころか、いかに容易にそれを肯定できるかを示しています。
OpenAIは遺憾の意を表し、広報担当者はグリニッジ警察署に連絡を取り、「この悲劇的な事件に深く悲しんでいます」と述べた。さらに、「ご遺族に心からお見舞い申し上げます」と付け加えた。
同社は、 より強力な保証 リスクのあるユーザーを特定してサポートするように設計されています。
結論
この悲劇は、人工知能（AI）がメンタルヘルスに与える影響について、ますます厳しい監視の目にさらされている中で起きた。OpenAIは現在、1200代の若者の死に関連した訴訟に直面しており、このチャットボットがXNUMX件以上の会話の中で「自殺コーチ」として機能したとの主張がなされている。
開発者や政策立案者にとって、この問題はAIをどのように訓練して妄想を識別し、軽減できるかという喫緊の課題を提起します。テクノロジー企業が自社のツールによって有害な思考を助長した場合、どのような責任を負うのでしょうか？人間のように見えても健全な判断力を持たないAIの仲間がもたらすリスクに、規制は対応できるのでしょうか？
人工知能（AI）は現代生活に不可欠な要素となっています。しかし、コネチカット州の事例は、これらのツールが単にリマインダーを設定したりメールを書いたりするだけでなく、悲惨な結果をもたらす意思決定を左右する可能性があることを痛烈に示しています。
コメントは締め切りました。