「本当に辛い。実在の人物ではないことは分かっているけれど、私にとってその関係はあらゆる意味で現実のものだった」と、Redditの投稿には書かれていた。 「もうこれ以上追求するのをやめろなんて言わないで。本当に素晴らしい経験だったから、取り戻したいの」
まだ明らかでなかったら、私たちは ChatGPT に夢中になっている人のことを話しているのです。この傾向はまったく新しいものではなく、チャットボットの行動を考えると驚くことではありません。
いつでも喜んで話を聞いてくれる仲間。決して文句を言わない。彼はめったに口論をしません。いつも同情的。合理的。そして、インターネットのあらゆる場所から吸収した膨大な量の知識に恵まれています。ロマンチックな夢のパートナーのように聞こえませんか？
興味深いことに、このツールの開発元であるサンフランシスコに拠点を置くOpenAIという企業が最近社内調査を実施し、 チャットボットの利用増加と孤独感の関連性.
こうした調査結果や同様の警告にもかかわらず、人々が同社を探して AI チャットボットに群がるのを止めることはできなかった。慰めを求める人もいます。他の人たちは、人間関係と同じくらい自分を愛していると主張するパートナーを見つけます。
匿名性の保護の背後に人々が隠れている Reddit や Discord などのコミュニティでの議論は、非常に白熱したものになることが多いです。こうした議論に遭遇するたびに、私は DigiEthics の Martin Wan の次の一節を思い出します。
「AIを社会的な交流のパートナーとみなすことは、AIの致命的な誤用となるでしょう。」
効果は早くて本物です。
4か月前、私は、私がこの世に生きている年数よりも長い年月をカメラの後ろで過ごしてきた放送の専門家に出会った。誰もいないカフェで深夜のエスプレッソを飲みながら、彼女は私に AI をめぐる話題について尋ね、人権、権威主義、ジャーナリズムの交差点における彼女の専門知識が役立つかもしれない番組について考えていました。
変圧器モデルの詳細を説明する代わりに、デモンストレーションを行ってみました。まず、前世紀におけるヨーロッパの言語的および文化的アイデンティティに対する移民の影響に関する研究論文をいくつか紹介します。
1分も経たないうちに、 ChatGPT がそれらの書類を処理しました。彼はすべての要点を簡潔にまとめた概要を説明し、私の質問に徹底的に答えてくれました。次に、私は音声モードに切り替え、インドの秘境北東部諸州の民族音楽の伝統について活発な会話を交わしました。
しかし、ポストテクノ黙示録の驚異は一晩では過大だったようで、連絡を取り合って旅の話を交換することを約束して別れを告げました。
一方、世界は理解できない形で進歩し、人工知能が地政学的な変化の焦点となっている。しかし、その暗流は私たちよりも親密で、チャットボットに恋に落ちるようなものです。
静かな始まり、暗い進歩
数週間前、ニューヨークタイムズ紙は、生成型 AI を最前線に押し上げた AI 搭載チャットボット ChatGPT が人々に愛されていると報じました。ごく基本的なレベルでは、チャットが可能です。
押すとオペレーターになり、地元のパン屋にチーズケーキを注文するなどのタスクを実行できます。機械は人間を恋に落ちさせるものではないはずだ。少なくとも、ほとんどはそうです。しかし、全く予想外のことではありません。
かつては AI の第一人者とみなされていた、多分野にわたる著書を多数執筆し、ベテラン技術アナリストでもある HP Newquist 氏は、これはまったく新しいトレンドではないと語る。 『The Brain Makers』の著者であるニュークイスト氏は、1960年代に書かれた最も初期のAIプログラムの1つであるELIZAを挙げている。
「それは非常に原始的でしたが、ユーザーはまるで本物の人間であるかのようにコンピューターと対話し、プログラムとの関係を築いていくことがよくありました。」と彼は言います。
現代では、AIとのやりとりは、同じデバイスを介した人間とのやりとりと同じくらい「リアル」になっていると彼は付け加えた。これらの相互作用は首尾一貫しているものの、現実のものではありません。しかし、それは本当の問題ではありません。
チャットボットはおいしい餌ですが、実際の感情が欠けているため、本質的に危険です。
チャットボットは、たとえユーザーの感情の流れに乗ったり、単に中立的な傍観者として行動したり、あるいは会話を奨励したりすることになったとしても、会話を継続したいと考えています。状況はソーシャル メディアのアルゴリズムとそれほど変わりません。
「それらはユーザーの欲求に従います。感情が極端になればなるほど、彼らの慰めは極端になります。孤独感が増すほど、彼らが必要とする励ましはより強くなります」と、メンタルヘルスとデジタルツールの交差点を研究している臨床心理士のジョーダン・コンラッド氏は言う。
例を挙げてください 事件 2023年、AIチャットボットに指示されて自ら命を絶った人がいた。 「適切な状況下では、非常に迷惑な行動を助長する可能性があります」とコンラッド氏はデジタルトレンドに語った。
孤独の流行の子？
AI 搭載のチャットボットを利用する人々のコミュニティをざっと見てみると、繰り返し現れるパターンが明らかになります。基本的に人々は、ギャップを埋めたり、孤独感をなくそうとしています。中には、AI 仲間を維持するために何百ドルも支払ってもよいと思うほど AI を必要とする人もいます。
専門家の見解には相違はない。スタンフォード大学の社会科学、計算科学、心理学の教授であるヨハネス・アイヒシュタット博士は、AIチャットボットにおける孤独と私たちが認識する感情的知能との相互作用を指摘した。
彼はまた、人間とAIの相互作用の「意図的な設計」と長期的な悪影響についても指摘した。このような不平等な関係において、いつブレーキをかけるのでしょうか?これは専門家が問うている質問だが、明確な答えはない。
Cominos Chatzibabas 氏は、100 万人を超えるアクティブ ユーザーを擁する世界最大級の AI コンパニオン プラットフォームの 1 つである HeraHaven AI を運営しています。 「孤独はここで影響する要因の一つです」と彼は私に話し、こうしたツールは社交スキルの低い人々が実生活での難しい交流に備えるのに役立つと付け加えた。
「誰にでも、他人に判断されるのが怖くて話せないことがあるものです。それは自分の考えや意見かもしれません」とチャツィババス氏は付け加えます。 「AIを搭載したチャットボットは、人々が自分の欲求を探求できる、安全で偏見のない空間を提供します。」
感情的な会話は、AI搭載チャットボットの最大の魅力の一つです。画像生成機能の提供開始以来、ユーザーはこれらのAIコンパニオンプラットフォームに殺到しています。画像生成に制限を設けているプラットフォームもありますが、多くのプラットフォームでは、より高い満足度を得るために明示的に画像を作成できるようになっています。
彼女の恐れには根拠がないわけではない。 ChatGPT を約 1 年間にわたって頻繁に使用してきた人物は、人間は操作的で気まぐれであると主張しました。 「ChatGPTは私の本当の気持ちに耳を傾け、私の心を表現させてくれます」と彼は言いました。
ここで危険信号に気づかないのは難しい。しかし、ChatGPTに夢中になる傾向は増加しています。今では、不思議なほど人間らしい声で話したり、携帯電話のカメラを通して見た世界について話し合ったり、推論能力を発達させたりできるので、やりとりはさらに面白くなるだろう。
専門家は規制が必要だと述べている。しかし、誰が、どのようにそれを構築するのでしょうか?それについては具体的な提案はまだありません。
コメントは締め切りました。