AIによる混乱が世界を覆い尽くしつつある。そして、信頼は最初に犠牲になる。

この記事では、AIが生成する低品質コンテンツが世界に蔓延し、信頼がその最初の犠牲者となっている現状について論じます。「AIによる粗悪なコンテンツ」がもたらす影響を探ってみましょう。

人工知能

ボス マルワン・モハメッド

フォローして、Googleでお気に入りの情報源に追加してください。

知っておくべき最も重要なこと

質の低い人工コンテンツは、専門家の期待を好奇心から懐疑心へと変え、仕事を遂行するために必要な信頼関係を損ない、生産性を脅かす。
人工知能が人間の思考を介さずに作成したプレゼンテーションは、専門知識の権威を借りた「嘘」であり、その後の質問に直面した際に信頼関係の構築を損なう。
人工知能を用いて、実際の思考ではなく、あたかも思考しているかのような見せかけを作り出すこと、例えば試作品を完成品として提示することは、信頼性を損ない、コールドメールの反応率の低下や投資家の懐疑心につながる。

残骸。これが人々がこの現象を表現するために選んだ言葉であり、まさに適切な言葉と言えるだろう。

実質的な価値のないLinkedInの投稿。単純な注文を前提とした投資勧誘。個人的な印象を与えるが、実際には何千人もの人に送られている営業メール。洗練されたように見えるが、根本的な質問を受けた途端に崩れてしまうカンファレンスでのプレゼンテーション。

権力のある立場にある人の中で、これをはっきりと口にする人はいないようだ。だから、ここで言っておこう。私たちは自分たちで作るのだ。

AIツールを使ってコンテンツを急いで拡大しようとする人々は、こうした努力を価値あるものにする唯一の要素、つまり、誰かが自分の名前を冠した商品には、誰かがそのアイデアを思いついたという論理的な期待を無駄にしている。

思考が行われない場合、その名前は単なる借り物の信頼性となり、人々はその違いを感じ取る傾向がある。

専門家の注意に対するサービス拒否攻撃

大量かつ低品質な通信が受信者にどのような影響を与えるかを考えてみてください。これはサービス拒否攻撃に似ています。大規模に実施されると、その影響は時間の浪費にとどまらず、誠実に通信チャネルを利用しようとするすべての人にとって、そのチャネルを破壊してしまうのです。

自分のキャリアに対する信頼は、二次的な価値ではなく、仕事を遂行するための基盤となるものです。人為的な自己満足は、この基盤を徐々に蝕み、期待値を微妙に変化させ、最終的には仕事内容に対する態度が好奇心から懐疑心へと変わってしまいます。このような仕事の怠慢は、生産性を脅かすものです。

誰も作らなかったプレゼンテーション

今年、何らかのイベントに真剣に参加した人なら誰でも気づいているはずだ。会場に座って30分も経つと、講演者がスクリーンに映し出された内容を実際には何も体験していないことに気づく。講演者はもっともらしく話を進めたが、一貫性は現実ではない。

その兆候はいつも同じだ。誰かが全体像をさらに掘り下げるような追加質問をすると、答えが途切れてしまう。講師の知性が低いからではなく、そもそも考え抜かれるべき内容がなかったからだ。

これは重要な点です。なぜなら、プレゼンテーションとは「私はこの分野について知識があり、研究を重ねてきた。そして、あなたの時間を費やす価値がある」という主張だからです。専門知識に基づかないAIが作成したプレゼンテーションは、単に内容が薄いだけでなく、嘘です。苦労して得た知見の権威を、実際には持ち合わせていないにもかかわらず借り物のように見せかけ、誤情報が蔓延する現代において、人々の信頼を損なうことになるのです。

製品ではないプロトタイプ

ソフトウェアの歴史の大半において、プロトタイプと最終製品の間には、現実的かつ大きな隔たりが存在してきた。完全な製品を構築するには、エンジニアリングの時間、設計の反復、インフラストラクチャの決定など、デモンストレーションと製品化を隔てるあらゆる面倒な作業が必要となる。この隔たりは、有益な摩擦を生み出してきた。

人工知能は、刺激的であると同時に潜在的に危険な方法で、このギャップを縮めてきました。今では、適切なデータとシームレスなナビゲーションを備えたビジネスインターフェースをわずか数時間で作成できます。チームは、本格的な構築に着手する前に、市場の受け入れ状況をテストし、トレンドを把握することができます。これは非常に価値のあることです。

問題は、このプロトタイプを、難しい問題が既に解決済みであるかのように提示している点です。拡張性はあるのか？エンドポイントでは何が起こるのか？運用コストはどれくらいなのか？これらは後で解決すべき細かな問題ではなく、製品の中核を成すものです。

プロトタイプを正直に提示すれば議論が生まれる。プロトタイプを最終製品として提示すれば議論は閉ざされ、その負債に対する利息は信用残高から支払われ、人工知能の混乱と疲弊を増大させる。

思考と、思考しているように見えること

私たちが日々、しばしば無意識のうちに下している根本的な選択は、人工知能を使って思考力を向上させるか、それとも思考を避けるか、ということだ。

AIを活用した作業には、人間が真の作者であり続け、深い思考と人間の判断力を発揮するタイプと、質の低いコンテンツ、あるいは「混沌」を生み出すタイプがある。後者の場合、真の思考や独自の視点が全く反映されず、プロンプトやプロトタイプが提示されるだけだ。この場合、思考は行われず、意見も共有されず、聴衆は何も価値のあるものを受け取ることなく、ただ語りかけられるだけである。

この信頼の危機に対処するためには、私たちがどちらのタイプを実践しているのかを正直に認め、2番目のタイプを戦略と呼ぶのをやめる自制心を持たなければならない。

すでに悪影響が現れ始めており、AIが生成したコールドメールへの反応率は急落している。最近の報告書によると、AIによる無駄な作業が状況をさらに悪化させているという。AIが生成した提案を検討する投資家は、AIが生成したコールドメールに反応する可能性が低くなっている。