ダリオ・アモディ（アントロピック）：人々は政府が人工知能を悪用しているのを見て、信頼の危機を感じています。

人工知能を取り巻く悲観論や不安については、すでに多くのことが語られてきた。その一部は古典的なディストピア小説の警告に基づいているが、多くは現実に基づいている。この技術を操る者たちからは多くの楽観論や約束が語られているが、具体的な恩恵として実現したものはまだほとんどない。

AnthropicのCEO兼共同創設者であるダリオ・アモデ氏は、Xへの投稿で次のように述べています。「Anthropicを含むAI企業に対する最も的確な批判は、私たちが世界に利益をもたらすという大きな約束をまだ果たせていないということだと思います。」

アムディ氏は、企業や政府が「テクノロジーを悪用する新たな方法を考案している」という人々の認識から、テクノロジーは「信頼の危機」に陥っていると主張する。しかし、米軍、法執行機関、情報収集機関が人工知能に大きく依存していることを考えると、人々がそう考えるのは間違っているのだろうか？

人工知能は、広報活動だけではこの危機を脱することはできない。

人工知能（AI）の登場に伴い、この技術の多くの利点は、まだ完全には証明されていないものの、投資する価値があることを経営幹部や上級管理職に納得させることを目的としていました。その結果、多くのAIリーダーは、AIを人間の労働者をAIに置き換えることで企業の人件費を削減する方法として位置づけました。

一部のAI「専門家」は、いまだに密室でこうした主張を続けている。今年私が参加したある非公開イベントで、あるAI「専門家」は、超知能が10年以内に世界の労働力の最大50％を消滅させ、この壊滅的な出来事をうまく利用できた企業が想像を絶するほどの支配力と富を得るだろうと予測した。もちろん、出席していた企業の経営陣はこれに拍手喝采を送った。

アムディ自身は、人工知能がオフィスワークの50％をなくす可能性があると発言したことで有名だ。しかしその後、彼はその発言を言い換え、AIは「生産性乗数」、つまり「報酬を増やさずに生産性を向上させるもの」だと述べているが、これは単なる企業の誇大広告に過ぎない。

私が繰り返し述べてきたように、AIの有効性は実際の成果によって証明される。AIが何ができるかについては散々耳にしてきたが、実際にそれがもたらす恩恵はほとんど見られない。そして、その点についてアモディ首相も認めている。

彼は、人工知能が癌を治せると主張する広告は、完全に誤解を招くものだと指摘する。「本当に必要なのは、実際に癌を治すことだ」と彼は言う。

アムディ氏は、アントロピック社がこれらの問題に対して倫理的な責任を負っていることを示唆し、同社が生物学や医学におけるAIの活用に注力するため「取り組みを強化している」と説明した。しかし、繰り返しになるが、その成果はまだ見られない。

アムディ氏の投稿は、AIによる権力集中という問題にも触れており、マーク・ザッカーバーグ氏が最近行った、AIを全ての人々の利益のためにどのように活用すべきかという批判と共通する部分があった。アムディ氏の見解はザッカーバーグ氏とは若干異なり、規制、監視、テスト、そしてオープンな加重モデルのバランスを取るべきだと主張した。

アムディ氏は、「最先端技術のペース調整」運動に一定の賛同を示し、最先端研究所に規制を適用することで技術開発のペースを「調整」できると同時に、業界の他の部分も追いつくことができると説明している。

この計画の明らかな欠陥は、他の国がこの規制の対象とならない点であり、これは人工知能産業における米国の優位性を意図的に阻害する可能性があり、トランプ政権はこれまでそのような事態は決して許さないと主張してきた。

人工知能は、人々よりも権威主義的なインフラにとってより多くの利益をもたらすのだろうか？

人工知能システムは監視インフラに広く導入されている。アントロピック社は国防総省との関係が悪化するまで、同省にAIシステムを供給していた。アントロピック社は自社の技術を大規模監視や完全自律型兵器に利用することを拒否したため、契約を失った。

国防総省（DoD）にとって幸運なことに、OpenAIは国防総省と新たな契約を結び、Anthropicが残した空白を迅速に埋めると同時に、その技術をアメリカ国民のスパイ活動に使用することを禁止した。

しかし、だからといって他の企業が同じ倫理基準を遵守しているとは限らない。例えば、Flock社は、米国全土で車両のナンバープレートを追跡するために設計されたAI搭載カメラに対し、広範な抵抗に直面している。

このシステムは、容疑者の車両が国境や管轄区域を越える際に識別することを目的としているが、実際には、法執行機関の職員が元同僚を追跡したり、同僚を監視したり、恋愛関係を追跡したりする手段として利用されるようになった。

人工知能システムは、交通監視や速度取締カメラにも導入されている。これは、特にナンバープレートの誤認識や設定ミスといった問題に関して、警察活動におけるグレーゾーンとして大きな注目を集めている。

アメリカの刑事事件では、犯罪行為があったことを証明する責任は政府にある。しかし、誤った車両に違反切符を発行した一部の自動交通違反切符システムは、被告人が法廷で無罪を証明しなければならないという点で、刑事事件における立証責任の原則を覆すものとして、激しい批判を浴びている。

そして、ここに誰もが無視している重大な問題がある。

パランティアの人工知能技術は、米軍および法執行機関全体で活用されている。特に、米国移民税関執行局（ICE）が不法移民の疑いのある人物を追跡するために利用している。しかし、パランティアの技術は、ドローン画像解析、長距離精密攻撃、データ分析、軍事計画などにも使用されている。

単一の戦争で「勝利」した回数が「世界記録」となる上で、それが極めて重要な役割を果たしたことは疑いの余地がない。

人工知能は、隠すことが何もなく、「正義の味方」の側にいることを好む人にとっては朗報だが、その定義は常に変化している。