人工知能：真の危険は未来の想像の中にあるのではなく、私たちの現在の中に存在する。

しかし、シリコンバレーでは、汎用人工知能（AGI）を、間近に迫った奇跡であると同時に、迫りくる怪物として捉えることをやめていない。AGIは、機械が幅広いタスクにおいて人間の知能に匹敵する瞬間を表すものとされているが、どのタスク、どの人間、あるいは知能とは何かについて合意は得られていない。

NvidiaのCEO、ジェンセン・フアン氏は、これは既に起こっていて、気づかれていないだけだと考えている。Nvidiaの最近の決算説明会で、彼は「多くのタスクにおいて、我々は既に汎用人工知能（AGI）を達成したと言える」と述べた。さらに、こうした成果は「現段階ではやや無意味だ」と付け加えた。さようなら、スカイネット。

しかし、彼が指摘するように、汎用人工知能（AGI）という概念は、進歩の尺度としてはほとんど役に立たなくなっている。企業は自社の最新モデルが優れている点に応じて、AGIを再定義することができる。それは科学的な基準ではなく、マーケティング戦略なのだ。

致命的な注意散漫

しかし、人工知能は核爆弾で遊ぶようなことはなさそうだが、決して無垢な存在ではない。人間の貪欲さや古くからの悪意に駆り立てられた、それほど劇的ではないものの、AIがもたらす危険性は他にも存在する。

今日、人工知能は無数の偽造資料を生み出すことができる。声や顔をそっくりに再現して愛する人を騙し、金銭を盗み、フィッシングメールを使ってセキュリティサーバーに侵入し、ソーシャルネットワークを延々と議論を繰り広げる偽アカウントで溢れさせることも可能だ。これらはどれも、厳密な定義では汎用人工知能（AGI）には該当しないが、偽の録音で親族が金銭を乞う声を聞いた人にとって、その区別は何の慰めにもならない。

汎用人工知能（AGI）への執着は、実際には規制当局にとって事態を複雑化させる可能性がある。

利益は良い指標ではない

黄氏は、汎用人工知能（AGI）という概念は置き換えるべきだと主張した。私たちは、それが「生産的で有用な作業を実行する」か「収益性の高いコードを生成する」かを検討すべきだというのだ。これはNvidiaにとっては理にかなっているかもしれないが、AIに関心を持つ一般の人々にとって、収益性は信頼できる安全性の基準とはなり得ない。

不正行為は儲かるからこそ、これほど蔓延しているのだ。人間の従業員を解雇し、品質は30%、価格は10%に抑えられるAIモデルに置き換えることは、（短期的には）利益を生む。しかし、どちらの結果も、自社製品の成果を説明する際に誇れるものではない。

汎用人工知能（AGI）を業界の主要な関心事や恐怖の対象から外すのは理にかなっているが、だからといってAI企業が安心できるわけではない。知能はあまりにも複雑で、不安の唯一の原因となるものではない。むしろ、権力という視点の方がより適切な見方を提供してくれるかもしれない。誰が、どのようにAIを使用しているのか、そしてAIが失敗した場合に誰が責任を負うべきなのかを測定できる。そうして初めて、AIが私たちの生活に及ぼした深刻な影響を真に理解できるだろう。

責任問題、本人確認、所有権、その他の法的詳細に関する議論は、雲のような視覚的な魅力には欠けるかもしれないが、規制当局はAI企業に対し、これらの問題に取り組むよう強制すべきだ。監視すべきは、キーボードを操作する人間の手であり、いつまでも実現しないスカイネットの到来ではない。