人工知能研究家数百人が参加した人工知能推進協会（AAAI）が今月発表した新たな研究には、重要な発見がある。それは、現在のAIへのアプローチでは、汎用人工知能を実現できる可能性は低いということだ。
人工知能はここ数年で話題になっていますが、科学研究分野としての AI の分野は何十年も前から存在しています。たとえば、アラン・チューリングの有名な論文「計算機械と知能」や、今日でも話題になるチューリングテストは 1950 年に発表されました。
今日誰もが話題にしている AI は、数十年にわたる研究から生まれたものですが、同時にそこから遠ざかりつつあります。科学的研究ではなく、今では「商用 AI」と呼べる独自の AI 分野も存在します。
Microsoft、Google、Meta、Apple、Amazon などの大手独占企業は、AI 製品の作成を主な目標として、商用 AI の取り組みを主導しています。これは問題ではないはずですが、現時点では問題になる可能性があるようです。
まず、ほとんどの人がAI研究を追うようになったのはここ2年ほどのことなので、一般の人がAIについて知っていることはすべて、科学界からではなく、これらの企業から得た情報です。この研究は、「AIの認識と現実」という章でこの問題を取り上げており、参加した科学者の79%が、AIの能力に関する現在の認識は、AIの研究開発の現実と一致していないと考えています。
言い換えれば、一般の人々が AI にできると考えていることと、科学者が AI にできると考えていることは一致しません。その理由は単純で残念なことです。上級技術幹部が AI について発言する場合、それは科学的な意見ではなく、製品マーケティングなのです。彼らは、自社の新製品を動かすテクノロジーを宣伝し、誰もがその波に乗る必要性を感じてもらうことを望んでいます。
例えば、サム・アルトマンやマーク・ザッカーバーグが、ソフトウェアエンジニアの仕事は人工知能に取って代わられると言うのは、エンジニアにAIスキルを習得させ、テクノロジー企業に高額なエンタープライズプランへの投資を促すためだ。しかし、彼らが自社のエンジニアをAIに置き換え（そしてそこから利益を得る）までは、個人的には彼らの言うことを一切信じない。
しかし、商用 AI が影響を与えるのは一般の人々の認識だけではありません。調査参加者は、大手テクノロジー企業が作り出した「AI誇大宣伝」が研究努力に悪影響を及ぼしていると考えている。たとえば、AI 研究の方向性は誇大宣伝によって動かされていることに 74% が同意しています。これは、商業的な AI の目標と一致する研究の方が資金調達が容易なためだと考えられます。また、12% は、その結果として理論的な AI 研究が打撃を受けていると考えています。
それで、この問題はどれほど深刻なのでしょうか?たとえ大手テクノロジー企業が私たちの研究の種類に影響を与えたとしても、彼らがこの分野に注ぎ込むであろう莫大な資金は、全体としてはプラスの影響を与えるはずです。しかし、研究においては多様性が鍵となります。最善の道を見つけるチャンスを得るためには、あらゆる種類の異なる道を追求する必要があります。
しかし、大手テクノロジー企業が現在注力しているのは、まさに一つのこと、つまり大規模言語モデルです。この非常に特殊なタイプのAIモデルは、ほぼすべての最新AI製品の基盤となっており、サム・アルトマン氏のような人々は、これらのモデルを大規模化（つまり、より多くのデータ、より多くの学習時間、そしてより高い計算能力を与えること）することで、最終的には汎用AIが実現できると考えています。
スケール仮説として知られるこの考え方は、AI に投入するパワーが増すほど、AI の認知能力が向上し、エラー率が低下するというものです。予期せず新たな認知能力が出現すると言う解釈もあります。したがって、大規模言語モデルは現時点では問題の計画や推論にはあまり適していませんが、これらの機能はいずれ現れるはずです。
壁はない
— サム・アルトマン (@sama) 2024 年 11 月 14 日
しかし、ここ数ヶ月、スケーリング仮説は相当な批判にさらされている。一部の科学者は、大規模な言語モデルをスケーリングしても汎用人工知能には決して繋がらないと考えており、新しいモデルにどれだけ追加の処理能力を与えても、もはや成果は得られないと主張している。むしろ、大量の追加の計算能力とデータによって新しいモデルがわずかに改善されるだけの「スケーリングの壁」または「スケーリングの限界」に突き当たっているというのだ。AAAIの研究に関わった科学者のほとんどは、この主張を支持している。
回答者の大多数（76%）は、AGIを実現するために「現在のAIアプローチを拡大する」ことは「成功する可能性は低い」または「非常に低い」と述べており、現在の機械学習モデルが汎用知能を実現するのに十分かどうか疑問視していることが示されています。
現在の大規模言語システムは、うまく機能しているときは非常に適切で有用な応答を生成できますが、そのためには数学的な原理に依存しています。多くの科学者は、汎用人工知能の目標に向かって前進するためには、論理、推論、事実知識を用いて解決策に到達する新しいアルゴリズムが必要になると考えています。以下は、ジェイコブ・ブラウニングとヤン・ルカンによる2022年の論文からの、大規模言語システムと汎用人工知能に関する痛烈な引用です。
言語のみを訓練したシステムは、たとえ今から宇宙の熱が消えるまで訓練されたとしても、決して人間の知能に近づくことはないでしょう。
しかし、ここで誰が正しいのかを知る本当の方法は今のところありません。一方で、汎用人工知能の定義は固定されておらず、誰もが同じことを目指しているわけではありません。汎用人工知能は人間のような方法で人間のような反応を生み出すべきだと考える人もいます。つまり、周囲の世界を観察し、人間と同様の方法で問題を解決するべきだということです。一方、汎用 AI は人間のような応答よりも正しい応答に重点を置くべきであり、使用する方法は重要ではないと考える人もいます。
しかし、多くの点で、どのバージョンの汎用人工知能に興味を持っているか、あるいはスケーリング仮説に賛成か反対かは、実際にはそれほど重要ではありません。いずれにせよ、研究努力を多様化する必要があるのです。大規模な言語モデルのスケーリングだけに焦点を当てると、うまくいかなかった場合に最初からやり直さなければならず、より効果的または効率的な新しい手法を発見できない可能性があります。この研究に関わった科学者の多くは、商用AIとその周辺の誇大宣伝が真の進歩を遅らせることを懸念していますが、私たちにできることは、彼らの懸念が解消され、AI研究の2つの分野が共存し、共に発展していくことを願うことだけです。もちろん、もしあなたが望むなら、 AIバブルが崩壊し、すべてのAI搭載技術製品が忘れ去られることを願うこともできます。
コメントは締め切りました。