研究：AIノイズが真のAI研究を阻害している

人工知能研究家数百人が参加した人工知能推進協会（AAAI）が今月発表した新たな研究には、重要な発見がある。それは、現在のAIへのアプローチでは、汎用人工知能を実現できる可能性は低いということだ。

人工知能はここ数年で話題になっていますが、科学研究分野としての AI の分野は何十年も前から存在しています。たとえば、アラン・チューリングの有名な論文「計算機械と知能」や、今日でも話題になるチューリングテストは 1950 年に発表されました。

今日誰もが話題にしている AI は、数十年にわたる研究から生まれたものですが、同時にそこから遠ざかりつつあります。科学的研究ではなく、今では「商用 AI」と呼べる独自の AI 分野も存在します。

Microsoft、Google、Meta、Apple、Amazon などの大手独占企業は、AI 製品の作成を主な目標として、商用 AI の取り組みを主導しています。これは問題ではないはずですが、現時点では問題になる可能性があるようです。

まず、ほとんどの人が AI 研究に注目し始めてまだ数年しか経っていないため、平均的な人が AI について知っていることはすべて、科学界からではなく、これらの企業から得たものです。この研究はこのトピックは「認識と現実」の章で取り上げられており、参加した科学者の 79% が AI 機能に関する現在の認識は AI 研究開発の現実と一致していないと考えています。

言い換えれば、一般の人々が AI にできると考えていることと、科学者が AI にできると考えていることは一致しません。その理由は単純で残念なことです。上級技術幹部が AI について発言する場合、それは科学的な意見ではなく、製品マーケティングなのです。彼らは、自社の新製品を動かすテクノロジーを宣伝し、誰もがその波に乗る必要性を感じてもらうことを望んでいます。

彼が言うときサム・アルトマン أو マーク・ザッカーバーグたとえば、ソフトウェアエンジニアリングの仕事は AI に置き換えられるでしょう。エンジニアに AI スキルを習得させ、テクノロジー企業に高額なエンタープライズプランに投資させるためです。しかし、彼らがエンジニアの交代を始めない限り（そしてそれを利用しようとしない限り）、私は個人的にこの件に関して彼らが言うことを一言も信じないだろう。

しかし、商用 AI が影響を与えるのは一般の人々の認識だけではありません。調査参加者は、大手テクノロジー企業が作り出した「AI誇大宣伝」が研究努力に悪影響を及ぼしていると考えている。たとえば、AI 研究の方向性は誇大宣伝によって動かされていることに 74% が同意しています。これは、商業的な AI の目標と一致する研究の方が資金調達が容易なためだと考えられます。また、12% は、その結果として理論的な AI 研究が打撃を受けていると考えています。

それで、この問題はどれほど深刻なのでしょうか?たとえ大手テクノロジー企業が私たちの研究の種類に影響を与えたとしても、彼らがこの分野に注ぎ込むであろう莫大な資金は、全体としてはプラスの影響を与えるはずです。しかし、研究においては多様性が鍵となります。最善の道を見つけるチャンスを得るためには、あらゆる種類の異なる道を追求する必要があります。

しかし、大手テクノロジー企業が現在注力しているのは、まさに一つのこと、つまり大規模言語モデルです。この非常に特殊なタイプのAIモデルは、ほぼすべての最新AI製品の基盤となっており、サム・アルトマン氏のような人々は、これらのモデルを大規模化（つまり、より多くのデータ、より多くの学習時間、そしてより高い計算能力を与えること）することで、最終的には汎用AIが実現できると考えています。

スケール仮説として知られるこの考え方は、AI に投入するパワーが増すほど、AI の認知能力が向上し、エラー率が低下するというものです。予期せず新たな認知能力が出現すると言う解釈もあります。したがって、大規模言語モデルは現時点では問題の計画や推論にはあまり適していませんが、これらの機能はいずれ現れるはずです。

壁はない

—サム・アルトマン（@sama） 2024 年 11 月 14 日

しかし、過去数カ月間、拡大仮説は厳しい批判に直面してきた。一部の科学者は、大規模な言語モデルをスケールアップしてもAGIにはつながらないと信じており、新しいモデルもはや成果は生まれません。代わりに、私たちは「スケーリングの壁」または「スケーリングの限界」にぶつかり、大量の計算能力と追加データによって新しいモデルにわずかな改善しかもたらされなくなりました。 AAAI の研究に関わった科学者のほとんどは、この議論の側に立っています。

回答者の大多数（76%）は、AGIを実現するために「現在のAIアプローチを拡大する」ことは「成功する可能性は低い」または「非常に低い」と述べており、現在の機械学習モデルが汎用知能を実現するのに十分かどうか疑問視していることが示されています。

現在の大規模言語システムは、物事がうまくいっているときには非常に適切で有用な応答を生成することができるが、数学的原理に基づいてそうする。多くの科学者は、汎用人工知能という目標に向かって前進するためには、論理、理性、事実に基づく知識を使って解決策を導き出す新しいアルゴリズムが必要になると考えています。大規模言語システムと汎用人工知能に関する痛烈な引用文を以下に引用する。 2022年研究論文ジェイコブ・ブラウニングとヤン・ルカン著。

言語のみを訓練したシステムは、たとえ今から宇宙の熱が消えるまで訓練されたとしても、決して人間の知能に近づくことはないでしょう。

しかし、ここで誰が正しいのかを知る本当の方法は今のところありません。一方で、汎用人工知能の定義は固定されておらず、誰もが同じことを目指しているわけではありません。汎用人工知能は人間のような方法で人間のような反応を生み出すべきだと考える人もいます。つまり、周囲の世界を観察し、人間と同様の方法で問題を解決するべきだということです。一方、汎用 AI は人間のような応答よりも正しい応答に重点を置くべきであり、使用する方法は重要ではないと考える人もいます。

しかし、多くの点で、どのバージョンの AGI に興味があるか、またはスケールアップ仮説に賛成か反対かは、実際には重要ではありません。私たちは依然として、研究努力を多様化する必要があります。大規模言語モデルのスケーリングにのみ焦点を当てると、モデルが機能しない場合は最初からやり直す必要があり、より効果的または効率的な新しい方法を発見できない可能性があります。この研究に携わる科学者の多くは、商用 AI とそれを取り巻く誇大宣伝が実際の進歩を遅らせるのではないかと懸念していますが、私たちにできるのは、彼らの懸念に対処し、AI 研究の両分野が共存して共に進歩できることを願うことだけです。まあ、あなたもそう願うことができます AIバブル AI を搭載したテクノロジー製品はすべて爆発して、忘却の彼方へと消え去ると言ってもいいでしょう。