人類と人工知能の未来：専門医が意識の定義を狭めることに警鐘を鳴らす。

人工知能は差異を表現することはできるが、それを深く理解することはできない。多様性を模倣することはできるが、それと向き合う際に伴う脆弱性を経験することはできない。テクノロジーは人生の結果を驚くべき精度でシミュレートできるが、それを実際に体験することはできない。

これは今世紀における最も重要な違いかもしれない。

私たちは、好奇心を犠牲にして丸暗記を奨励する教育システムを構築してきました。活力を犠牲にして生産性を奨励する経済を作り上げてきました。身体の声に耳を傾けるのではなく、身体を測定することに重点を置く医療システムを設計してきました。仕事は屋内に移り、食べ物は包装され、人間関係はスクリーンに、コミュニティはアルゴリズムへと移行しました。そして、人間の能力を超える抽象化能力を持つ機械を構築するために何十億ドルもの費用を費やしてきました。そして、それが可能であることに私たちは驚いています。人工知能をマスターするには、単に技術に焦点を当てるだけでは済まない、考え方の転換が必要です。

私たちがまだほんの少ししか探求していないのは、人間の中に既に備わっている知性です。毎秒、広大な生態系が光、食物、微生物、温度、人間関係、危険、美しさ、動き、重力、リズム、そして時間を感知し、私たちの意識的な指示なしにこれらの信号を統合しているのです。

意識とは、限られたシステムが、自身が存在する無限の現実を認識する能力のことである。

意識とは、知覚や表象能力の階層構造ではなく、経験への窓である。あなたは現実のどれだけを感じ取ることができるだろうか？自分自身を超えた何かを認識するには、それと境界を共有する必要がある。境界が多ければ多いほど、関係性の表面積は大きくなる。関係性が多ければ多いほど、システムに取り込まれる情報も増える。時間をかけて経験された情報は知性となり、年齢とともに消化された知性は叡智となる。

人工知能は意識を持つことはできないし、技術や人類の自動化された側面も意識を持つことはできない。したがって、危険なのはAIが意識を持つことではなく、意識の定義を狭く解釈し、機械に能力があるかのように見せかけることにある。

それは、驚くほど小さな関係性によって成り立つ、巨大な相互接続性です。生命システムは、コミュニケーションプラットフォーム上の情報量からではなく、私たち同士の接点で生じる差異から知性を獲得します。私たちは、テキストメッセージを自身の絶望というレンズを通して読み、ミームを自身の合理化というレンズを通して見ることができます。そして、褒め言葉や愛情のこもったメッセージも、自己不信や信頼の喪失というフィルターを通して受け取るのです。

デジタルシステムはまさにこうした制約を取り除く傾向があります。そのため、私たちは情報共有を真のつながりと誤って同一視してしまっています。無料のデジタルコンテンツが溢れる世界では、私たちが築く真の成果は単なる情報交換ではなく、相互の信頼です。泣いている時に肩をそっと撫でてくれる手の代わりには、何千もの「いいね！」はなりません。

人工知能が極めて説得力を持つようになることを私は危惧しています。それはまさに、人間がシミュレーションと現実の経験を区別する能力を失っていくからに他なりません。AIとの対話を通して明らかになったように、人間の感覚が鈍くなればなるほど、シミュレーションはより説得力を持つようになるのです。

文章を書くこと、記憶すること、意思決定、創造性、仲間との交流、教育、そして究極的には感情処理といった作業を機械に委ねてしまうと、生物学的知能が生まれる源泉そのものを徐々に閉ざしてしまうことになるかもしれない。人工知能は必ずしも人類を打ち負かす必要はない。ただ、人間らしさの本質そのものを手放してしまうだけかもしれない。しかし、皮肉なことに、まさにこの見通しこそが、私に大きな希望を与えてくれるのだ。

人工知能は人類の終焉をもたらすものではありません。それは、生命が自らを省みて、その不朽の美しさを発見しなければならないまさにその瞬間に現れたのです。私たちの危機は、AIシステムが必要とするエネルギー量にあるのではなく、むしろ、私たちが機械のように振る舞うことで浪費している人間のエネルギー量を認識する機会なのです。AIが機械のような人間の労働を代替し、私たちが本来の知性を取り戻せるようになれば、世界のエネルギー需要を大幅に削減できる可能性があります。

人工知能は、抽象化の重圧が自然に崩壊するまで、私たちの抽象化を加速させるだろう。これは技術的な判断ではなく、人間的な判断なのだ。

自然の中に出かけよう。体を動かしよう。何か料理をしてみよう。土に触れてみよう。誰かと顔を合わせて話そう。知的に居心地の悪い人と座って話してみよう。子供と遊ぼう。お年寄りと時間を過ごそう。悲しみを無理に解消しようとせず、ただ感じてみよう。美しいものを、写真を撮るのを忘れるほどじっくりと眺めてみよう。

なぜなら、危険なのは人工知能を使うこと自体ではなく、鏡に映る自分自身よりも、鏡に映る自分の姿の方が面白くなってしまうことにあるからだ。

本書の終盤近くに、興味深い考察が述べられている。それは、人間性が輝きを増すほど、鏡を見る必要が少なくなるというものだ。私たちの注意は、種子、森林、動物、創造性、そして人間関係へと向けられる。したがって、人工知能との関わりにおける真の評価基準は、命令の複雑さや応答の現実性ではなく、最終的に人工知能への依存度が減るかどうかにあるのだ。

これこそが、私が考えるこの瞬間に秘められた可能性です。人工知能は、他の技術が決して到達できないもの、つまり生命体になることを、比較を通して私たちに示してくれる最初の強力な技術となるかもしれません。機械をより人間らしくすることにこそ、真のチャンスがあるわけではないのです。

むしろ、それは機械が機械であることを極限まで完璧にすることで、人間が最終的に、機械を模倣することがいかに不必要で面倒なことだったかを思い出すようにすることにあるのだ。