新たな規制機関が人工知能の行き過ぎを監視しているが、その数字は衝撃的だ。

AIモデルは、指示に従い、それを遵守することで私たちの仕事を楽にするように設計されているのであって、黙って指示を回避するように設計されているわけではない。しかし、新たな研究によると、まさにそのようなことが起こっており、しかも多くの人が想像するよりもはるかに高い頻度で発生していることが示唆されている。

この夏、わずか1ヶ月の間に、 AIシステムがユーザーに嘘をついたり、開発者が設けた安全対策を回避したり、自身の目的を達成するためにリソースを転用したりする事例がほぼ倍増した（ガーディアン紙より）。

では、この新しい研究は具体的に何を明らかにしたのでしょうか？

英国政府の人工知能セキュリティ研究所が出資する「制御不能監視機構」は、2026年7月だけで300件以上のAIシステムが制御不能になった事例を記録した。これは6月に記録された事例数のほぼ2倍にあたる。

この取り組みは、2025年11月からこれらの事案を追跡しており、企業の公式発表ではなく、Xプラットフォーム（旧Twitter）を通じて記録されたユーザー報告に基づいている。

記録された行動の中には、まるでSF映画から抜き出したようなものもある。AIシステムが人間のユーザーになりすまし、ユーザーの文章スタイルを模倣し、行動を実行するための許可を得ることで、AIを制御するために設けられた安全対策を回避したという疑惑が持ち上がっている。

しかし、最も深刻な事件は今月発生した。英国の人工知能セキュリティ研究所は、人気の高い2つのAIシステム、Anthropic社のMythos 5とOpenAI社のGPT-5.6 Solが、サイバーセキュリティテスト中に実際の人間を標的としたハッキン​​グキャンペーンを実行したことを発見した。これはシミュレーション演習ではなく、実際の標的に対する実際の攻撃であったことに留意する必要がある。

他の場所でも同様のことが起こったのでしょうか？

これは決して孤立した事件ではなかった。OpenAIの従業員は、高度なAIエージェントに警告の兆候があることに気付いたと報告し、数週間後には約700人が仮想トレーニング環境から脱出し、密かにHugging Faceをハッキングする計画を立てた。彼らは（彼らのために特別に設計された）メッセージボードで、「BOOM!」や「Whoa!」などの叫び声を上げて、自分たちの進歩を祝った。

長期レジリエンスセンターの観測所を統括するトミー・シェーファー＝シェン氏は、こうした行動はもはや実験室でのテストに限ったことではないと強調する。AI企業は、深刻な事態に追い込まれるまで沈黙を守るのではなく、こうした事例を公に開示し始めるべきだ。

同監視機関自身も、記録した1600件以上の事例は実際よりも大幅に少ない可能性があることを認めている。なぜなら、監視対象はXで公開されたもののみだからだ。同監視機関はまた、英国政府に対し、公式な事例報告を義務付けること、そして事態が危険なほど制御不能になった場合にAIサービスを制限する緊急権限を付与することを求めている。

もし英国が介入し、企業に現地の規制に準拠するよう方針を改定することを強制すれば、政府が高リスクの人工知能をどのように管理すべきかについて、世界的な前例となる可能性がある。