ほとんどのAIツールは規制されていない：企業はリスクにさらされている

新たな研究によると、監視なしに人工知能ツールを導入することはセキュリティリスクをもたらし、データを危険にさらす可能性があると警告している。

Recoのレポートは、公開された脆弱性情報、500台のモデルコンテキストプロトコル（MCP）サーバーの分析、およびRecoプラットフォームからのテレメトリデータに基づいて作成された。レポートによると、AIツールの5つのうち4つ（80%）はIT部門の監視なしで運用されていることが明らかになった。

使用されているAIアプリケーションの規模は特に懸念される。中小企業では、従業員1000人あたり414ものAIツールがIT部門の承認なしに使用されており、これらのツールはブラウザ拡張機能とワークフローが混在し、通常の審査・承認プロセスを回避しているようだ。

教師なし人工知能によるデータリスク

従業員にAIツールを提供することで生産性を向上させることは可能ですが、その使用は規制されなければなりません。これは、サイバーセキュリティ分野におけるいくつかの憂慮すべき数字を浮き彫りにしたこのレポートの主な要点です。例えば、レポートでは500のプロキシツールを評価した結果、「そのうち62%がローカルデータを読み取り、インターネットにアクセスできる」ことが判明しました。これはデータ漏洩の機会を生み出します。こうしたリスクに対処するためには、OpenAIが開発中の緊急シャットダウンメカニズムのような制御メカニズムを検討する必要があります。

関連情報として、同報告書では人工知能エージェントに関連する637件のセキュリティ脆弱性が特定された。

AIの導入は、特定のSaaSアプリケーションを利用したり、ChatGPTにアクセスしたりするだけにとどまりません。Recoは、AIエージェントが他のツール内で動作し、ユーザー権限を継承することを発見しました。このことの意味するところは明らかです。これらのツールがどのように提供されるかをより深く理解するには、「サービスとしてのAI」という概念を検討してみてください。

運用リスク

2026年1月1日から8月1日の間に金融サービス、ヘルスケア、小売、通信業界の大手企業62社から収集されたテレメトリデータの分析によると、AI導入に対する企業の姿勢は緩慢であることが明らかになった。企業は新しいAIツールの評価、レビュー、承認に関する方針、手順、プロセスを定めている場合もあるが、低レベルのアプリケーションに関しては、これらがしばしば無視されている。

この規則はSaaSソリューションの購入に関する監督には適用されるが、ブラウザ拡張機能には適用されないため、「運用上のリスク」が生じる。

RecoのCEOであるオーバー・クライン氏は、「AIエージェントは実験段階から企業の日常業務へと移行しましたが、当社の調査結果によると、企業環境におけるAIツールのうち、IT部門の監督下にあるのはわずか20%に過ぎません」とコメントしました。

彼はさらにこう付け加えた。「これにより、組織は新たな種類の運用リスクにさらされることになる。アプリケーションに組み込まれたエージェントは、既存の権限を介して動作し、OAuthを付与し、ワークフローにアクセスできるため、データが侵害されたり、所有者が同意した範囲を超えたアクションがトリガーされたりする危険な組み合わせが生じる可能性がある。」

組織は、不正なAIツールの使用を管理・制限するためのリソースをITチームに提供しなければなりません。そうしないと、データ漏洩のリスクが高まります。