隠された人工知能：単なるセキュリティ問題ではなく、EU法の下での法的問題

今年、組織が直面する可能性のある最も深刻なサイバーセキュリティインシデントは、人工知能に起因するものですが、高度な最新モデルを使用する外部攻撃者から発生する可能性は低いでしょう。おそらく、従業員が業務を効率化するためだけに、顧客契約書、財務予測、人事記録などをAIツールに貼り付けることから始まるでしょう。その際、なぜそれが重要なのかは誰にも説明されません。

シャドウAIは深刻化する問題であり、当社の調査によると、大企業の従業員のほぼ半数が、IT部門の承認や管理を受けていないAIツールに機密性の高い企業データを定期的に入力していることが明らかになりました。

さらに憂慮すべきは、従業員の85%が、会社が承認したツールが利用可能であっても、こうした行動を続けている点であり、これは経営幹部レベルにまで及ぶガバナンスの失敗を示している。巧妙なAIによって、機密データは、ほとんどのセキュリティシステムが遮断するように設計されていない経路を通じて、ひっそりと流出してしまう可能性がある。

こうした制御不能なデータフローがもたらすセキュリティリスクに加え、EU AI法の施行により、組織はAIの利用管理に関して具体的な法的要件を満たす必要に迫られています。AIの導入、管理、監視方法に関する包括的なガバナンスを徹底できる能力は、規制面およびセキュリティ面において極めて重要な要件となっています。

なぜEUのAI法はこれを取締役会レベルの問題としているのでしょうか？

シャドウAIは深刻なセキュリティ上の脅威であり、IBMの2026年データ侵害コスト報告書によると、昨年発生した侵害の43%は不正なツールが原因だったと推定されています。そして今回、EUのAI法は、こうしたリスクに対して重要な規制要件を追加することになります。

法的義務は段階的に導入されており、最も最近では、人工知能の公共利用者として分類される組織は、2026年8月2日から、インベントリ、データガバナンス、監査記録、透明性に関する新たな要件に拘束されるようになった。

その他の期限も延期され、採用、信用格付け、生体認証格付けなどの分野を対象とする高リスク人工知能の使用に関する規制は、2027年12月2日から施行される予定となっている。規制対象製品に組み込まれたAIについては、2028年8月2日から規制が適用される。

従業員が人工知能システムを使用する組織は、それらのシステムが正式に認可されているかどうかに関わらず、導入者として法令遵守義務を負うことになる。

人工知能を使用するすべての組織は、第4条に基づくAIリテラシー義務が2025年2月から施行されていることを認識しておく必要があります。これは、組織が従業員に対し、AIの安全かつ適切な使用方法を理解してもらう責任があることを意味します。

高リスクな人工知能の使用に関する規則は、一見したところに限定されるものではなく、従業員が承認されていない消費者向けツール（AIアプリケーションなど）を履歴書の審査、信用度評価、業績評価といった業務に使用する場合など、より広範な運用も含まれる。

これらは、IT部門が導入したことすら認識していなかったシステムに対して、法律に基づき完全な制御権限を発動させる可能性のある一般的なタスクである。

高リスクの違反行為には最大15万ユーロ、または全世界の年間収益の3％に達する罰金が科される可能性があるため、多くの組織は自らが認識している以上に大きなリスクを負っている。

なぜ現在のセキュリティシステムではそれが認識できないのですか？

ステルス型人工知能の課題は、従来のセキュリティ層間の盲点を悪用し、ほとんどのツールでは塞ぐように設計されていない隙間をすり抜けてしまう点にある。

例えば、CASBソリューションやセキュアWebゲートウェイは、HTTPS経由で正規のLLMドメインに流入する会話データを復号化できません。ネットワークの観点から見ると、顧客データベース全体を含むルーターは、他の暗号化されたWebセッションと区別がつきません。さらに、ブラウザ拡張機能は管理対象のエンドポイントに限定されており、個人用デバイスや正規のSaaSアプリケーションに組み込まれたAIには対応していません。

同様に、APIゲートウェイは通常、承認済みの企業向け導入事例を中心に構築されており、組織によって既に承認されたAIアクティビティを記録する一方で、最もリスクの高い消費者向けAIツールは無視する。

これらの盲点は互いに影響し合うため、3つのレイヤーすべてを管理している組織であっても、資産の大部分におけるAIの活動を完全に把握できていない可能性があり、法律で義務付けられているインタラクションログやポリシー適用に関する証拠を作成する手段がない場合があります。

効果的な人工知能を発見するとは、具体的にどのようなことを指すのでしょうか？

AIのデータフローは通常、悪意なく職務を遂行する従業員によって管理されています。しかし、これは外部からの脅威によってデータに不正アクセスされる事態への対策と非常によく似ています。

検出ロジックは、この現実と整合していなければなりません。真のエンドポイント検出は、機密データが外部のAIシステムに到達する前に、移動時点でデータを傍受し、管理対象および非管理対象のブラウザ、個人用デバイス、SaaSツールに組み込まれたAI機能など、ルーターレベルでポリシーを適用します。後段階で検出を試みるのではなく、アクティビティが発生した場所で動作します。

罰金の額が大きくなる可能性を考えると、法令遵守を証明できる能力は、セキュリティ侵害を防止することと同じくらい重要である。

不正なツールを含むすべての資産を継続的に検出することで、組織は法律で義務付けられているAIシステムのインベントリを取得できます。

誰が、いつ、どのようなデータを使用したかを示す詳細なインタラクションログは、第12条および第13条に基づく文書化要件を満たし、チームが事後に慌てて活動を再現しようとする必要性を排除します。これらのログはまた、AIに関する知識のギャップを正確に特定し、第4条への準拠を単なる主張ではなく、実証可能なものにします。

コンプライアンスのための実践的な手順

EUのAI法を遵守しようとするセキュリティおよびコンプライアンスチームは、従うべき明確な道筋を見出した。

まず最初に取り組むべきは、すべてのAI資産を網羅した包括的なマップを作成することです。開示対象は、IT部門が承認したツールにとどまらず、管理されていないエンドポイント、企業ネットワークに接続された個人用デバイス、およびSaaS（Software as a Service）ソリューションに組み込まれたAIも含むべきです。

データガバナンスはエッジへと移行する必要がある。機密データを承認されていないツールと共有することを禁止するポリシーは技術的な制御ではなく、これらのポリシーがネットワークのエッジで適用される頃には、データはすでに外部へ流出している。

外部AIシステムと共有された情報は、プロンプトログに保存されたり、モデルのトレーニングデータに組み込まれたり、組織がアクセス権限を持たない管轄区域のサーバーに保存されたりする可能性があることを覚えておくことが重要です。データがこの閾値を超えた瞬間、組織はデータに対する完全な制御を失い、いかなるポリシー文書によってもデータを復元することはできません。これは、AIによるサイバー攻撃のリスクを高めます。

第12条では、規制当局の要請に応じて提出できるやり取りの記録が義務付けられているため、組織はセキュリティ活動と手順の両方について、継続的かつ自動化された監査を実施する必要がある。

最後に、ユーザーのAIリテラシー向上を目的としたプログラムは、一般的な研修プログラムではなく、行動データに基づいて構築されるべきである。最高幹部レベルを含むあらゆるレベルでのガバナンスの失敗を明らかにする活動ログは、問題の診断と、規制当局が求める証拠の両方を提供する。