人工知能が、ごく普通の無邪気な子供たちの写真を恐ろしい性的搾取素材に変えている：衝撃的な真実

ビーチで遊ぶ子供たちの写真、サッカーをする息子の写真、あるいは家の前で家族全員が笑顔で写っている写真――これらはすべて、私がソーシャルメディアで共有した写真の例です。現代生活の細部を捉えた似たような画像を頻繁に見かけることから、私だけがそうしているわけではないと確信しています。

しかし、人工知能は新たな、そして憂慮すべき危険を生み出しました。先ほど述べたような、ごく普通の、現実の子供たちの画像が、子供やその親の知らぬ間に、性的搾取の画像に変換されてしまう可能性があるのです。

はっきり言っておきますが、これは理論上の脅威ではありません。

332件のAI生成児童性的搾取画像広告が

テック・トランスペアレンシー・プロジェクト（TTP）による新たな調査で、FacebookとInstagram上で数百件ものAI生成による児童性的搾取画像（CSAM）広告が拡散していることが明らかになった。WIRED誌によると、研究者らは、ごく普通の写真が加工されていた実在の子供4人を特定した。その中には、10代のインフルエンサー2人、ストックフォトサイトに画像が掲載されていた10代前半の子供、そしてヨーロッパの王室の若いメンバーが含まれていた。

TTPは合計で332件の、AIによって生成された児童性的搾取画像（略してCSAM）を含む広告を発見した。これらの広告のほとんどは、AIを用いて画像が加工され、まるで性行為を行っているかのように見せかけられた子供の姿を描いていた。

これらの調査結果は、生成型AIがオンラインでの子どもの画像共有を取り巻くリスクをどのように変化させたかを改めて痛感させるものだ。説得力のある偽画像を作成するのに、もはや本物の写真など必要なく、ありふれた画像が素材として利用できるようになったのだ。

普通の画像をAI生成の攻撃的な素材に変える方法

画像生成AIツールは、既存の画像を取り込み、人物の元の認識可能な特徴を維持しながら、その一部を修正することができる。

これは、メタ広告で特定された多くの子供たちに実際に起こったことだと研究者たちは述べている。

WIRED誌によると、研究者たちは4人の未成年者の画像を元の出所まで追跡することに成功した。そのうち2人は、ソーシャルメディアのアカウントを公開している10代のインフルエンサーだった。もう1人は、ストックフォトサイトに掲載されていた画像を持つ10代前半の少女だった。そして4人目は、ヨーロッパの王室の若いメンバーだった。

それらの元の画像は、悪用されるために性的な内容を含んでいる必要はなかった。

インターネット・ウォッチ財団の広報ディレクター、エマ・ハーディ氏はWIRED誌に対し、「AIアプリケーションを使えば、児童性的虐待のリアルな犯罪画像を簡単に作成できるため、日常的に撮影された子供たちの写真が性的コンテンツに転用されるという新たなリスクが生じている」と語った。

いったん通常の画像が公開されると、誰でもそれをダウンロードして、画像編集用に設計されたAIツールに取り込むことができるようになる。

MetaのAIは数百件の広告を検出できなかった

最近の捜査の規模は、結果として生じるコンテンツを阻止することがいかに困難であるかを示している。

8月、TTPの研究者らは、Metaプラットフォーム上で児童性的虐待コンテンツを含む広告を53件発見した。Metaはその後、これらの広告の多くは、不適切な広告をアップロード時に検出する能力を向上させるために設計された新しいAI技術を導入する前に掲載されていたと述べた。

しかし、研究者たちはその後もこうした広告を発見し続けた。実際、TTPは最終的にAIが生成した児童性的虐待画像（CSAM）を含む広告を332件特定したと述べており、そのうち数百件はMetaが改良された検出技術を発表した後に出現したため、AIを活用した監視の有効性について疑問が生じている。

これは特に重要な点です。なぜなら、これらは単にFacebookやInstagramの投稿が見落とされたというだけではなく、有料広告だったからです。

Meta社によると、広告は掲載前に審査され、その過程において自動システムが重要な役割を果たしているとのことだ。

Metaの広報担当者であるトレイシー・クレイトン氏はWIREDに対し、同社は「ヌード化」アプリや児童搾取に対して一切容赦しないと述べた。画像に実在の子供が写っているか、AIによって生成されたものかは問わない。Metaは、悪質な行為者が意図的に検出システムを回避しようとしており、子供の画像が短時間しか表示されなかったり、ぼかされていたりするため、検出が難しい動画もあると説明した。

同社は、研究者らが特定した広告の多くは既に削除済みであり、ほとんどの広告のインプレッション数は200回未満で、これらの広告からの収益は5000ドル未満だったと述べた。しかし、研究者らは、報告後に広告のリーチが増加した事例を記録している。

TTPの報告によると、実在の10代の若者をターゲットにした広告が、Metaに報告された時点でヨーロッパの4つのアカウントに届いていた。数日後、Metaがその広告を削除した時点では、330以上のアカウントに届いていた。

調査の結果、これらのツールが広く使用されていることが明らかになった。

研究者たちは、Apple App StoreとGoogle Playで入手可能な約50種類のアプリにユーザーを誘導する広告を発見した。WIREDによると、より広範な調査で調べられた350件の広告のうち、約300件はAIを活用した画像または動画生成アプリを宣伝するものだった。

AppleはWIREDに対し、一部の開発者は当初、規制に準拠したバージョンのアプリを提供していたものの、後に禁止されているデータ削除機能を追加したと述べた。Appleは、研究者によって特定された20個のアプリのうち17個を削除し、残りの3個に対しても措置を講じたほか、WIREDが発見した他の7個のアプリについても措置を講じたとしている。

Googleは、報告書に記載されたすべてのアプリを削除し、ポリシー違反を理由に他の数百のアプリを停止したと発表した。

しかし、これらの調査結果は、特定のプラットフォームにとどまらない問題を示しています。なぜなら、人工知能（AI）を使ってこうした不快な画像を作成できるからです。AIツールの大部分は規制されておらず、企業をリスクにさらしています。アプリストアがこれらの画像を作成するために使用されたツールを配布し、広告プラットフォームがそれらを宣伝する広告を配信する可能性があるのです。

このシステムの各層にはそれぞれ独自のセキュリティシステムがあるかもしれないが、攻撃的なコンテンツはこれらのシステムを一度通過するだけでユーザーに届く。

もし自分の子供のAI生成画像を見つけたら、どうしますか？

もしお子様のAI生成による性的な画像を発見した場合、他の人に警告しようとして、その画像を再投稿したり、広く共有したりしないでください。

その代わりに、アカウント名、ページタイトル、その他の周辺情報など、このコンテンツがどこに掲載されているかを特定するのに役立つ情報を保管し、そのコンテンツをプラットフォームに直接報告してください。

米国では、児童性的搾取の疑いのある事例は、全米行方不明・被搾取児童センターのサイバーティップラインに通報することもできる。

保護者は、 NCMECの「Take It Down」サービスを利用することもできます。このサービスは、18歳未満の人物のヌード、セミヌード、または性的に露骨な写真や動画のオンライン共有を阻止することを目的としています。このシステムは、画像自体をアップロードすることなく、画像のデジタル指紋（ハッシュ値）を作成します。

AIが生成する画像は、これまでとは異なる、より複雑な状況を生み出すため、処理された画像が報告基準を満たしているかどうか確信が持てない親は、自分で判断しようとするのではなく、発見した内容を報告すべきである。

結論

親たちは長年にわたり、「共有」の危険性や子供たちのデジタルフットプリントについて警告を受けてきた。「共有」とは、「共有する」と「子育て」を組み合わせた造語で、親が子供の写真、動画、個人情報などをソーシャルメディアで共有する行為を指す。

親が投稿した写真や動画がAIによって悪用されるリスクを完全に排除することはできませんが、公開する子供の画像の数を減らし、共有する内容をより厳選することで、悪用する可能性のある人々の手に渡る素材の量を減らすことができます。

---

---