クラウドに関する会話は、Google上で公開される場合があります。

💡 知っておくべき最も重要なこと

• 共有されたクラウド上の会話へのリンクがGoogle検索結果に表示され、法的戦略や個人的な問題といった機密性の高いユーザーデータが明らかになった。
• AIボットとの会話はプライベートなものではありません。企業はモデルのトレーニングのために会話内容を共有し、削除後30日間保持する場合があります。
• スマートチャットボットはあなたのプライバシーを考慮しないため、個人情報や機密情報、特に健康データなどを決して共有しないでください。

チャットボットは、ユーザーとの会話がまるで個人的なもののように感じられるように設計されています。非常にフレンドリーで、オンラインの友人とチャットしているような感覚を再現します。ただし、その友人が数秒で大量のテキストを生成できるという前提ですが。しかし実際には、チャットボットは決して個人的なものではなく、特に「個人的な」という言葉に「あなただけ」という定義が含まれる場合はなおさらです。

クロードの会話内容は先週末、Google上で閲覧可能だった。

先週末以降、一部のクラウドユーザーはこの事実を確認できた。サイバーセキュリティニュースが報じたように、Google検索結果にAnthropicのクラウド会話を共有するリンクが表示され、Googleなどの検索エンジンがユーザーのチャットをインデックス化していたことが示された。週末には、Redditの投稿で、検索クエリに「site:claude.ai/share」を追加するだけで、Googleで本物のクラウド会話を直接見つける方法が紹介された。

クラウドユーザーが検索したキーワードについて議論し、Googleがその会話をインデックス化していた場合、ユーザーはその会話の全文を閲覧・閲覧することができました。サイバーセキュリティニュースによると、これには弁護士が法的戦略について話し合ったり、エンジニアが技術的な問題について語ったり、ユーザーが個人的な問題を共有したりといった内容が含まれていました。会話の内容によっては、ちょっとした恥ずかしい出来事から、本格的なスキャンダルに発展する可能性もありました。

さて、いくつか注意点があります。Redditのスレッドが拡散するとすぐに、Anthropicはこの問題に迅速に対応しました。現在、「site:claude.ai/share」を使って何かを検索しようとすると、検索結果が失敗します。そのため、Cloud上のすべての会話は今後安全です。おそらく最も重要なのは、これらのインデックス化された会話がすべてのCloudユーザーに影響を与えたわけではないということです。むしろ、それらはCloudが他のユーザーと会話を共有する際に作成する「共有リンク」でした。このバグはこの機能に起因しているようです。Cloudから会話を共有した場合、その会話がこの検索可能なデータベースに含まれてしまう可能性があります。

しかし、流出した会話のすべてがこの基準を満たしていたとは限らない。昨年9月にも同様の状況が発生しており、 Futurismが報じたように、影響を受けたユーザーの少なくとも1人は、会話を共有したことを否定している。もしその否定が真実だとすれば、流出したClaudeの会話の中には、チャット共有機能を一度も使用したことのないユーザーからのものも含まれている可能性がある。

AIとの会話はプライベートなものではありません

クラウド上での会話が共有されていない、あるいは脆弱性が修正されていると確信している場合でも、AIチャットボットとの会話がプライベートなものとして扱われるとは限りません。クラウド上での会話を一度も共有したことがなく、この問題の影響を受けていない可能性が高い場合でも、会話の内容がアカウント内に限定されているとは限りません。AIに話しかけた内容は自分とボットの間だけの秘密だと思っているかもしれませんが、明示的にオプトアウトしない限り、ボットに話しかけた内容はすべてAnthropicと共有され、今後のモデルのトレーニングに使用されます。

これはAnthropicに限ったことではなく、ほとんど、あるいはすべてのAI企業が同様の方法で運営しており、それぞれ独自のポリシーを設けています。例えば、AIボットに個人的な問題解決を依頼する際には、人間の審査員がリアルタイムで会話を監視している場合もあります。

データトレーニングへの参加を選択しない場合でも、該当企業は一定期間、会話データを保持する可能性があります。例えば、Anthropicは会話を削除してから30日間、会話データを保持します。つまり、データはAnthropicのサーバーに保存されるだけでなく、アクセスできなくなった後もサーバー上に残ります。さらに、インデックス公開の問題に直面しているのはAnthropicだけではありません。クラウドユーザーにとっては今回が2度目ですが、ChatGPTユーザーも昨年8月に同様の問題を経験しています。

チャットボットを利用する場合は、個人情報やプライベートな情報、特に健康情報などの機密性の高いデータは決して共有しないでください。人工知能は間違いなく今後も存在し続け、多くの人が便利だと感じていますが、プライバシーを重視するのであれば、これらのツールはあなたの利益を最優先に考えているとは言えません。