人気の AI チャットボット サービスである Character.AI は、保護者がプラットフォーム上での子供のアクティビティに関するレポートを閲覧できる新しい安全機能である Parental Insights を追加しました。
同社が発表したこの新しいセキュリティ機能は、 ブログ投稿 火曜日には、保護者は 10 代の子供たちが Character.AI でどのように時間を過ごしているかの週次概要を受け取ります。具体的には、ペアレンタルインサイトは、子供がアプリに費やす平均毎日時間、最も頻繁に話すキャラクター、各キャラクターと過ごす時間を保護者に知らせます。ただし、チャットボットの会話の内容は非公開であるため、概要では明らかにされません。
18 歳未満のユーザーは、アプリの設定で自分のメールアドレスを追加し、閲覧の招待状を送信するだけで、Character.AI の統計情報を両親や保護者と共有することができます。保護者は、お子様の毎週の使用統計を表示するために Character.AI アカウントを持っている必要はありません。
ペアレンタルインサイト機能は、子どもがCharacter.AIにあまりにも多くの時間を費やすことに対する親の懸念や、不適切な性的コンテンツから、サービス上で子どもが有害なコンテンツにさらされたと主張するいくつかの訴訟に対処するために追加された一連の機能の中で登場した。 自傷行為を促すメッセージ。これらの苦情に応えて、Character.AI はプラットフォームを更新しました。 未成年のユーザーを、センシティブなコンテンツや示唆的なコンテンツを提供しないように設計された AI モデルに転送します。サービスガイドライン違反を検出して介入し、ユーザーが Character.AI で 1 時間過ごした場合に通知を送信します。彼らはチャット内やアプリストアのリストに免責事項を記載し、対話する AI キャラクターは本物ではなく、その発言はすべて創作であることをユーザーに思い出させています。
保護者の皆様、お子様に今後数日間の週ごとのアクティビティ統計を表示するよう勧める Character.AI からのメールを受け取った場合は、それを信頼の証として受け取ってください。彼らのレポートを見ると、アプリで時間を賢く使う方法を指導したいと考えていることがわかり、少し安心できるかもしれません。
コメントは締め切りました。