人気の AI チャットボット サービスである Character.AI は、保護者がプラットフォーム上での子供のアクティビティに関するレポートを閲覧できる新しい安全機能である Parental Insights を追加しました。
同社が火曜日にブログ記事で発表したこの新しいセキュリティ機能は、保護者に対し、ティーンエイジャーがCharacter.AIでどのように時間を過ごしているかを週単位で概観できる機能です。具体的には、保護者向けインサイト機能により、お子様のアプリ利用時間（1日平均）、最も頻繁にチャットするキャラクター、各キャラクターとのチャット時間などが保護者に通知されます。ただし、チャットボットとの会話内容は非公開のため、この概要には表示されません。
18 歳未満のユーザーは、アプリの設定で自分のメールアドレスを追加し、閲覧の招待状を送信するだけで、Character.AI の統計情報を両親や保護者と共有することができます。保護者は、お子様の毎週の使用統計を表示するために Character.AI アカウントを持っている必要はありません。
保護者向けインサイト機能は、子どもがCharacter.AIに時間を費やしすぎることに対する保護者の懸念や、性的描写から自傷行為を促すメッセージまで、サービス上で有害なコンテンツに触れたとして訴えられた多数の訴訟に対処するために追加された一連の機能の一つです。これらの苦情を受けて、Character.AIはプラットフォームを更新し、未成年ユーザーをセンシティブまたは示唆的なコンテンツの提供を避けるように設計されたAIモデルに移行させ、サービスのガイドライン違反を検出して介入し、Character.AIに1時間費やした場合に通知を送信するようにしました。また、チャット内やアプリストアのリストに免責事項を導入し、ユーザーがやり取りするAIキャラクターは実在せず、発言はすべて創作であることをユーザーに思い出させました。
保護者の皆様、お子様に今後数日間の週ごとのアクティビティ統計を表示するよう勧める Character.AI からのメールを受け取った場合は、それを信頼の証として受け取ってください。彼らのレポートを見ると、アプリで時間を賢く使う方法を指導したいと考えていることがわかり、少し安心できるかもしれません。
コメントは締め切りました。