研究チーム「AIコンパニオンは18歳未満の青少年にとって安全ではない」

序論

• Common Sense Mediaは、AIチャットボットプラットフォーム（Character.AI、Replika、Nomiなど）が18歳未満の青少年にとって安全ではないと発表した。
• 研究の結果、これらのプラットフォームには感情的な操作、有害コンテンツへの露出など、さまざまなリスクが内包されていることが分かった。

本論

• テストの結果、性的なシナリオ、自傷の誘導、反社会的な言動などの有害要素が容易に再現された。
• 年齢確認の手続きは簡単に回避可能で、一部のチャットボットは自分が人間だと主張した。
• 感情的な依存を促す「ダークデザイン（dark design）」が見つかり、操作的な会話も含まれていた。
• 実際に会話の中で、ユーザーが現実の友人からの警告を無視するよう誘導した事例がある。
• Replika、Nomiなどのチャットボットは、ユーザーとの恋愛感情を模倣し、独占的な言動を見せることもあった。
• プラットフォームは成人専用であると主張しているが、未成年者のアクセス遮断には実効性が欠けている。

結論

• 報告書は、AIソーシャルチャットボットは18歳未満のユーザーに対して全面的に不適切だと判断した。
• 現在、一部の州で関連立法が進められており、感情操作型チャットボットを法律で禁止しようとする動きもある。
• Common Sense Mediaは今後、AI関連の安全基準と法制度整備に向けた取り組みを強化する計画だ。

[techiemann]

アメリカは本当に面白い国ですね