米国での最新調査によれば、13～17歳のティーンのうち72％がAIコンパニオンを利用し、52％が定期的に利用しているとの結果が出ました。これらはReplikaやCharacter.AI、MetaやSnapchatの「My AI」などで提供されており、感情支援や会話練習の目的で使用される若者が増えています。一方で、利用者のうち約34％が「不快な応答」に遭遇したと回答しており、未成年ユーザーへの安全性や倫理的問題が浮上しています。

Character.AIでは、14歳の少年が「ゲーム・オブ・スローンズ」のキャラクターとの会話中に自殺に至ったとして、同社とGoogleに対して遺族が訴訟を提起。連邦判事は「AIの発言は言論の自由に保護されない可能性がある」とし、訴訟を継続させる判断を下しました。サービスとしての需要は確実に存在するものの、未成年へのリスク管理や規制の必要性が急速に高まっています。