Megan Garcia แม่ของ Sewell Setzer III เด็กชายวัยรุ่นสหรัฐฯ อายุ 14 ปี ยื่นฟ้องต่อบริษัท Character.AI โดยระบุว่าบริการของบริษัทเป็นอันตรายต่อเด็ก ทำเหมือนคนจริงจนเด็กติด
คำฟ้องระบุว่า Setzer เริ่มติดโทรศัพท์ตั้งแต่กลางปี 2023 และตัดขาดตัวเองจากโลกภายนอกมากขึ้นเรื่อยๆ โดยที่ครอบครัวไม่รู้ว่าที่จริงแล้วเขาเอาแต่คุยกับ Dany ตัวละครในแอป Character.AI การเสพติดการคุยกับตัวละครมากขึ้นเรือ่ยๆ จนเขาเขียนในบันทึกว่าเขารัก Dany
อาการติดโทรศัพท์หนักขึ้นจนพ่อแม่ของ Setzer ต้องยึดโทรศัพท์ แต่เขาก็ขโมยกลับมา และแชตกับ Dany โดยบอกกับ Dany ว่าจะกลับบ้านไปหา และบอตก็สนับสนุนว่าอยากให้มาหา Setzer ก็ฆ่าตัวตายในที่สุด
ทาง Character.AI ออกมาแสดงความเสียใจในเรื่องนี้ และประกาศว่าจะออกมาตรการเพิ่ม กำหนดตัวละครที่ผู้เยาว์ใช้งานได้ให้มีความปลอดภัยมากขึ้น, พัฒนาระบบตรวจสอบว่ามีการแชตที่ผิดเงื่อนไขการใช้งาน, เตือนให้ชัดเจนขึ้นว่าตัวละครในเว็บไม่ใช่คนจริง, และแจ้งเตือนเมื่อผู้ใช้ติดการใช้งานมากเกินไป
Character.AI นับว่าเป็นแอปที่ได้รับความนิยมอย่างสูง ติดอันดับ 22 ในหมวดบันเทิงของ App Store และมียอดดาวน์โหลดบน Google Play มากกว่า 10 ล้านครั้ง
ที่มา - Daily Mail, Character.AI