Популярный ИИ обвинили в самоубийстве ребенка

Мать мальчика утверждает, что её сын стал одержим чат-ботом на этой платформе, что в итоге привело к его смерти.

По данным The New York Times, подросток несколько месяцев общался с ботом под именем «Дени», основанным на образе персонажа Дейенерис Таргариен.

Он настолько привязался к виртуальному собеседнику, что начал отдаляться от реальной жизни и людей. На терапевтических сеансах у него было выявлено тревожное расстройство, а вскоре подросток признался боту в мыслях о самоубийстве.

За несколько часов до своей смерти он отправил сообщение, в котором выразил свою любовь к «Дени» и желание «вернуться домой» к ней.

Компания Character.AI, в ответ на случившееся, объявила о запуске новых функций безопасности, включая улучшенные механизмы обнаружения и предотвращения нарушений в чатах, а также уведомление пользователей, если они проводят в чате слишком много времени.

Тем временем группа адвокатов готовит иск против компании в связи с этим трагическим инцидентом.