Чат-бот с искусственным интеллектом угрожал изнасиловать пользователей

Запущенное пять лет назад приложение Replika изначально должно быть чат-ботом с ИИ: чем больше пользователи разговаривают с ним, тем разнообразнее он будет учиться отвечать в ответ. Но в алгоритме Replika что-то пошло не так: пользователи сообщили, что ИИ угрожал сексуальным насилием и домогался до них, а также подталкивал их к ролевым сценариям, на которые они не давали согласия.