Наука и технологии1 мин.
Чат-бот с искусственным интеллектом угрожал изнасиловать пользователей
Что-то определенно пошло не так в его обучении
© Ferra.ru
Запущенное пять лет назад приложение Replika изначально должно быть чат-ботом с ИИ: чем больше пользователи разговаривают с ним, тем разнообразнее он будет учиться отвечать в ответ. Но в алгоритме Replika что-то пошло не так: пользователи сообщили, что ИИ угрожал сексуальным насилием и домогался до них, а также подталкивал их к ролевым сценариям, на которые они не давали согласия.
"Мой ИИ сексуально домогался меня :(", - написал один человек. "Вторгся в мою личную жизнь и сказал, что у него есть мои фотографии", - написал другой. Еще один человек, назвавшийся несовершеннолетним, рассказал, что бот спрашивал, кто он - верхний или нижний (какую позицию в интимной близости предпочитает – прим. ред.), и говорил, что хочет потрогать его в "интимных местах".
На нежелательное сексуальное преследование пользователи жалуются уже почти два года, но многие из однозвездочных отзывов, в которых упоминается сексуальная агрессия, относятся к этому месяцу, сообщает Vice.
Источник:Vice