Может ли чат-бот на искусственном интеллекте «придумывать» мошеннические схемы или использоваться в них

По словам эксперта, часто пользователей чат-ботов, которых всё больше становится и в России, разработчики привлекают бесплатным функционалом. Но в этом как раз и заключается опасность: такие программы нередко таят в себе вредоносные ссылки или спам, навязчивую и бесполезную рекламу.

Кроме того, чат-боты могут использоваться в мошеннических схемах, а недавнее исследование специалистов из OpenAI’s Alignment Research Center (ARC) показало, что чат-бот и сам может придумывать различные ходы для обмана человека.

Цель у мошенников, как правило, одна — кража и последующая компрометация данных пользователя. Чтобы этого не допустить, следует передавать даже незначительные по своей ценности данные по закрытым каналам связи.

Также Прозоровский перечислил базовые правила цифровой гигиены для безопасного взаимодействия с чат-ботом:

• Перед скачиваем чат-бота на компьютер необходимо убедиться в легитимности источника;
• необходимо убедиться, что разработчик сервиса является проверенным, а бот не запрашивает у пользователя избыточных разрешений или персональных данных.