Наука и технологии1 мин.
ChatGPT использовали для вскрытия электронной почты
Первый шаг на пути к созданию нейрохакера
Иоганн Ребергер, эксперт в области безопасности данных, сумел модифицировать ChatGPT таким образом, чтобы он мог выполнить ряд потенциально опасных команд.
Среди них — вход в электронный почтовый ящик, чтение писем и их публикация в Сети. По словам Ребергера, он добавил функцию в ChatGPT, которая предоставляла доступ к таким сервисам, как Slack и Gmail.
Всё это стало возможным благодаря новому классу кибератак, названным «оперативные инъекции», которые стали возможными из-за распространения нейросетей.
Компания OpenAI, создатель ChatGPT, уже осведомлена о произошедшем и выразила благодарность Иоганну за обнаружение этой уязвимости.
Они устранили данный недостаток, чтобы предотвратить подобные атаки в будущем. Однако это напоминает нам о том, что с развитием ИИ растёт и потенциальная угроза его использования в недобросовестных целях.
Источник:WSJ