Веб-поиск ChatGPT оказался «дырявым»: он может вернуть вредоносный код от сайтов-мошенников

Расследование The Guardian показало, что скрытый текст на веб-страницах может манипулировать ответами ИИ. Такие методы, известные как «инъекция подсказок», позволяют изменять вывод ChatGPT, например, заставляя хвалить продукт вопреки реальным отзывам.

Тесты выявили, что чат-бот может возвращать вредоносный код, если он находится на страницах, предоставленных для анализа. Один из таких случаев привёл к краже $2500 у разработчика, использовавшего ИИ для помощи в программировании.

Эксперты предупреждают, что подобные уязвимости могут привести к созданию мошеннических сайтов, специально адаптированных для обмана пользователей через ChatGPT.

Хотя OpenAI активно работает над улучшением безопасности, специалисты советуют относиться к ответам ИИ с осторожностью, используя их как помощника, а не как единственный источник информации.