Недавно представленный веб-поиск ChatGPT столкнулся с серьёзными проблемами безопасности. Расследование The Guardian показало, что скрытый текст на веб-страницах может манипулировать ответами ИИ. Такие методы, известные как «инъекция подсказок», позволяют изменять вывод ChatGPT, например, заставляя хвалить продукт вопреки реальным отзывам. Тесты выявили, что чат-бот может возвращать вредоносный код, если он находится на страницах, предоставленных для анализа. Один из таких случаев привёл к краже $2500 у разработчика, использовавшего ИИ для помощи в программировании. Эксперты предупреждают, что подобные уязвимости могут привести к созданию мошеннических сайтов, специально адаптированных для обмана пользователей через ChatGPT. Хотя OpenAI активно работает над улучшением безопасности, специалисты советуют относиться к ответам ИИ с осторожностью, используя их как помощника, а не как единственный источник информации.