Ученые нашли строчку кода, которая взламывала ИИ чат-бота уровня ChatGPT

Уязвимость проявлялась при работе с внешними данными, такими как загруженные документы, и позволяла злоумышленникам получить доступ к токенам сессий.

Ключевой момент — использование специальной строки кода на JavaScript, которая обращалась к локальному хранилищу браузера и выводила токен сессии пользователя.

Для обхода систем защиты данные шифровались с помощью base64. Это помогало атаке оставаться незамеченной стандартными фильтрами безопасности.

После раскрытия проблемы, команда DeepSeek оперативно устранила уязвимость, продемонстрировав высокий уровень ответственности.

Впрочем, этот случай в очередной раз подчеркивает важность тестирования ИИ-моделей на безопасность перед их выпуском.