Исследование: хакеры используют ИИ для улучшения кибератак
Выяснили Microsoft и OpenAIMicrosoft и OpenAI обнародовали результаты исследования, показывающие, что хакеры уже используют крупные языковые модели, такие как ChatGPT, для совершенствования кибератак. Хакерские группы задействовали искусственный интеллект (ИИ) для исследования целей, улучшения скриптов и разработки техник социальной инженерии.
/imgs/2024/02/14/17/6356123/5d389b5f8d3d8b2d9cfb742ef7e0a0bce9dc166a.png "Исследование: хакеры используют ИИ для улучшения кибератак")
© Ferra.ru
В частности, использовались LLM (Large Language Models) для изучения протоколов спутниковой связи, радиолокационных технологий, исследования уязвимостей, создания контента для фишинговых кампаний. Также, хакеры применяли ИИ для фишинговых электронных писем и кода, обходящего обнаружение антивирусных приложений, написания скриптов, переводов и совершенствования своих инструментов.
Microsoft отмечает, что пока не было обнаружено «существенных атак» с использованием LLM, но компании закрывают все аккаунты и активы, связанные хакерскими группами. Хотя использование искусственного интеллекта в кибератаках пока ограничено, Microsoft предупреждает о будущих возможных сценариях, таких как голосовая подделка.
Источник:The Verge
Автор:Булат Кармак