ИИ против хакеров: Microsoft научила искусственный интеллект защищать пользователей от хакерских атак

Работает система просто — она обнаруживает скрытые сигналы до того, как атака станет очевидной. Основанный на модели GPT-4, Security Copilot помогает корпоративным клиентам выявлять и смягчать киберриски.

Система искусственного интеллекта специально обучена на материалах и терминологии, используемых IT-специалистами, и подключена к другим инструментам безопасности Microsoft, а в будущем планируется интегрировать сторонние программные решения.

В отличие от большинства приложений на базе GPT-4, которые полагаются на устаревшие наборы данных, Security Copilot непрерывно обучается на основе триллионов сигналов об угрозах, ежедневно получаемых Microsoft.

Но стоит отметить, что система всё ещё может испытывать «галлюцинации». Это, по признанию Microsoft, может представлять значительный риск в сфере безопасности. Для смягчения этой проблемы компания внедрила механизм обратной связи с пользователем для получения более точных ответов.