Microsoft наконец озаботилась проблемами с утечками данных в своем ИИ Copilot
На фоне сообщений р распространении конфиденциальной информацииMicrosoft представила новые инструменты и рекомендации для решения проблем безопасности своего ИИ-помощника Copilot после сообщений об утечке конфиденциальной информации компании. Проблема, которая позволила сотрудникам непреднамеренно получить доступ к таким данным, как электронная почта гендиректора и кадровые документы, заставила некоторых корпоративных клиентов отложить развертывание Copilot, пишут СМИ.
/imgs/2024/11/22/11/6663329/c60948c3848f5097b6cfe5d010de4b7accf24a90.jpeg "Microsoft наконец озаботилась проблемами с утечками данных в своем ИИ Copilot")
Функциональность Copilot основана на индексировании внутренних данных компании, подобно Web Crawler поисковых систем. Это позволяет использовать такие функции, как создание презентаций и поиск данных о продуктах, но в то же время открывает уязвимые места. В некоторых случаях сотрудники получали непреднамеренный доступ к конфиденциальным файлам из-за недостаточно настроенного контроля доступа.
Компания подчеркнула, что проблемы управления данными возникли еще до появления ИИ, но отметила, что внедрение Copilot сделало «проактивное управление конфиденциальной информацией более актуальным».