Ученые разработали инструмент для борьбы с кибератаками на нейросети
Современные системы автономных автомобилей могут стать мишенью для хакеров, которые получают доступ к нейронным сетям, что может привести к авариям. Однако расследовать такие инциденты сложно, так как модели нейросетей часто являются закрытыми и обновляются регулярно. В этом контексте AiP представляет собой надежное решение, способное восстанавливать оригинальные модели глубокого обучения без необходимости в предварительных знаниях о структуре или версии модели.
AiP работает, анализируя «образы памяти» — статические данные о работе модели во время её нормального функционирования. Этот подход позволяет исследователям сравнивать состояние нейросети до и после атаки, что важно для выявления уязвимостей. Успешные испытания показали, что инструмент может восстанавливать и повторно размещать модели с точностью 100%.