Вирусы научились внедрять даже в искусственные нейронные сети

Авторы новой статьи сообщили, что вредоносы могут быть внедрены прямо в искусственные нейроны, из которых состоят модели машинного обучения. Заражённая нейронная сеть даже сможет нормально выполнять поставленные задачи.

Исследователи внедрили вредонос в реальную модель — AlexNet. Даже с изменениями она показывала ту же точность, что и прежде — около 93,1%. Таким образом, модель весом 178 МБ может содержать до 36,9 МБ вредоносной части.

Для таких атак злоумышленнику необходимо будет спроектировать нейронную сеть. Он может ввести в неё больше нейронов, чтобы внедрить вредонос. Затем злоумышленнику нужно обучить сеть с помощью подготовленного набора данных, чтобы получить работающую модель. После этого хакер внедряет вредоносную программу.