В США создали «отраву» для моделей ИИ, которых незаконно обучают на изображениях

Nightshade — «наступательный инструмент» для защиты изображений от несанкционированного использования. Технология называется Glaze и минимизирует видимые изменения исходного изображения. Ещё разработчики называют своё детище «отравой», «паслёном» — для обмана ИИ.

«Nightshade вычисляется как многоцелевая оптимизация, которая минимизирует видимые изменения исходного изображения. Например, человеческий глаз может увидеть затенённое изображение коровы на зелёном поле практически без изменений, но модель ИИ может увидеть большой кожаный кошелек, лежащий в траве», — рассказал один из руководителей проекта.

Специфика технологии заключается в выборе ярлыка, который описывает то, что на самом деле изображено, чтобы размыть границы этого понятия, когда изображение попадает в модель для обучения.