В России создали защиту от "промывки мозгов" нейросетей ложной информацией

Эксперты из вуза объяснили, что атаки мошенников нацелены на искажение данных, чтобы сбить систему с толку и получить ошибочный результат. Новый комплекс поможет оценить защищенность нейросетей и предложит способы улучшения их безопасности.

Основная функция анализатора заключается в выявлении фальсифицированных файлов в нейронных сетях. Эта разработка может найти применение в интеллектуальных системах видеонаблюдения, помогая распознавать лица. Это имеет особенное значение для предотвращения скрытия преступников от систем видеонаблюдения.

Ректор СКФУ, Дмитрий Беспалов, подчеркнул, что новая разработка способствует повышению безопасности в различных областях деятельности. Учитывая увеличение киберугроз, эти инструменты становятся неотъемлемой защитой от потенциальных атак на информационные системы.