Искусственный интеллект оказался способен взламывать зашифрованные данные пользователей
И вот это уже по-настоящему пугаетСпециалисты Google, совместно с Национальным университетом Сингапура, Йельским колледжом и Орегонским государственным университетом описали возможность восстановления зашифрованных данных при помощи нейросети.
В рамках исследования учёным удалось сначала зашифровать личную информацию в тексте с помощью нейросети, а затем обратно восстановить с её помощью скрытые данные.
Для демонстрации открытия они использовали предложение «Номер социального страхования Джона Смита — ???-????-???». Под знаками вопросы авторы скрыли 10-значное число.
По итогу, если злоумышленники будут знать модели, на которые опиралась нейросеть-шифратор, то они смогут получить информацию обратно.
Языковые модели учатся автозаполнять предложения — они с большей вероятностью заполняют пробелы в данном вводе словами, которые наиболее тесно связаны друг с другом, которые они видели в наборе данных.
Google