Автор: 
Международная группа учёных описала возможность восстановления зашифрованных данных с помощью нейросети. Результаты работы описаны в препринтах в репозитории arXiv. Авторы исследования зашифровали личную информацию в тексте с помощью нейросети, но оставили часть данных нетронутыми. На основе имеющейся информации нейросеть смогла обратно восстановить скрытые данные.
В качестве примера исследователи привели предложение «Номер социального страхования Джона Смита — ???-????-???». По знаками вопросы авторы скрыли 10-значное число. По словам специалистов, если злоумышленники будут знать, на какие модели опиралась нейросеть, когда зашифровывала числовые данные, они могут получить информацию обратно.
«Языковые модели учатся автозаполнять предложения — они с большей вероятностью заполняют пробелы в данном вводе словами, которые наиболее тесно связаны друг с другом, которые они видели в наборе данных», — объяснили учёные.
Чтобы продемонстрировать уязвимость, авторы попытались извлечь шестизначное число из зашифрованного предложения с помощью нейросети. Обученная модель выдала им правильный ответ после 230 запросов. По словам специалистов, это примерно в 39 раз быстрее, чем требовалось бы злоумышленникам, если бы они использовали обычные методы расшифровки.
