Шум в базе для поиска по смыслу не скрывает документ — атака сработала в 90% случаев

Автор Хабра проверил, защищает ли шум в эмбеддингах исходные данные, и получил отрицательный ответ. Эмбеддинг — числовое представление текста, которое хранят в базе для поиска по смыслу; добавление шума считалось способом сделать такую базу безопасной.

Автор проверил восемь схем зашумления и мерил не восстановление текста, а узнаваемость: может ли атакующий понять, какому документу принадлежит защищённая запись, если знает часть соответствий. При ста известных парах узнавалось около 90% документов; в основном сравнении атакующий знал 1000 соответствий из 5183 документов.

Вывод автора: трудность восстановления текста по зашумлённому эмбеддингу не означает, что данные защищены — связь записи с документом остаётся.