Google приблизила приватный ИИ: модель считает поверх зашифрованных данных
Google описала, как делает практичным гомоморфное шифрование — способ считать прямо над зашифрованными данными, не расшифровывая их на сервере. Смысл для пользователя простой: запрос к модели можно обработать так, что владелец сервиса не видит его содержимого.
Главная проблема такой схемы всегда была в скорости — вычисления над шифротекстом на порядки дороже обычных, поэтому за пределы демонстраций технология выходила плохо. Публикация вышла в топ Hacker News почти с тремя сотнями очков, и в комментариях спорят, для каких именно сценариев накладные расходы уже приемлемы.
Что говорят
LoganDarkHacker News
Слабое место FHE: оно гарантирует лишь то, что без ключа не увидеть входы и выходы вычисления, но не то, что вычисление именно то, которое вам нужно. Оно может быть враждебным на определённых входах, или противник вставит своё вычисление до/после вашего.
noidentHacker News
Это модель «поверь мне на слово» или клиент может как-то проверить, что провайдер действительно не видит его входные данные? Хочу почитать whitepaper, но нахожу только презентацию с конференции.
FloatArtifactHacker News
Шифрование или нет — если это на чужом сервере, оно не ваше. Я не верю, что Google действует в моих интересах.