Anthropic открыла протокол FlashProve — он проверяет, что ответ дала заявленная модель

Anthropic открыла код FlashProve — протокола, который позволяет проверить, что ответ выдала именно заявленная модель, а не подменённая. Проверяющий при этом не получает доступа к весам: поставщик прикладывает к ответу криптографическое доказательство, и его можно сверить со стороны.

Задача прикладная. Сервисы-маршрутизаторы, которые раздают запросы по разным поставщикам, могут втихую подставить модель подешевле; в корпоративном контуре подменить модель может и злоумышленник. Проверить это сейчас нечем — ответ модели недетерминирован, повторный запуск даёт другой текст.

Anthropic называет выложенное прототипом и описывает его как прогресс, а не готовое решение: доказательства пока дорогие по вычислениям.