Данные пользователей утекают через посредников между приложением и моделью — разбор Ars Technica

Ars Technica описала, как утекают данные пользователей через цепочку поставщиков ИИ-сервисов. Речь о схеме, где приложение не само обращается к модели, а идёт через посредников — шлюзы, перевалочные сервисы и обёртки, каждая из которых видит запрос целиком.
Исследователи находят открытые наружу базы и логи таких посредников, где лежат переписки, ключи доступа и содержимое документов. Пользователь при этом имел дело с одним брендом и о цепочке не знал.
Отдельная проблема в том, что политика хранения у посредника своя: сервис, обещавший не сохранять запросы, может пересылать их туда, где они сохраняются по умолчанию.
Что говорят
jrmgHacker News
Каждый ключ отправлялся ровно в одном запросе одному провайдеру — и все запросы в эти окна были украдены. Часть ключей ушла из запросов, которые провайдер отклонил ещё до запуска модели: значит, атакующий копировал трафик прямо на входе, а не глубже в стеке инференса. Некоторые украденные запросы были помечены ZDR — флаг приватности не спасает, если злоумышленник уже внутри.
wiki_hiderHacker News
Возможно, связано: похожее наблюдали и у других провайдеров. Исследователи IMDEA зафиксировали внешний доступ для Grok — 70 срабатываний «канареек» с 70 IP-адресов в 48 автономных системах, 14 странах и на 4 континентах, спустя часы и дни после отправки.