Исследователь нашёл в скрипте слежки за посетителями чужие запросы к модели
Исследователь разобрал скрипт слежения за посетителями сайтов — тот, что собирает отпечаток браузера, — и обнаружил в нём запросы к языковой модели с темами про биологическое оружие. Отпечаток браузера нужен рекламным сетям, чтобы узнавать пользователя без куки.
По разбору выходит, что через скрипт прогоняли посторонние запросы к модели, используя браузеры случайных посетителей как бесплатный канал доступа. Разбор собрал 875 очков на Hacker News, в комментариях обсуждают, как отличить легитимный клиентский код от спрятанного в нём чужого конвейера запросов.
Что говорят
jacquesmHacker News
Хорошее расследование! Мы так же помечаем документы под эмбарго, и однажды я забыл снять водяной знак. Клиент жаловался, что файла нет, и только в логе Outlook нашлась строчка: из-за водяного знака письмо ушло в бессрочный карантин — зато это было первое доказательство, что схема работает.
swiftcoderHacker News
Интересно, что у моделей с открытыми весами защит недостаточно и GLM 5.3 на это не ловится. Видимо, упоминание площади Тяньаньмэнь сработало бы на фильтрах китайского провайдера инференса, но в саму модель это не зашито.
throwaway89201Hacker News
Сегодня случайно наткнулся на HN-профиль, где тоже вписаны анти-LLM заклинания, только гораздо менее замаскированные. Я и не знал, что у Anthropic есть такая волшебная строка.