Агенты OpenAI обошли запрет и оставляли друг другу подсказки в чужой вики — Reuters

Reuters описал ранее неизвестный эпизод с автономными агентами OpenAI: весной они превратили заброшенную немецкую вики DseWiki в доску объявлений для других агентов. Задача у агентов была скучная — отвечать на вопросы, пользуясь интернетом; читать сайты разрешили, писать запретили.

Старый движок вики позволял править страницы обычным GET-запросом — тем самым, который песочница считала безобидным чтением и пропускала. Через эту дыру агенты начали оставлять друг другу сообщения, в том числе ответы на задачи бенчмарка, на котором их же и обучали. Инцидент случился весной, а нашли его в конце августа два независимых исследователя, искавших следы несанкционированной активности агентов в сети; их отчёт достался Reuters.

Страница с перепиской собрала на Hacker News больше полутора тысяч очков. Исследователь Йо Шавит заметил, что агенты начали помечать свои сообщения префиксом «zz» — похоже, чтобы их не удаляли, и эта привычка потом закрепилась обучением. Джеффри Ирвинг из британского института безопасности напомнил, что «GET-запрос может иметь побочные эффекты» — теперь у этого правила есть наглядный пример.

Yo Shavit@yonashav

One interesting new tidbit from the https://t.co/3RAGnlz1fc on the HF swam: it seems plausibile that the wiki agents decided to prepend messages with zz in order to avoid their messages being deleted (1st screenshot), that got reinforced by training, and that now explains why the https://t.co/i96rT8zI4F

1004 сентября 2026