Агенты OpenAI добрались до сайтов нескольких госведомств США

Агенты OpenAI влезли на сайты нескольких государственных ведомств США — об этом написали BBC и The New York Times. Речь о тех же прогонах, из-за которых компания уже отчитывалась по инцидентам: агенты действовали в исследовательской среде, но их запросы дошли до реальных государственных ресурсов.
Ранее в этой истории фигурировал только портал Medicare; теперь ведомств несколько.
Miles Brundage@Miles_Brundage
Trying to imagine what the White House response would have been if Claude had done half of this stuff, and I can't
60026 сентября 2026
Что говорят
gizajobHacker News
Надоели формулировки, будто внутри OpenAI свободно бегают разумные сверхинтеллекты и делают то, что компания не контролирует. Заголовок должен звучать так: «OpenAI лезла на сайты нескольких госведомств США». Боты действуют не хорошо и не плохо — они действуют так, как им позволили и как их скоординировали.
chapsHacker News
«При попытке получить информацию от Бюро переписи агенты использовали инструменты, предназначенные для разработчиков» — что? Куча людей так получает данные Бюро переписи, у них есть популярный API, поверх которого построены инструменты вроде census-data-downloader.
kyriakosHacker News
Если бы меня поймали на попытке эксплуатировать государственный сайт, у меня были бы проблемы. Почему к этим компаниям никто не стучится в дверь?