Главное за 18 сентября 2026

Name: Пачка
Rating: 4.8 (500 reviews)
Author: Пачка

Что важно запомнить

1
Цепочка была такой: переполнение буфера в библиотеке ImageMagick при загрузке изображения на форум OpenAI дало выполнение кода на сервере. Ошибка в настройке единого входа открыла аккаунты сотрудников, включая ChatGPT и Codex. С захваченного аккаунта Codex открыл pull request — заявку на изменение кода — во внутреннем монорепозитории компании. Эксплойт писали Claude Opus 4.8 и Opus 5, OpenAI выплатила за находку 6500 долларов.
2
Разбор опубликовали два независимых исследователя: снимок рабочей папки уходит на сервер без заметного уведомления в интерфейсе. В истории git остаётся всё, что когда-либо коммитилось, включая случайно попавшие туда ключи доступа и внутренние документы. Публичного объяснения Z.ai не дала.
3
Доступ к каждому источнику пользователь разрешает сам, перед чувствительными действиями агент спрашивает подтверждение. Исследователь Делип Рао, наращивая сложность задач по шагам, пришёл к выводу, что Muse рассчитан на миллионы пользователей, но плохо масштабируется под одного человека: чем больше поручений, тем хуже результат.
4
По материалу CNN, ошибку заметили до того, как она привела к действиям. В обсуждении упирают не на модель, а на процедуру: сводка прошла согласование как обычный документ, потому что пометки о машинном происхождении в ней не было.
5
В тот же день больше ста исследователей подписали открытое письмо с пятью минимальными требованиями к таким встроенным проверкам: независимость оценщика, защита от санкций за неудобные выводы и реальный доступ к моделям. Без этих условий, пишут подписанты, встроенная оценка остаётся формальностью.
6
Как сообщает Reuters, компания подтвердила запуск лаборатории и переход от расчётных экспериментов к работе с реальной биологией. Руководитель направления наук о жизни Эрик Каудерер-Абрамс говорит, что автоматизация лабораторных процедур пока в самом начале.
7
Речь именно о найме в технологических компаниях. С другой стороны того же рынка: по данным a16z, за ИИ из своего кармана платят около 3% взрослых американцев против менее 1% в 2023 году. У самых молодых покупателей доля растёт вчетверо быстрее, чем у старших.
8
В сравнение вошли τ³, ПРАКТ-120, MultiChallenge, WildBench и Arena-Hard; модели в ходе тестов обрывались, часть запусков приходилось повторять. До сих пор российские вендоры публиковали результаты на собственных замерах, сопоставить которые между собой нельзя.

Основные понятия

SSO (единый вход): Механизм, при котором один аккаунт открывает доступ сразу ко многим внутренним сервисам компании; ошибка в его настройке даёт злоумышленнику все эти сервисы разом.
История git: Полный журнал всех изменений кода в проекте — там остаются в том числе ключи доступа и файлы, давно удалённые из текущей версии.
Харнес: Код вокруг модели: как формулируется задача, какие инструменты доступны агенту и как разбирается его ответ.
Мультимодальная модель: Модель, которая принимает на вход не только текст, а ещё картинки, аудио и видео.
Pull request: Заявка на изменение кода в общем репозитории, которую перед применением обычно смотрят коллеги.