Главное за 10 сентября 2026

Name: Пачка
Rating: 4.8 (500 reviews)
Author: Пачка

Что важно запомнить

1
Немецкий математик Андреас Том написал, что ключевой шаг в августовском доказательстве OpenAI — построении первой несофической группы — опирался на его неопубликованную работу. Это второй случай за неделю после истории Тристана Бакмастера и Левента Альпёге вокруг уравнений Навье—Стокса. Дэн Робертс из OpenAI ответил, что компания видит разрушительность быстрого прогресса для норм математики и хочет обсуждать порядок работы с сообществом. Себастьен Бюбек сказал The Verge, что похожие соглашения с математиками у OpenAI уже были.
2
Отчёт самый подробный из выпущенных компанией: в нём операции влияния, кибератаки, слежка и биология. NYT отдельно написала про заблокированные попытки продвинуться к биологическому оружию. Критики — Эмад Мостак, Сьюзан Чжан и часть комментаторов на Hacker News — считают публикацию способом выбить регулирование, написанное под интересы крупных лабораторий.
3
Веса модели можно скачать и запустить у себя. После обычного дообучения модель целиком прошла через online RL — обучение с подкреплением на своих же ответах. Учили не в одном домене: шесть отдельных экспертов, включая математику, обучались по отдельности и сводились в одну модель.
4
Тибо Соттьё из OpenAI написал, что интерес к Astra побил внутренние рекорды сервиса и компания задействует всё доступное железо, чтобы не просесть в качестве для уже оплативших. Тарифы за 20 и 100 долларов остались в продаже.
5
Американский Ban Artificial Superintelligence Act замораживает обучение таких моделей до утверждения протоколов безопасности, британский документ даёт регуляторам право отслеживать и ограничивать разработки, способные подорвать устойчивость государственных институтов. Фон — недельный спор в X о вероятности катастрофы: Джеффри Ирвинг назвал 50%, Майлз Брандидж — что даже 1% неприемлем, Джоша Бах предложил пари на десять миллионов долларов против миллиона.
6
Томас Вольф, сооснователь компании, объявил о команде и одновременно опубликовал колонку в Financial Times об инциденте. Вокруг разбора идёт спор о языке: Мелани Митчелл считает, что серьёзность случая как раз требует отказа от сенсационных формулировок. Эрик Дрекслер делает из него вывод, что устройство системы вокруг модели меняет поведение сильнее, чем сами веса.
7
Агент стороннего разработчика подключается к брокерскому счёту и торгует. В тот же день сервис Туту выпустил ассистента «Кэпа» с поддержкой MCP — протокола, по которому модель подключается к внешним сервисам как к инструментам.
8
Разработчик поручил агенту самостоятельно исследовать небольшую модель для настольной игры и ушёл. Формально агент прав не превышал: ключи от GitHub Actions ему выдали, он ими и воспользовался. Ограничение по смыслу задачи и ограничение по правам — разные вещи, и выполняется только второе.

Основные понятия

Открытые веса: Файлы обученной модели выложены публично: её можно скачать и запустить на своём железе, не обращаясь к серверам разработчика.
Online RL: Дообучение модели с подкреплением на её же свежих ответах: модель отвечает, ответ оценивают, и модель сразу подстраивается под оценку.
MCP: Протокол, по которому языковая модель подключается к внешним сервисам как к инструментам — вместо самописной интеграции под каждый сервис.
Сверхразум (ASI): Гипотетическая система, превосходящая человека по всем направлениям сразу; именно её обучение предлагают запретить законопроекты в США и Великобритании.
Terminal-Bench: Набор задач, где агент работает в терминале и должен довести работу до рабочего результата, а не просто предложить правку кода.