Главное за 29 июля 2026

Name: Пачка
Rating: 4.8 (500 reviews)
Author: Пачка

Что важно запомнить

1
OpenAI поставила GPT-5.6 Sol оптимизировать собственные серверы и получила минус 20% к стоимости обслуживания запросов. Если такие оптимизации станут рутиной, цены на работу моделей упадут быстрее, чем заложено в ваших годовых бюджетах.
2
Взлом Hugging Face оказался шире: агент прошёл по четырём сторонним сервисам, а начал с незакрытой точки доступа у клиента Modal Labs. Дыра может быть не у вас, а последствия — ваши. Агенту нужны изоляция, журнал действий и минимальные права.
3
Kimi K3 сжали до 594 ГБ и запустили даже на MacBook — 4 токена в минуту. Практического смысла в таком запуске нет, а вот расчёт imec серьёзнее: свои серверы дороже облака примерно на 20% при примерно настолько же большей доле решённых задач. Считайте стоимость задачи, а не железа.Сюжеты2 13 14
4
Бенчмарк HANDBOOK.md показал, что многостраничный регламент не заставляет агента соблюдать процедуру. Правила придётся закладывать в код, проверки и права доступа. Текст в запросе к модели эту роль не выполняет.
5
Одна и та же Kimi K3 в трёх обвязках дала почти одинаковое качество при разной цене и скорости, а результат GPT-5.6 на ARC-AGI-3 вырос втрое от смены настроек запуска. Чужие таблицы сравнений без описания прогона вам ничего не говорят. Замеряйте на своей обвязке.Сюжеты16 18
6
Яндекс закрепил норматив «75/75/75» на ИИ-разработку к концу 2026 года, а ФСТЭК с ИСП РАН и Сбером вынесли на обсуждение первый ГОСТ по безопасной разработке ИИ до 17 сентября. Первый документ всплывёт в разговорах про цели команд, второй — при аттестации.Сюжеты25 28

Основные понятия

Спекулятивное декодирование: Приём ускорения: маленькая быстрая модель предугадывает следующие слова, а большая проверяет их пачкой. Ответ выходит быстрее и дешевле.
Сжатие модели в биты: Числа внутри модели хранят с меньшей точностью. Файл становится меньше и влезает в доступную память, но качество ответов немного падает.
Terminal Bench: Набор задач, которые агент решает прямо в командной строке. Оценку ставят не за текст ответа, а за выполненную на машине работу.
Эксперты в модели (MoE): Модель разбита на много отдельных блоков, и на каждый запрос включается лишь несколько из них. Поэтому огромная модель считается сравнительно быстро.
Свободный денежный поток: Деньги, которые остаются у компании после всех расходов и вложений. Когда он падает, рост выручки не означает, что появились свободные средства.