Главное за 2 ноября 2026

Name: Пачка
Rating: 4.8 (500 reviews)
Author: Пачка

Что важно запомнить

1
Исследователь дал Astra доступ на чтение и запись в веса Qwen на 0,8 млрд параметров — числа, которые обычно меняют только обучением. Astra нашла, какие значения вызывают повторение текста в рассуждениях, и поправила их напрямую. Показан один случай, серии замеров на других моделях автор не приводит.
2
Anthropic подала уточнённую форму S-1 к выходу на биржу: выручка за третий квартал — 17 млрд долларов, подписанные обязательства по закупке вычислительных мощностей — 895 млрд. Это контракты на будущие годы, которых нет в текущем балансе: платить по ним придётся независимо от того, какой будет выручка.
3
Мера подана как временная, срок не называется; причина — вычислений внутри страны не хватает под растущий спрос. Владельцы российских площадок теперь обязаны резервировать десятую часть мощностей под государственные нужды. «Ростелеком» в тот же день объявил о стройке подземных дата-центров.
4
Довод простой: сэкономленное время уходит на другую работу, а счета за модели добавляются к существующим расходам, поэтому в отчётности прибавки не видно. Оценка расходится с тем, что компании рассказывают инвесторам, и к ней есть вопросы по методике — за какой срок и по каким показателям считали.
5
До сих пор экспортные ограничения в ИИ вводили США и касались они чипов, а не моделей. Теперь для вывоза модели выше определённого порога возможностей нужна лицензия. В разборе Cloud Security Alliance отмечают, что формулировки порога расплывчаты и под них может попасть публикация открытых весов китайскими лабораториями.
6
Раньше такие атаки описывали для финального набора примеров — его хотя бы можно проверить. В новой работе отравляют первичный корпус, собранный из интернета, и вредное поведение срабатывает позже, когда модель работает агентом и вызывает инструменты. Проверка данных дообучения такую закладку не находит.
7
Компания строит мощности под контракты с ИИ-лабораториями, и собственного денежного потока на стройку не хватает — разницу закрывают долгом и новым выпуском акций, который размывает доли нынешних акционеров.
8
Шли в два шага: сначала помощник подсказывал инженеру, потом агентам стали отдавать клиентские обращения целиком. Медиана означает, что половина обращений закрывается быстрее; сложные случаи агент эскалирует человеку, и внедрение автор завершённым не считает.

Основные понятия

Веса модели: Числа внутри нейросети, в которых хранится всё выученное; обычно их меняют только обучением, а прямая правка руками — редкий приём.
Отравление данных: Подмешивание в обучающий набор специальных примеров, из-за которых модель потом ведёт себя нужным атакующему образом при определённом сигнале.
Обязательства по мощностям: Подписанные контракты на будущую закупку вычислений, которых нет в текущем балансе: платить придётся независимо от того, какой будет выручка.
Периферийные устройства: Телефоны, контроллеры и прочее железо, где модель работает на месте, без обращения к серверу в датацентре.