Яндекс.Метрика
← Дайджест от 20 ноября 2026

Исследователи показали модель, которая запоминает новое прямо во время работы

Исследователи опубликовали работу о том, как языковая модель переписывает собственные веса — внутренние числа, определяющие её поведение. Обычно для этого нужно отдельное дообучение; здесь модель меняет их по ходу работы, запоминая новое без запуска полноценного обучения.

Авторы показывают, что так можно встраивать знания, которые иначе пришлось бы каждый раз класть в запрос. Работа собрала больше трёхсот очков на Hacker News, в комментариях спорят, где граница между таким самообновлением и обычным дообучением на лету и как проверять, что модель не испортила себя.