Маленькая модель перестала умнеть от дообучения на своих ответах — опыт автора Хабра

Автор Хабра продолжил опыты с небольшой языковой моделью, помещающейся на домашнюю видеокарту, и уткнулся в потолок. Вопрос был в том, может ли такая модель становиться умнее со временем не за счёт роста числа параметров, а за счёт памяти, аккуратного дообучения и проверки собственных ответов.

В продолжении автор показывает, что повторное дообучение на своих же ответах перестаёт давать прирост: модель закрепляет то, что уже умеет, и начинает дрейфовать на том, что умела хуже. Прирост на первых итерациях сменяется плато, дальше — деградация на части задач.

Вывод автора: без внешнего источника новой информации цикл самодообучения упирается в собственный потолок, и память снаружи модели работает надёжнее, чем попытка вшить знание в веса.