Чем длиннее диалог, тем слабее системная инструкция — разбор автора Хабра

Автор Хабра разобрал, почему модель игнорирует системный промпт — инструкцию, которую разработчик задаёт перед диалогом. Вывод: история диалога перевешивает инструкцию, и чем длиннее переписка, тем слабее действует исходное правило.

Попытки усилить инструкцию капслоком, словом «ВАЖНО» и примерами дают кратковременное улучшение, после чего модель возвращается к прежнему поведению. Рабочий подход, по разбору, — не усиливать текст, а переносить правило туда, куда модель смотрит в последнюю очередь: ближе к концу контекста или в проверку ответа после генерации.