Разработчик описал, что ломается при переносе промптов с Opus на своё железо

Разработчик описал перенос 35 КБ системных промптов с Opus от Anthropic на Ollama — движок для запуска моделей на своём железе. Промпты писались под облачную модель и на локальной повели себя иначе.

Основные грабли: длинные инструкции локальная модель обрывает на середине контекста, форматирование ответа приходится задавать жёстче, а описания инструментов Anthropic-формата пришлось переписывать под другой синтаксис вызова функций. Часть правил, которые Opus соблюдал по одному упоминанию, локальная модель начала выполнять только после дублирования в конце промпта.