Заметки в памяти модели сработали как разбор программы — опыт инженера
Инженер по безопасности рассказал, как случайно превратил память языковой модели в инструмент анализа программ. Он вёл долгую сессию с моделью по разбору бинарного кода. Накопленные в памяти заметки о функциях начали работать как база знаний о программе: модель подтягивала прежние выводы к новым участкам кода.
Получилось приближение к статическому анализу — разбору программы без её запуска, только собранное не из правил, а из накопленного контекста. Автор подчёркивает ограничение: выводы модели остаются догадками, и проверять их всё равно приходится обычными инструментами.
Что говорят
trinsic2Hacker News
Такая штука пригодилась бы мне для расследования непонятных отказов железа по логам: проблема не воспроизводилась, пока устройство было у меня в мастерской. Я упирался ровно в то же — LLM забывала, что мы уже исключили версию, которую проверили и отвергли, стоило ей всплыть выше по истории разговора.
keedaHacker News
Помню похожую работу на HN: LLM раскладывала статьи на набор утверждений, из которых строился граф сущностей, фактов и событий, а дальше шли обычные графовые запросы — как здесь Datalog/Lemmalog. Особенно хорошо это отвечало на вопросы по хронологии, с чем LLM тогда справлялись плохо.
linguaeHacker News
Всё лето копаюсь в агентном кодинге на локальных моделях и думаю о том, чтобы взять приёмы «старой школы» ИИ — вроде эвристического поиска — для планирования у агентов. Datalog в статье мне откликается: логическое программирование было ядром символьного ИИ, и такая связка мне очень интересна.