← Дайджест от 31 июля 2026
Исследования
2 источникаHN 189
2 источникаHN 189Quanta: рассуждающие модели дают верный ответ по неверным причинам
Журнал Quanta Magazine разобрал накопившиеся работы о том, как модели с «рассуждением» приходят к ответу. Речь о моделях, которые перед ответом расписывают ход мысли по шагам.
Основная линия материала: правильный итог часто получается при рассуждении, которое не соответствует настоящему вычислению внутри модели, — то есть цепочка шагов служит скорее оформлением, чем объяснением. Обсуждение на Hacker News собрало более двухсот комментариев, где спорят, можно ли вообще считать такую цепочку доказательством и годится ли она для проверки ответа человеком.
Что говорят
sobioliteHacker News
Камбхампати говорит, что модели не нужно осваивать общий процесс рассуждения — достаточно впитать достаточно примеров того, как выглядят шаги, и «сшить» правдоподобный результат, который потом проверяется. Звучит крайне сомнительно: нельзя запомнить форму математических доказательств и получить корректное, скармливая верификатору правдоподобную чушь, пока не пройдёт. Это как сказать, что карго-культ построит работающий аэропорт, если попробует достаточно раз.
baxtrHacker News
«Так я понимаю ИИ-рассуждения: LRM, цепочки мыслей, thinking-токены — это сплошные благие мнемоники, смесь сокращений и добровольного отключения скепсиса, как „манифестация“ в духе Опры, но с информатикой». Это не обязательно упрёк — новая наука без такого настроя не взлетает, — но «благое» тут сильно как никогда.
zuzululuHacker News
Никто не устал от бесконечных «привратницких» статей про LLM? Они нормально работают, становятся лучше, ими массово пользуются, и эффект виден — я благодаря им тяну три удалённых работы. Те, кто реально пользуется и получает результат, заняты делом, а остальные выдают мнения за факты.