DeepMind представила AlphaProof Code — систему доказательств корректности кода

Google DeepMind представила AlphaProof Code — систему, которая доказывает корректность программ формально, то есть машинно проверяемым рассуждением, а не тестами. Это развитие AlphaProof, которая раньше решала олимпиадные математические задачи.
Идея в том, что доказательство свойств кода — такая же задача поиска, как и математическая: система подбирает цепочку шагов, а проверяющая программа говорит, сошлось или нет. Подробных независимых замеров пока нет, в обсуждении спорят, насколько метод переносится с учебных примеров на реальные кодовые базы.
Что говорят
p-e-wHacker News
Просто поразительно, что такая огромная кодовая база, как у Signal, безопасна не только на практике, но и в строгом формальном смысле. Писали её инженеры высочайшего класса.
paganelHacker News
Я совсем не в теме формальных доказательств, но как это всё соотносится с проблемой остановки (и со всеми смежными задачами, которые к ней в итоге сводятся)?
fercircularbufHacker News
В прошлом году я думал, что софт станет намного более багованным, раз всё больше отдают ИИ. Такие инструменты дают надежду, что будущее софта, наоборот, окажется заметно безопаснее.