Банки и АНБ объяснили сбои в США массовыми правками, которые подсказал ИИ

Главы крупнейших банков Уолл-стрит и представители АНБ объяснили Конгрессу, откуда взялась неделя массовых сбоев в США. Клиенты не могли войти в банковские счета, упал Outlook, отказала закрытая сеть связи АНБ, по стране отменили около 20 тысяч рейсов.
Версия выступавших: их не взламывали с помощью ИИ. Наоборот — компании прогнали свои кодовые базы моделями, нашли большое число уязвимостей и начали массово их закрывать. Правки шли потоком, часть из них принесла новые ошибки, отсюда и аварии.
По словам участников закрытой части разговора, OpenAI и Anthropic намеренно не давали ведомствам доступ к самым мощным версиям моделей для таких проверок. Публичного технического разбора ни по одному из сбоев пока не опубликовано.
Что говорят
nixosbestosHacker News
Люди вообще читают статью хотя бы на пару предложений? Там сказано, что сбои вызвали попытки залатать уязвимости, обнаруженные ИИ, то есть спешные патчи в ответ на найденные ИИ дыры. Про «патчи, написанные ИИ» в тексте, насколько вижу, речи нет.
bg24Hacker News
У многих разваливающихся организаций картина такая: раньше патч готовили месяц, почти вручную; с ИИ стали выкатывать по два патча в неделю — процесс тот же, нормальной верификации нет, откат ручной.
dabinatHacker News
Не понимаю, откуда взялась идея, что если код теперь пишет ИИ, то его не надо ревьюить и тестировать.