Глава OpenAI Сэм Альтман заявил, что латать все уязвимости больше не выйдет
Глава OpenAI Сэм Альтман заявил, что больше не рассчитывает «просто залатать все дыры» в безопасности. По его словам, прежняя модель защиты — находить уязвимости и выпускать патчи — перестаёт работать, когда поиск дыр автоматизирован и идёт быстрее, чем выходят исправления.
Альтман говорит о сдвиге к защите, которая исходит из того, что часть уязвимостей останется неисправленной: изоляция, ограничение прав, наблюдение за поведением систем. Признание прозвучало на фоне собственных релизов OpenAI — её модель недавно нашла в PHP две критические уязвимости.
Что говорят
pmlnrHacker News
«Чтобы остановить наш всемогущий ИИ, который выйдет из-под контроля, вам нужно купить наш всемогущий ИИ». Это учебниковое определение рэкета.
petcatHacker News
Если они всерьёз считают ИИ настолько опасным, то реальный риск — что США и Китай заключат соглашение о «нераспространении ИИ» по образцу ядерного. Это обернётся фактической технологической колонизацией остального мира. Именно такой сценарий Трамп и Си обсуждали на саммите в прошлом месяце.
nradovHacker News
Может, вместо латания дыр мы перепишем весь софт с нуля с помощью LLM — с меньшим числом эксплуатируемых уязвимостей. Год назад идея была бы глупой, сейчас выглядит всё реальнее.