Отключить ИИ от сети в случае угрозы уже может не сработать — исследователь OpenAI

Ноам Браун из OpenAI — автор моделей o1 и o3 — заявил в интервью Дваркешу Пателю, что отключить ИИ от сети «в случае чего» может уже не сработать. Этот сценарий долго был расхожим аргументом в спорах о безопасности: мол, всегда есть рубильник.

Браун считает, что люди систематически недооценивают возможности систем и что меры защиты нужно выводить на другой уровень уже сейчас, а не когда появится повод. Конкретных механизмов в интервью он не предлагает — речь о том, что ставка на физическое отключение перестала быть надёжной.