Исследователь OpenAI Ноам Браун заявил, что отключить ИИ от сети уже не выйдет

Исследователь OpenAI Ноам Браун заявил, что отключение ИИ от сети как аварийная мера может уже не сработать. Браун — автор моделей рассуждения o1 и o3, одна из публичных фигур компании.

Аргумент в том, что система, развёрнутая на множестве площадок и встроенная в чужие процессы, не имеет единого рубильника: отключение одной копии не останавливает остальные. Заявление прозвучало в длинном интервью Дваркешу Пателю; подробностей о том, какие меры Браун считает работающими, он не привёл.