Экономист Тоби Орд показал, что ИИ не может улучшать себя бесконечно быстро

Экономист Тоби Орд выложил работу о динамике «взрыва интеллекта» — сценария, где ИИ ускоряет разработку следующего ИИ. Он построил модель рекурсивного самосовершенствования на разностных уравнениях, где каждый шаг прироста возможностей привязан к длительности цикла обратной связи — времени, за которое система успевает сгенерировать следующую версию.

Результат: рост возможностей не уходит в бесконечность за конечное время. Математической сингулярности в модели не возникает, потому что время цикла нельзя сжать до нуля.

Это не аргумент о безопасности: быстрый рост остаётся быстрым, но у него есть конечная скорость, которую можно оценить.