Хинтон и Бенджио выпустили статью о том, как ИИ ускоряет разработку самого ИИ

Хинтон, Бенджио и ещё два десятка исследователей выпустили статью о том, что будет, если ИИ начнёт заметно ускорять разработку ИИ. Работа вышла в Кембридже, у неё 22 автора — среди них главный научный сотрудник OpenAI Якуб Пачоцки и сооснователь Anthropic Джек Кларк.

Авторы начинают не с прогноза, а с того, что уже есть в лабораториях: в Anthropic доля кода, написанного моделями, выросла с единиц процентов до более чем 80% с начала года. Главный вопрос работы — что произойдёт, если такое ускорение сожмёт годы прогресса в месяцы.

Мы писали про предупреждение этой же группы о рисках самоулучшения в конце сентября; теперь вышел полный текст с оценками и именами авторов из обеих лабораторий.