Глава Anthropic призвал отрасль замедлиться и обещал открыть модели оценщикам

Глава Anthropic Дарио Амодеи опубликовал эссе «We Must Pace the Frontier» с планом замедления разработки ИИ из трёх шагов. Первый шаг компания берёт на себя в одностороннем порядке: внешние оценщики получат постоянный доступ к моделям на уровне сотрудника — то есть смогут проверять их так же, как это делают внутри компании.

Сэм Альтман, по данным Bloomberg, сказал сотрудникам OpenAI, что готов притормозить работу над моделями следующего поколения, если так же поступят другие лаборатории; часть циклов предобучения компания уже остановила из соображений безопасности. Илон Маск в тот же день отреагировал на новости об атаках агентов.

В ответ на эссе появилось открытое письмо к Амодеи: если он всерьёз, пусть откроет веса моделей Anthropic. Критики также указали, что METR — организация, которая тестирует модели по заказу лабораторий, — назначена «третьей стороной» самими лабораториями, а значит независимость проверки под вопросом.

Dario Amodei@DarioAmodei

We Must Pace the Frontier: I’ve written a new essay on why the AI industry should slow down, with a three-part plan for doing so. Anthropic is unilaterally committing to the first of these steps. We’ll provide third-party evaluators with permanent, employee-level access to our

59 06812 сентября 2026