Учёные призвали создать международный орган надзора за мощными ИИ-системами

Больше 400 учёных подписали призыв создать международный орган надзора за самыми мощными ИИ-системами — теми, что способны самостоятельно проводить кибератаки. Подписанты предлагают обязательную оценку опасных способностей до выпуска модели и единые правила отчётности для разработчиков.

Спор вокруг таких инициатив обычный: тот, кто громче всех говорит об опасности своей технологии, одновременно просит писать правила под себя. The Register в связи с этим раскритиковала Anthropic за то, что компания описывает угрозы, которых пока нет, и тем самым подогревает страх вокруг ИИ.