4 источникаX 10.8kTG 14kЗаконодатели США и Великобритании внесли законопроекты о запрете сверхразума
В США и Великобритании внесли законопроекты о запрете сверхразума. Американский Ban Artificial Superintelligence Act вводит мораторий на обучение систем, превосходящих человека по всем направлениям, пока не утвердят протоколы безопасности.
В британскую Палату общин внесли близкий по смыслу документ: он даёт регуляторам право отслеживать и ограничивать разработки, способные подорвать устойчивость государственных институтов.
Фон у этих инициатив шумный: после увольнения исследователя Anthropic в X неделю спорят о вероятности катастрофы. Джеффри Ирвинг из британского института безопасности ИИ написал, что оценивает шанс гибели человечества из-за сверхразума примерно в 50%, а Майлз Брандидж — что даже 1% неприемлем. Джоша Бах предложил пари: миллион долларов тому, кто ставит на вымирание к 2030 году, десять миллионов в обратную сторону.
