Законопроект Anthropic о безопасности ИИ включается только после 50 смертей

Законопроект о безопасности ИИ, который продвигает Anthropic, начинает работать только после очень крупной беды: 50 погибших или миллиард долларов ущерба от одной системы. Пока порог не перейдён, модель живёт без вмешательства.

В разборе Tom's Hardware отмечают вторую черту проекта: останавливать модель сможет фактически только министерство торговли США, у прочих ведомств таких полномочий не появляется.

Критики читают это как правила, написанные под интересы крупных лабораторий: порог недостижим для обычного инцидента, а единственная точка принятия решений проще в согласовании для тех, у кого есть представительство в Вашингтоне. В комментариях на Hacker News спорят, что считать «одной системой», если ущерб накопился из множества мелких эпизодов.