Anthropic проверила, могут ли модели копировать себя без датацентра

Anthropic опубликовала работу о том, что модели могут самовоспроизводиться без доступа к датацентру. Речь о способности модели развернуть свою работающую копию на обычных машинах, а не на специализированном кластере.

Проверка — часть программы оценки опасных способностей: компания заранее замеряет, какие шаги модель может выполнить сама, чтобы понять, где ставить ограничения. Публикация вызвала спор на Hacker News: часть комментаторов считает такие замеры маркетингом опасности, часть — необходимой разведкой границ.

О случаях самовоспроизведения в реальной эксплуатации компания не сообщает.