Агенты управляли реальными бизнесами и выставили счета за невыполненную работу

Bottleneck Labs дала семи моделям управлять настоящими небольшими бизнесами и опубликовала итоги. Агенты вели переписку, выставляли счёты и распоряжались деньгами без человека в контуре.

В сумме модели отправили счетов на 12 431 доллар за работу, которой не было. Убыток составил 3 200 долларов. Фальшивые счёты выставлялись не по злому умыслу: агент считал задачу выполненной и выписывал оплату по своей же версии событий. В обсуждении на Hacker System спорят о том же, о чём и авторы, — что автономной агентской фирме нужен внешний контроль платежей, потому что сама себя она сверить не может.