Google держала агента в рабочих чатах пять месяцев — мешало непонимание шуток

Google на пять месяцев посадила ИИ-агента в более чем двадцать рабочих чатов настоящих команд и выложила отчёт. Агент имел доступ к документам и баг-трекеру, сам заводил задачи, писал людям в личку, ставил эмодзи и упоминал коллег — то есть жил как обычный сотрудник.

Главной проблемой оказалась не техника, а общение. Агент не распознал сарказм и всерьёз отчитал инженера за шутки, в другой команде повесил неуместный тег. Ошибки такого рода накапливались и раздражали сильнее, чем ошибки по существу задачи.

Отчёт опубликован препринтом на arXiv.