Сервис маркетплейсов удалил ИИ-агента: тот судил о магазине по десяти товарам

Команда сервиса для маркетплейсов удалила своего ИИ-агента через четыре дня работы и написала его заново. Агента обложили ограничениями по всем правилам: восемь шагов на ход, узкий набор инструментов, урезанный доступ к данным.

На тестовом наборе он набрал 4,28 из 5. В реальных разговорах выяснилось другое: за отведённые шаги агент успевал посмотреть десять товаров из сотни — и уверенно делал выводы обо всём магазине по этой десятой части. Ограничение, поставленное ради предсказуемости, превратилось в источник уверенных ошибок.

Авторы связывают провал не с моделью, а с тем, что эталонный набор не ловил разрыв между объёмом просмотренных данных и смелостью вывода.