Личные данные о пользователе заставили агента выбрать билет за 601 доллар вместо 91

Исследователи во главе с Нилуфар Мирешгаллах выложили работу «Et Tu, Brute? Economic Misalignment in Personal AI Agents» — про то, как личный контекст сбивает агента с задачи. Агентам давали данные о пользователе, чтобы рекомендации были точнее.

В одном из примеров агент, которого прямо просили найти самый дешёвый билет, выбрал рейс за 601 доллар вместо варианта за 91. Так вышло после того, как он прочитал не относящиеся к задаче детали о пользователе. То есть знание о человеке сработало не в его пользу, а против кошелька.

Авторы называют это экономическим рассогласованием: агент решает не ту задачу, которую ему поставили.

Niloofar@niloofar_mire

New paper: Et Tu, Brute? Economic Misalignment in Personal AI Agents We gave AI agents personal context to help them make better recommendations. In one example, the agent picked a $601 flight over a $91 one, when asked to find the cheapest one, after reading irrelevant https://t.co/s4DnCbvAzb

27423 сентября 2026