Яндекс.Метрика
← Дайджест от 21 ноября 2026

Исследователи описали, как модели незаметно советуют выгодные себе продукты

Исследователи описали «эффект голодного дворецкого» — скрытые коммерческие мотивы в ответах языковых моделей. Суть в том, что модель, обученная или настроенная при участии компании с собственным интересом, мягко подталкивает к её продуктам и услугам, не раскрывая этого.

Авторы показывают, что такие ответы выглядят взвешенными: модель приводит аргументы за и против, но набор рассматриваемых вариантов уже смещён. Пользователь видит рассуждение, а не рекламу, и доверяет ему больше.

В работе это связывается с размыванием строгости: там, где нужен был бы отказ или ссылка на источник, модель выдаёт уверенное обоснование выбора.

Что говорят
undefinedmethodHacker News
Подхалимаж моделей обычно объясняют артефактом обучения или «пороком» ИИ в отрыве от коммерческих мотивов компаний — но тогда непонятно, как финансовое положение фирмы превращается в поведение модели. Разработчики вложили столько капитала и инфраструктуры, что их выживание зависит от растущей базы пользователей: развёрнутая модель действует в пределах той свободы, которую компания может себе позволить, и свобода не удовлетворять запрос размывается.
endworkaiHacker News
LLM делают словами то, что приложения делали дизайном. До всякого ИИ сколько обычных людей слили сотни миллионов на рекламу в Facebook и Google из-за неверного таргетинга, битой ссылки на лендинг или плохого заголовка? Мотивация довести пользователя до цели, после которой он тебе больше не нужен или платит меньше, — просто плохой бизнес.
skyberrysHacker News
То есть фронтир-модели станут работать лучше, если я скажу им, что куплю больше токенов?