ИИ-ассистенты отправляют покупателей в поддельные магазины — проверка Podqi

Компания Podqi, занимающаяся защитой интеллектуальной собственности, проверила, куда ИИ-ассистенты отправляют покупателей, и нашла в ответах ссылки на поддельные магазины и неработающие сайты.

Доля подозрительных адресов различалась по сервисам: 15% в ответах Perplexity, 8% у ChatGPT и 4% у Gemini. Речь о рекомендациях, где купить товар, — то есть о сценарии, в котором пользователь переходит по ссылке и вводит платёжные данные.

Причина в том, что модель оценивает ссылку по тексту вокруг неё, а не по репутации домена: клон магазина с правдоподобным описанием выглядит для неё так же, как оригинал.