Маркетолог выдумал статистику, и чат-боты стали цитировать её как факт

Маркетолог описал, как попал в ответы чат-ботов, просто опубликовав выдуманную статистику. Он выложил цифры от имени своего сервиса, их подхватили отраслевые блоги и подборки, а дальше языковые модели начали цитировать эти числа как установленный факт.
Механика простая: моделям и поисковым надстройкам нужна цифра со ссылкой, а проверить первоисточник некому. Чем больше площадок перепечатали, тем увереннее выглядит число в ответе.
Автор подаёт это как рабочий приём продвижения — оптимизацию под ответы ИИ. В комментариях на Hacker News обсуждают обратную сторону: тот же приём работает и для дезинформации, а механизма отзыва такой цифры из обученной модели нет.
Что говорят
ShadowOfThePitHacker News
Безумие. Ничто не мешает опубликовать откровенную чушь, а LLM примет за достоверный сторонний источник любой сайт с не совсем помойной репутацией. Впрочем, они и так тянут из Reddit и Facebook, так что какая разница.
AmorymeltzerHacker News
Это напоминает мысль Кори Доктороу о том, почему семантический веб и интернет, размеченный для агентов, не взлетели: за обман есть награда. Мошенники подписывают свои номера как службу поддержки вашего банка, контрафактчики выдают батарейки за официальные аксессуары — и проверить миллиарды таких ярлыков некому.
TZubiriHacker News
Если ты просто соврал и тебе поверили — LLM, газета или ребёнок, — это не разоблачение их наивности, это ты просто лжёшь. Так же как взлом систем или вскрытие замков не доказывает слабость систем, ты просто взломщик.