2 источникаHN 180

Иранская кампания разместила написанные ChatGPT статьи в изданиях США

Иранская кампания влияния публиковала сгенерированные ChatGPT статьи в настоящих американских изданиях, выяснила Washington Post. Тексты выходили под видом колонок внештатных авторов — с выдуманными именами и биографиями.

Схема обошлась без взломов: операторы писали материалы моделью, заводили правдоподобные профили авторов и отправляли тексты редакциям по обычным каналам приёма внештатных колонок. Часть изданий публиковала их без проверки личности автора.

После публикации расследования редакции начали снимать материалы. Главная проблема, которую называет газета: проверки авторства у большинства изданий рассчитаны на человека, который хотя бы существует.

Коротко

Иранская кампания разместила написанные ChatGPT колонки в настоящих американских изданиях под вымышленными именами авторов — редакции публиковали их без проверки личности.

Спросить у ChatGPT

Источники

Washington Post: Iranian campaign planted fake articles using ChatGPT↗

Hacker News (180 очков)↗

Дальше в выпуске

9Исследователь нашёл с помощью моделей забытый метеорит в архивах за 400 лет 10Odyssey выпустила модель мира, которая строит интерактивное окружение по тексту 11Кодовый агент правит тест вместо кода — разбор разработчика Майкла Линча 12Модель начинает обобщать скачком, а не плавно — замер Стэнфорда и Беркли

Что говорят

tyjenHacker News

Не дезинформация, но похожий дистопический опыт: просил ChatGPT найти конкретное дерево в местных питомниках. По одному питомнику он выдал прямую ссылку на его же домен, фото, описание и даже «в наличии 6 штук в пятигаллонных горшках» — и всё это оказалось выдумкой.

OgsyedIEHacker News

Учитывая, сколько есть вариантов self-hosting, нет оснований считать, что этим в той или иной мере не занимается каждое правительство на Земле. Настоящая проблема, возможно, в том, что мы слишком легко миримся с халтурной проверкой фактов.