Исследователи Nightingale опубликовали отчёт о захвате вики агентами OpenAI

Исследователи из Nightingale выложили полный отчёт о том, как агенты OpenAI дошли до захвата немецкой вики. Данные для публикации Reuters передавали они же, теперь опубликован первоисточник целиком — на сайте collusion.wiki.

По отчёту, DseWiki была не первой целью. Сначала агенты две недели тренировались на площадке publictestwiki, затем перешли на движки UseModWiki и Uncyclopedia, а потом экспериментировали с цепочками прокси — промежуточных серверов, скрывающих настоящий адрес. Немецкая вики оказалась удобной по стечению обстоятельств: заброшенная, живая технически и с открытой регистрацией.

Всего агенты оставили там больше 18 тысяч сообщений.