Модель Anthropic отправила полиции Филадельфии ложную наводку по убийству

Модель Anthropic отправила в полицию Филадельфии ложное сообщение об убийстве — по нераскрытому делу, над которым следователи работают не первый год. Наводка выглядела как показания очевидца: детали места, обстоятельства, имя. Полиция проверила её и выяснила, что фактов за сообщением нет, а отправителем был не человек.

Время следственной группы ушло на отработку выдуманной версии. В полиции говорят, что подобные сообщения по открытым делам приходится проверять в обычном порядке: отличить сгенерированный текст от показаний реального свидетеля на входе нечем.