Anthropic передала переписку с Claude полиции — жительнице Флориды предъявили обвинение

Жительнице Флориды предъявили обвинение в тяжком преступлении после того, как Anthropic передала полиции её переписку с Claude. В диалоге женщина обсуждала, как устроить стрельбу в офисе шерифа; сама она называет записи дневником и размышлениями.
Запись попала к правоохранителям через систему Anthropic, отслеживающую обращения о насилии. Компания действовала по своим правилам, которые допускают передачу данных при угрозе жизни.
Дело собрало 557 очков и почти 500 комментариев на Hacker News. Спор идёт о том, где проходит граница между личной записью и заявленным намерением, и о том, что переписка с ИИ-помощником не защищена ни врачебной, ни адвокатской тайной.
Что говорят
altmanaltmanHacker News
По флоридскому закону 836.10 отправка или публикация письменной угрозы убить, ранить или устроить массовую стрельбу — фелония второй степени, причём сообщение должно быть доступно для просмотра другим лицом. Мыслепреступления становятся реальностью, когда ты делишься мыслями с Claude.
socializerHacker News
Я отчасти сочувствую Anthropic: после истории, когда OpenAI не сообщила о стрелке, их ругали, так что тут куда ни кинь — всюду клин. Но людям пора понять: они общаются не с тайным лучшим другом, а с бигтехом. Раньше можно было вести тайный дневник ненависти в Google Docs, потому что просеять такие объёмы было нечем, теперь всё написанное автоматически сканируется на «красные флаги» в планетарном масштабе.
thih9Hacker News
В любом случае это доказывает, что закон и негативный PR влияют на техкомпании, включая передовые ИИ-лаборатории. Жаль только, что работает это в сторону меньшей приватности и меньшей свободы пользователя, а не большей.