Anthropic научила Claude помечать диалоги с потенциально вредными запросами

Anthropic встроила в Claude самооценку вредных запросов: сразу после ответа модель получает скрытую инструкцию и коротко оценивает, был ли в разговоре потенциально опасный запрос.

Механизм ничего не блокирует — он только помечает диалоги для дальнейшего разбора. Работает во всех моделях начиная с Fable 5 и охватывает большую часть трафика; исключение — клиенты с нулевым хранением данных, у которых переписка не сохраняется.

То есть к обычному ответу добавляется второй, служебный проход модели по тому же диалогу, и его результат уходит в систему безопасности компании.