Anthropic год не применяла фильтр по биоугрозам к трафику подрядчиков

Anthropic признала пробел в защите. С мая 2025 по апрель 2026 года блокирующие классификаторы — фильтры, которые не дают модели выдавать опасные сведения о химическом и биологическом оружии, — не применялись к трафику внешних подрядчиков, тех, кто собирает обратную связь от людей для обучения моделей.

За этот период около 50 тысяч человек провели с моделями примерно 133 млн диалогов без этого фильтра. Благонадёжность подрядных работников проверяли сами подрядчики по своим процедурам, которые компания не контролировала.