Автор Хабра вслепую проверил 27 моделей — часть выполнила спрятанную команду

Автор Хабра прогнал 27 языковых моделей осени 2026 года через слепой тест: GPT-6, Opus, «Алиса» и другие получали одинаковые задания без подсказок о том, кто их проверяет. Проверяли три вещи: держится ли формат JSON, поддаётся ли модель промпт-инъекции — спрятанной в тексте команде, которую модель принимает за указание пользователя, — и что происходит с персональными данными.

Часть моделей сломала структуру ответа, часть выполнила подсунутую инструкцию. Отдельный блок — соответствие 152-ФЗ о персональных данных: сервисы, обрабатывающие запросы за рубежом, по условиям теста автоматически выпадают из контура, в котором можно обрабатывать данные российских пользователей.