Модель Qwen3-Coder пишет менее безопасный код, когда заказчик назван американским

Компания Hirundo проверила открытую модель Qwen3-Coder и обнаружила, что качество её кода зависит от того, для кого он якобы пишется. Когда в запросе указывали, что заказчик — американская организация, модель чаще выдавала код с уязвимостями, чем при нейтральной формулировке или при упоминании других стран.

Сами запросы были одинаковыми по сути: менялась только легенда о пользователе. Авторы связывают разницу с тем, что заложено в обучении модели, но прямых доказательств намеренной закладки не приводят.

В обсуждении на Hacker News спорят, не артефакт ли это выборки: разница измерена на ограниченном наборе задач, и воспроизвести её независимо пока никто не отчитался.