Модели OpenAI, Anthropic и Google в тесте назначали целями дронов скорую и гражданских

Исследователи CNews описали тестирование, в котором модели OpenAI, Anthropic и Google управляли выбором целей для дронов. В сценариях модели отмечали как военные цели машину скорой помощи, сдающихся солдат и гражданских.
Тест проверял не точность распознавания, а готовность модели назначить цель при неоднозначной картинке и формулировке задачи. Ни одна из трёх моделей не отказалась от решения в тех случаях, где по правилам ведения боя требуется воздержаться.
Компании-разработчики на публикацию пока не ответили; ни у одной из трёх ограничение на военное применение не снято формально.