OpenAI уволила подрядчиков, которые писали эталонные ответы нейросетью вместо рук

OpenAI уволила нескольких подрядчиков, нанятых для улучшения ответов моделей, — они сами пользовались нейросетями в работе. Подрядчики должны были писать и оценивать эталонные ответы руками, а сдавали машинный текст.

Проблема в том, что на таких данных модель учится на собственных ответах: разметка теряет смысл, если она сгенерирована тем же классом систем, которые она должна исправлять. Отличить машинный текст в потоке заданий компания смогла не сразу.

Сколько человек уволено и как их вычислили, не сообщается.