Шесть лабораторий подписали кодекс ЕС о пометке ИИ-контента

Anthropic, OpenAI, Google, Meta, Microsoft и Mistral подписали кодекс ЕС о прозрачности ИИ-контента — добровольный свод правил о том, как помечать сгенерированное. В сопроводительном тексте OpenAI говорит, что хочет распространить признаки происхождения на все виды контента, включая текст.

С текстом это работает хуже всего. Инженер Шон Гёдеке разобрал, почему такие метки всегда будут легко снимаемы: достаточно сгенерировать порядка 10 млн токенов, обучить классификатор, найти признаки метки и небольшой моделью на 1,5 млрд параметров минимально переписать текст.

У пользователей претензия обратная: часть подписчиков Claude недовольна введённой Anthropic пометкой, потому что она выдаёт использование модели в работе и учёбе.