OpenAI будет искать злоупотребления в API, не показывая сотрудникам переписку

OpenAI запустила Private Safety Processing — механизм поиска злоупотреблений для API и корпоративных клиентов, устроенный так, чтобы сотрудники компании не видели ни запросов, ни ответов модели.

Система разбирает серии обращений и ищет признаки злонамеренного использования. Данные либо не покидают периметр клиента, либо лежат у OpenAI зашифрованными ключом самого заказчика. Наружу при срабатывании уходит только сигнал о риске, а не содержимое переписки.

Это ответ на претензию корпоративных клиентов: соглашаться на проверку контента, отдавая рабочие переписки чужим людям, они не готовы.