OpenAI тестирует мониторинг цепочек запросов без доступа сотрудников к их содержимому

OpenAI начала тестировать Private Safety Processing — систему выявления злоупотреблений по серии связанных взаимодействий, совместимую с режимом Zero Data Retention (ZDR). Она передает компании только ограниченный сигнал о типе риска, не раскрывая сотрудникам исходные запросы и ответы.

OpenAI представила Private Safety Processing — автоматизированную систему безопасности для корпоративных клиентов API. В отличие от действующих механизмов ZDR, которые проверяют каждое взаимодействие отдельно, новая технология ищет признаки злоупотреблений в последовательности связанных запросов и ответов.

При обнаружении риска OpenAI получает только ограниченный сигнал с указанием типа подозрительной активности. Сотрудники компании не получают доступа к содержимому даже после срабатывания системы. Клиент может самостоятельно изучить инцидент и при необходимости добровольно передать OpenAI дополнительные данные.

В конфигурациях ZDR данные остаются в инфраструктуре клиента. OpenAI также разрабатывает вариант хранения на своей стороне с шифрованием ключами, контролируемыми заказчиком и недоступными персоналу компании. Private Safety Processing уже тестируется с первыми клиентами; начало внедрения и публикация технического документа запланированы на сентябрь 2026 года.

Подход отличается от политики Anthropic для наиболее мощных моделей: компания хранит запросы и ответы в течение 30 дней, чтобы выявлять атаки и другие злоупотребления, заметные только по серии обращений.