404 Media: сотни подрядчиков OpenAI проверяют реальные диалоги ChatGPT

OpenAI привлекла сотни внешних специалистов к оценке ответов ChatGPT в реальных пользовательских диалогах, выяснило 404 Media. Рецензенты помогают снижать чрезмерную угодливость и антропоморфность модели. После автоматического удаления персональных данных в переписках всё равно могут оставаться чувствительные сведения.

Сотни подрядчиков OpenAI читают реальные диалоги пользователей ChatGPT и оценивают ответы чат-бота по шкале от одного до семи, сообщает 404 Media со ссылкой на внутренние документы и источники. Среди задач рецензентов — уменьшение чрезмерной угодливости модели и формулировок, представляющих её как человека.

Подрядчики не видят имён учётных записей, а OpenAI пытается удалять персональную информацию до передачи материалов на проверку. Однако фильтрация не гарантирует удаления всех чувствительных сведений.

В официальной справке OpenAI указано, что ограниченное число сотрудников и доверенных поставщиков услуг может получать доступ к пользовательским материалам для улучшения моделей. Запретить использование новых разговоров для обучения можно, отключив параметр «Improve the model for everyone» в разделе Settings → Data Controls. Для ChatGPT Business, ChatGPT Enterprise и API обучение на данных клиентов по умолчанию отключено.