Пол Кристиано вошел в совет OpenAI Foundation и комитет по безопасности

Специалист по согласованию ИИ Пол Кристиано вошел в совет некоммерческой OpenAI Foundation и ее комитет по безопасности. Он также станет наблюдателем без права голоса в совете коммерческой OpenAI Group PBC.

OpenAI объявила о назначении Пола Кристиано в совет OpenAI Foundation. Он также войдет в комитет по безопасности и защите (Safety and Security Committee, SSC) фонда и станет наблюдателем без права голоса в совете OpenAI Group PBC.

SSC контролирует практики безопасности во всех структурах OpenAI, включая OpenAI Group PBC. Некоммерческий фонд сохраняет контроль над этой коммерческой компанией и владеет значительной долей в ней.

Кристиано основал некоммерческий исследовательский центр Alignment Research Center, занимающийся согласованием продвинутых систем ИИ с интересами людей. В 2017–2021 годах он руководил исследованиями по согласованию ИИ в OpenAI и участвовал в разработке методов обучения с подкреплением на основе обратной связи от человека (RLHF). Сейчас Кристиано работает старшим техническим советником в Центре стандартов и инноваций ИИ при Национальном институте стандартов и технологий США (NIST); из-за новой должности он будет отстраняться от связанных с OpenAI вопросов и оценок моделей.