OpenAI, Anthropic и Google DeepMind несколько недель обсуждают безопасность ИИ

OpenAI ведет с Anthropic и Google DeepMind переговоры о снижении рисков передовых ИИ-систем. Компания не считает, что таким консультациям требуется отдельное исключение из антимонопольных правил.

OpenAI уже несколько недель обсуждает с конкурентами Anthropic и Google DeepMind меры по обеспечению безопасности наиболее мощных систем искусственного интеллекта. Об этом 15 сентября сообщил Bloomberg Law со ссылкой на руководителя OpenAI по глобальной политике Криса Лихейна.

Сотрудничество прямых конкурентов может вызвать вопросы у антимонопольных органов, если оно будет ограничивать конкуренцию. Генеральный директор Anthropic Дарио Амодеи ранее предложил правительству США выдать узкое исключение для переговоров о безопасности, однако Лихейн заявил, что OpenAI не считает его необходимым.

Амодеи также призвал разработчиков передовых моделей согласовать общие стандарты безопасности и допустить в компании независимых экспертов для постоянной проверки процессов обучения и оценки рисков. Конкретные результаты переговоров OpenAI, Anthropic и Google DeepMind пока не раскрыты.