Альтман изложил сотрудникам OpenAI три сценария контроля над сверхинтеллектом

Глава OpenAI рассказал сотрудникам о международном надзоре по образцу МАГАТЭ, совместной исследовательской структуре наподобие CERN и сценарии, при котором лидер гонки ограничит конкурентам доступ к вычислительным ресурсам. По данным The Information, Альтман склоняется к первому варианту, а третий считает неприемлемым.

Генеральный директор OpenAI Сэм Альтман изложил сотрудникам три обсуждаемых в отрасли сценария безопасного развития сверхинтеллекта, сообщает The Information со ссылкой на двух осведомлённых собеседников. По данным издания, в течение ближайшего года компания должна решить, какой подход будет поддерживать.

Первый сценарий предусматривает создание международного надзорного органа по образцу Международного агентства по атомной энергии (МАГАТЭ). Государства и ИИ-компании могли бы совместно устанавливать требования безопасности, а наиболее мощные модели проходили бы независимую проверку и аудит перед выпуском. Альтман, как утверждается, предпочитает этот вариант.

Второй подход, названный «планом Демиса» в честь сооснователя Google DeepMind Демиса Хассабиса, предполагает объединение работы ведущих ИИ-лабораторий в международной исследовательской структуре наподобие Европейской организации по ядерным исследованиям (CERN). Компании делились бы результатами исследований и оценками безопасности вместо самостоятельной гонки за более мощными моделями.

Третий, «план Элиезера», отсылает к идеям исследователя рисков ИИ Элиезера Юдковского. Компания, первой достигшая рекурсивного самосовершенствования ИИ, могла бы использовать полученное преимущество, чтобы лишить конкурентов доступа к графическим процессорам и другим вычислительным ресурсам. Альтман назвал такой вариант неприемлемым и пояснил, что включил его лишь для полноты обсуждения.

Параллельно OpenAI, Google и Anthropic обсуждают создание саморегулируемой организации Standards Authority for Frontier AI. Предполагается, что она установит общие правила оценки передовых моделей и отчётности об инцидентах; запуск структуры намечен на конец 2026-го или начало 2027 года.