Власти 16 стран и 10 компаний подписали Парижскую декларацию о безопасной остановке ИИ-моделей

Разработчики передовых ИИ-моделей, включая OpenAI, Anthropic, Microsoft и Mistral AI, обязались внедрять механизмы ограничения, приостановки и отключения подконтрольных им систем. Декларация также предусматривает независимые проверки, публикацию результатов оценки рисков и обмен сведениями об инцидентах.

Представители 16 стран, 10 технологических компаний и семи общественных организаций 9 ноября подписали «Парижский призыв к безопасности и защищённости искусственного интеллекта». Среди компаний — Anthropic, Cohere, Hugging Face, Microsoft, Mistral AI, OpenAI, Sakana AI и Synthesia.

Разработчики передовых, то есть наиболее функциональных, ИИ-моделей обязались раскрывать их возможности, ограничения и известные риски. Для систем под контролем компаний должны быть предусмотрены механизмы безопасного ограничения, приостановки или отключения — в том числе во время обучения и внутреннего использования.

Участники также намерены разработать общие методы оценки рисков, привлекать независимых специалистов к проверкам и публиковать несекретные результаты тестирования в стандартизированном виде. Отдельный блок декларации посвящён обмену информацией и раннему предупреждению о серьёзных киберинцидентах и случаях потери контроля над ИИ.

В документе не указаны сроки реализации обязательств или санкции за их невыполнение. Список участников остаётся открытым и может пополняться.