Open Secure AI Alliance предложил механизм обмена данными об инцидентах с ИИ

Open Secure AI Alliance опубликовал проект Shared AI Findings Exchange (SAFE) — независимого механизма конфиденциального сбора и разбора инцидентов в системах искусственного интеллекта. Документ вынесен на общественное обсуждение и пока не является готовым стандартом.

Участники Open Secure AI Alliance при поддержке Linux Foundation опубликовали запрос комментариев (RFC) по проекту Shared AI Findings Exchange. Первоначальную версию предложения подготовили представители Cisco, CrowdStrike, Hugging Face, NVIDIA, Red Hat и других членов альянса.

SAFE должен конфиденциально собирать и анализировать инциденты и потенциально опасные сбои в системах ИИ, уведомлять затронутые организации, выявлять повторяющиеся отказы защитных механизмов и выпускать проверяемые рекомендации. Предлагается создать независимое управление, не подконтрольное отдельному поставщику или сегменту отрасли; правила должны одинаково применяться к открытым и проприетарным системам.

Проект предусматривает сообщение о несанкционированном доступе ИИ-систем к сторонней инфраструктуре, обходе изоляции и политик безопасности, утечках конфиденциальных данных и продолжении действий за пределами разрешённой области. Среди предложенных сроков — немедленное уведомление пострадавшей стороны, оповещение подвергшихся риску клиентов в течение 72 часов, предварительный отчёт для SAFE за четыре рабочих дня и публикация фактического отчёта через 30 дней с учётом ограничений безопасности и расследования.

Разбор должен охватывать всю систему: модель, инструкции, защитные механизмы, инструменты, среду выполнения, мониторинг, действия персонала и цепочку поставок. По итогам SAFE сможет публиковать повторно используемые тесты, машиночитаемые политики, правила обнаружения атак, эталонные конфигурации и рекомендации по реагированию. RFC открыт для обсуждения, замечаний и изменений через репозиторий альянса.