NVIDIA, Microsoft и Linux Foundation создали альянс открытых средств защиты ИИ

NVIDIA и несколько десятков технологических компаний и организаций объявили о создании Open Secure AI Alliance. Участники намерены совместно разрабатывать открытые инструменты для защиты ИИ-агентов, поиска уязвимостей и контроля цепочек поставок программного обеспечения.

NVIDIA объявила о создании Open Secure AI Alliance — объединения разработчиков облачных платформ, средств кибербезопасности, корпоративного ПО и открытых технологий. В число первых участников вошли Adobe, Cisco, Cloudflare, CrowdStrike, Hugging Face, IBM, Linux Foundation, Microsoft, Palo Alto Networks, Red Hat, SAP, Salesforce, Siemens и Snowflake.

Альянс займется открытой инфраструктурой защиты ИИ-агентов. Она должна охватывать весь программный стек: идентификацию и права доступа, изоляцию, управляющие оболочки, ограничители поведения, журналирование и оценку безопасности. Среди направлений работы названы безопасные форматы моделей, автоматизированный поиск уязвимостей, защищенные процессы разработки и подписанные исправления для цепочек поставок ПО.

NVIDIA передаст альянсу открытые модели, веса, данные и результаты исследований. Компания также опубликовала NVIDIA Labs Object-Oriented Agent (NOOA) — модель-независимый Python-фреймворк для разработки ИИ-агентов, упрощающий их тестирование, трассировку и аудит.

Другие заявленные компоненты включают стандарты идентификации рабочих нагрузок SPIFFE/SPIRE, формат хранения весов Safetensors, систему подписанных исправлений Lightwell от IBM и Red Hat и многоагентный сканер уязвимостей MDASH от Microsoft.