Palantir и NVIDIA развернут открытые модели Nemotron в изолированных средах госорганов США

Компания Palantir представила движок, позволяющий запускать открытые ИИ-модели NVIDIA Nemotron в полностью изолированных от внешних сетей (air-gapped) средах. Решение предназначено для госведомств США и даёт им возможность дообучать модели на собственных данных и сохранять полный контроль над весами.

Аналитическая компания Palantir, специализирующаяся на работе с большими данными, объявила о запуске нового движка для развёртывания открытых ИИ-моделей NVIDIA Nemotron в защищённых средах государственных органов США. Решение ориентировано на так называемые air-gapped-среды — конфигурации, полностью изолированные от незащищённых сетей.

На базе моделей Nemotron Palantir намерена создавать кастомизированные модели «фронтирного» уровня для нужд госсектора. По данным NVIDIA, с примерно 3 млн гражданских служащих американское правительство фактически представляет собой одну из крупнейших организаций в мире, а сферы его деятельности — торговля, энергетика, здравоохранение, сельское хозяйство, образование и транспорт — во многом совпадают с задачами частного бизнеса.

Ключевая идея движка — сохранение контроля у заказчика. Ведомства и операторы могут запускать настроенные модели Nemotron на собственной инфраструктуре, обучать их на своих данных и сохранять полное владение итоговыми моделями, включая веса, в которых закодированы операционные знания. По мере использования моделей в продакшене их можно непрерывно дообучать внутри собственной среды на новых данных и обратной связи.

Операционный слой и авторизацию доступа к данным обеспечивает Sovereign AI Operating System от Palantir, построенная на продуктах AIP, Ontology, Foundry и Apollo. В ней реализованы явная авторизация доступа к данным, архитектурно обеспеченная изоляция и полная аудируемость. Для корпоративных развёртываний предусмотрена поддержка через пакет NVIDIA AI Enterprise.

Партнёры подчёркивают преимущества открытых моделей: прозрачность, позволяющую независимым исследователям выявлять уязвимости и нежелательное поведение, возможность тонкой настройки под конкретные сценарии и развёртывания в регулируемых отраслях, а также более низкую стоимость. По оценке NVIDIA, около двух третей компаний уже используют открытые модели и отмечают их экономическую эффективность.

Источник: blogs.nvidia.com

Связь с редакцией