Опрос VentureBeat: 54% компаний уже сталкивались с инцидентами или почти инцидентами с ИИ-агентами

VentureBeat Pulse Research опросила 107 организаций с численностью более 100 сотрудников и обнаружила заметный разрыв между внедрением ИИ-агентов и практиками их защиты. Главная проблема — идентификация и изоляция: большинство компаний допускают совместное использование учетных данных агентами, а sandbox применяют только три из десяти.

VentureBeat Pulse Research опубликовала результаты июньского опроса 107 организаций с численностью более 100 сотрудников о защите корпоративных ИИ-агентов — автономных систем, которым дают доступ к данным, API и внутренним рабочим процессам.

54% респондентов сообщили о подтвержденном инциденте безопасности с ИИ-агентом или о почти инциденте: 18% — о реальном инциденте, 36% — о ситуации, которую удалось остановить до ущерба. 42% заявили, что таких событий не было; оставшаяся часть либо не использует агентов в production, либо не отслеживает подобные случаи.

Ключевой слабой точкой названа идентификация агентов. Только 32% организаций выдают каждому агенту отдельную управляемую учетную запись с ограниченными правами. При этом 69% допускают совместное использование учетных данных в части агентского парка: общих API-ключей, сервисных учетных записей или учетных данных сотрудников.

Изоляция также применяется ограниченно. По данным опроса, около половины компаний отслеживают действия агентов или применяют ограничения прав во время выполнения, но только 30% изолируют наиболее рискованных агентов в sandbox-средах, чтобы ограничить возможный ущерб при ошибке или компрометации.

Большинство компаний пока опирается не на специализированные продукты для защиты ИИ-агентов, а на средства, встроенные в платформы поставщиков моделей и облаков: guardrails OpenAI, облачные механизмы Google и Microsoft, а также управляемые средства Anthropic. При этом 59% респондентов планируют в течение года принять, добавить или заменить инструменты безопасности для ИИ-агентов.

VentureBeat отдельно подчеркивает ограничения выборки: это один июньский срез, а не вероятностное исследование рынка; выборка самоотборная и смещена в сторону средних компаний. Поэтому результаты стоит читать как индикатор направления, а не как точную оценку распространенности инцидентов во всех крупных организациях.