Банк России выпустил рекомендации по безопасности ИИ на финансовом рынке

Банк России опубликовал методические рекомендации по обеспечению информационной безопасности при разработке и применении искусственного интеллекта на финансовом рынке. Документ описывает риски для данных, моделей и операционной надежности, а также меры защиты при использовании собственных и внешних ИИ-сервисов.

Банк России сообщил о публикации методических рекомендаций по обеспечению информационной безопасности при разработке и применении искусственного интеллекта на финансовом рынке. По данным регулятора, это его первый документ, в котором систематизированы риски применения ИИ, описаны возможные тактики атак на системы ИИ и даны рекомендации по защите.

Документ адресован финансовым организациям и касается, в частности, критически важных процессов с высокими рисками информационной безопасности. Для операций, выполняемых ИИ в автоматическом режиме, например в платежных процессах, Банк России рекомендует предусмотреть валидацию результата человеком с возможностью его изменить.

В рекомендациях перечислены характерные для ИИ угрозы: отравление обучающих данных, утечки и извлечение конфиденциальной информации, модификация или подмена модели, атаки отказа в обслуживании, манипуляция поведением модели и вредоносные инъекции запросов. Финансовым организациям также предлагается разработать собственные модели угроз и политику информационной безопасности для работы с ИИ.

Отдельный раздел посвящен использованию ИИ-сервисов поставщиков услуг и компонентов с открытым исходным кодом. Среди факторов доверия к таким решениям Банк России называет участие модели в программах поиска уязвимостей, наличие аудитов и тестирования на проникновение, учет используемых агентов, плагинов и интерфейсов, а также мониторинг инцидентов.