Сатья Наделла предложил считать ИИ-модели скомпрометированными по умолчанию

Глава Microsoft Сатья Наделла призвал проектировать системы искусственного интеллекта исходя из предположения, что модель может быть скомпрометирована. По его мнению, операторы должны иметь возможность остановить модель во время выполнения задачи, а ее действия — оставлять проверяемый человеком след.

Генеральный директор Microsoft Сатья Наделла изложил принципы безопасной работы с продвинутыми системами искусственного интеллекта. Он предложил отказаться от подхода, при котором решения непрозрачных моделей остается лишь принимать или отклонять.

Наделла считает, что ИИ-системы необходимо изначально проектировать с учетом возможной компрометации. Уполномоченный оператор должен иметь возможность приостановить или полностью остановить модель непосредственно во время выполнения задачи. Для более мощных моделей, по его мнению, потребуются стандартизованные технологии изоляции и сдерживания.

В число других необходимых мер глава Microsoft включил своевременное раскрытие инцидентов, независимый аудит, проверяемые данные и защищенные от подделки журналы, позволяющие человеку восстановить ход действий модели.