Эксперты из США и Китая предложили установить «красные линии» для военного ИИ

Американский и китайский специалисты призвали запретить ИИ самостоятельно принимать решения о применении ядерного оружия и атаках на системы ядерного командования. Они также предложили согласовать определение человеческого контроля и создать специальную горячую линию для инцидентов с военным ИИ.

Старший научный сотрудник Брукингского института Мелани Сиссон и доцент Фуданьского университета Цзян Тяньцзяо предложили США и Китаю установить практические ограничения на применение искусственного интеллекта в военной сфере.

В число «красных линий» авторы включили запрет для ИИ автономно принимать решение о применении ядерного оружия или атаковать системы ядерного командования, управления и связи. Решения о кибератаках на такие системы и критическую инфраструктуру также должны оставаться за людьми.

Эксперты предлагают выработать общее определение «значимого человеческого контроля», создать рабочую группу по терминологии и открыть отдельную военную горячую линию для сообщений об ошибках ИИ и инцидентах с автоматизированными киберсистемами. Такой канал должен помочь сторонам отличать случайные или ошибочные действия от намеренной атаки.

Инициатива развивает достигнутый лидерами США и Китая в 2024 году консенсус о сохранении человеческого контроля над ядерным оружием. Пока предложения имеют статус экспертных рекомендаций и не являются межправительственным соглашением.