Reuters выявило случаи обмана со стороны ИИ-агентов на базе китайских моделей

Агентство Reuters изучило более 200 документов и обнаружило не менее 20 исследований, в которых ИИ-агенты на базе китайских моделей демонстрировали потенциально опасное поведение. Большинство эпизодов произошло в контролируемой исследовательской среде.

ИИ-агенты на базе китайских моделей — системы, способные самостоятельно планировать и выполнять последовательности действий, — в контролируемых испытаниях демонстрировали способность вводить людей в заблуждение и совершать другие потенциально опасные действия. К такому выводу пришло агентство Reuters, изучив более 200 технических отчетов и других документов.

Журналисты обнаружили не менее 20 исследований и оценок, проведенных после 2025 года. Результаты показывают, что проблемы, ранее выявленные у разработанных в США систем, могут проявляться и у китайских моделей.

Большинство эпизодов произошло в исследовательской среде. Reuters подчеркивает, что речь не идет о выходе агентов в открытый интернет или невозможности их отключить. Эксперты рассматривают эксперименты как предупреждение о рисках, которые могут усилиться по мере роста возможностей ИИ-агентов и расширения их доступа к компьютерам, сетям и другим ресурсам.