США обвинили шесть китайских ИИ-компаний в промышленной дистилляции передовых моделей

АНБ, CISA и ФБР заявили, что DeepSeek, Moonshot AI, Alibaba, MiniMax, StepFun и Z.AI с конца 2024 года извлекли миллиарды токенов из Claude, GPT, Gemini и Grok через миллионы запросов. Ведомства описали использование подставных аккаунтов, прокси-сервисов и jailbreak-промптов и рекомендовали разработчикам усилить мониторинг и выборочно изменять ответы на подозрительные запросы.

Агентство национальной безопасности США (АНБ), Агентство по кибербезопасности и защите инфраструктуры (CISA) и Федеральное бюро расследований (ФБР) 8 сентября опубликовали совместную рекомендацию AA26-251A. В ней DeepSeek, Moonshot AI, Alibaba, MiniMax, StepFun и Z.AI обвиняются в систематическом извлечении возможностей передовых американских ИИ-моделей для обучения собственных систем.

Дистилляция знаний — стандартный метод, при котором менее мощную модель обучают на результатах работы более развитой. Американские ведомства считают нарушением скрытое применение этого подхода в промышленном масштабе: по их оценке, с конца 2024 года китайские компании получили миллиарды токенов в ходе миллионов обращений к различным версиям Claude, GPT, Gemini и Grok.

Для обхода ограничений, как утверждается в документе, использовались подставные аккаунты, совместно используемые премиальные подписки, облачные платформы, API-агрегаторы и серые прокси-сервисы. Ведомства также описали применение prompt injection и jailbreak-запросов для получения скрытых цепочек рассуждений, а также автоматических систем маршрутизации и проверки качества ответов.

Разработчикам рекомендовано отслеживать необычные шаблоны запросов и круглосуточную активность аккаунтов, ограничивать частоту обращений и обмениваться индикаторами между поставщиками моделей, облачными платформами и API-агрегаторами. Для подтверждённых кампаний предлагается незаметно изменять ответы или переключать запросы на менее совершенные модели. Китайская сторона назвала обвинения безосновательными.