Anthropic сообщила о российских кибероперациях с Claude и атаках дистилляции из Китая

Anthropic заявила, что пресекла использование Claude в российской кибершпионской операции против организаций на Украине и в Европе. Компания также выявила масштабные попытки китайских ИИ-разработчиков извлечь возможности модели с помощью нелегальной дистилляции.

Anthropic 10 сентября опубликовала отчет об обнаруженных злоупотреблениях Claude с декабря 2025 года по август 2026 года. Компания сообщила о блокировке связанных с ними учетных записей и усилении защитных механизмов.

В одной из операций Claude применялся для автоматизации кибершпионажа против государственных, военных, дипломатических и оборонных организаций на Украине и в Европе. По оценке Anthropic, характеристики оператора согласуются с ранее опубликованными данными о группировке Midnight Blizzard. Люди выбирали цели и проверяли похищенные данные, а ИИ помогал разрабатывать инструменты, создавать инфраструктуру, проводить фишинг и извлекать информацию.

Еще одна группа, которую Anthropic описывает как небольшую команду специалистов из России, использовала Claude Code при разработке автономного роя FPV-дронов. Модель помогала создавать механизмы координации, компьютерного зрения, наведения и выбора целей. Компания не считает эту команду российской государственной структурой и отмечает, что заявления участников о государственном финансировании подтвердить не удалось.

Отдельная часть отчета посвящена нелегальной дистилляции — извлечению возможностей одной нейросети для обучения другой. Anthropic заявила о кампаниях семи лабораторий из КНР, использовавших поддельные учетные записи, прокси-сервисы и методы извлечения цепочек рассуждений Claude. По данным компании, Alibaba провела более 151 млн взаимодействий с моделью, Moonshot — более 23 млн, а DeepSeek — 12,1 млн за две недели июля.

Anthropic также утверждает, что Moonshot и DeepSeek в отдельных случаях незаметно перенаправляли запросы своих пользователей в Claude и сохраняли полученные ответы для обучения моделей. Среди переданных данных встречались внутренние документы, программный код и действующие учетные данные; неизвестно, предупреждали ли компании об этом своих клиентов.