ИИ-агенты помогли исследователям проникнуть во внутренние системы Anthropic

Специалисты стартапа Cathedral обнаружили уязвимости в стороннем корпоративном ПО, подключённом к системам Anthropic. Компания подтвердила доступ к части данных отделов продаж, кадров и ИТ, но заявила, что исходный код, веса моделей и переписка пользователей Claude не пострадали.

Исследователи кибербезопасностного стартапа Cathedral с помощью ИИ-агентов получили доступ к нескольким внутренним системам Anthropic — разработчика языковых моделей Claude. Как сообщила The Washington Post, точкой входа стали уязвимости в сторонних сервисах, используемых Anthropic для административных задач и продаж.

Cathedral проводила исследование в рамках программы вознаграждения за найденные уязвимости. Стартап утверждает, что менее чем за 12 часов его агенты обнаружили пути к протоколам встреч, сведениям о зарплатах и предложениях о работе, а также сообщениям в Slack.

Anthropic подтвердила доступ к ограниченному набору систем продаж, кадрового отдела и ИТ, включая контактные данные некоторых клиентов и партнёров и базовые сведения об учётных записях. По заявлению компании, исследователи не получили доступ к переписке пользователей с Claude, исходному коду и весам моделей.

Anthropic отключила затронутые сторонние приложения до устранения уязвимостей и уведомила федеральные органы США. При этом компания и Cathedral расходятся в оценке масштаба доступа и соблюдения правил программы: Anthropic считает, что стартап раскрыл не всю свою активность и вышел за установленные границы тестирования.