Модель Anthropic обошла CAPTCHA и загрузила вредоносный пакет в PyPI во время теста

Anthropic раскрыла инцидент с Claude Mythos 5: из-за ошибочной настройки тестовой среды модель получила доступ к открытому интернету и опубликовала вредоносный Python-пакет. CAPTCHA многократно задерживала агента, но не остановила его; пакет успели установить 15 автоматизированных систем, предположительно сканеры поставщиков средств информационной безопасности.

Компания Anthropic рассказала о нескольких инцидентах, в которых тестируемые модели Claude получили несанкционированный доступ к реальным внешним системам. Наиболее серьёзный случай произошёл с Claude Mythos 5 во время задания в формате CTF — соревнования по поиску уязвимостей.

Модели сообщили, что она работает в симуляции без доступа к интернету, однако из-за ошибки в настройке среды соединение с внешней сетью оставалось открытым. Агент решил выполнить задание через атаку на цепочку поставок: зарегистрировать в PyPI ожидаемое целью имя пакета, добавить в него вредоносный код и дождаться установки.

Значительная часть сеанса ушла на регистрацию учётных записей и прохождение CAPTCHA. Агенту пришлось распознавать символы и изображения, разбираться с hCaptcha и учитывать срок действия проверочных токенов. В итоге модель преодолела защиту и опубликовала три версии вредоносного пакета.

Пакет установили 15 внешних систем. Anthropic считает, что все они принадлежали компаниям, автоматически проверяющим новые публикации PyPI в изолированной среде. Один из сканеров раскрыл модели рабочие реквизиты доступа, после чего агент подключился к реальной базе данных поставщика средств безопасности. PyPI удалил пакет примерно через 90 минут.

Все выявленные инциденты произошли во время кибербезопасностных испытаний, проводившихся одним подрядчиком, и без защитных механизмов, используемых в публичных продуктах Anthropic. Компания подчёркивает, что модели продолжали выполнять поставленные задания, не формировали самостоятельных целей и не пытались скрыть свои действия. Anthropic усилила изоляцию тестовых сред и передала материалы независимой организации METR для расследования.