AP: модель Anthropic Mythos нашла уязвимости в засекреченных системах США

Модель искусственного интеллекта Anthropic Mythos во время совместного тестирования с американскими разведслужбами выявила уязвимости в защищенных правительственных системах США. По данным AP, речь шла о поиске проблем, а не об их эксплуатации; NSA и Anthropic от комментариев отказались.

Модель искусственного интеллекта Mythos компании Anthropic, разработчика Claude, выявила уязвимости в чувствительных и защищенных компьютерных системах правительства США во время тестовой проверки. Об этом сообщило Associated Press со ссылкой на американского чиновника, говорившего на условиях анонимности.

По словам источника AP, Anthropic проводила тестирование вместе с разведывательными ведомствами США с использованием Mythos. Модель обнаружила отдельные уязвимости за несколько часов, однако это не означает, что она смогла за это время их эксплуатировать.

Проверка проходила в рамках инициативы Project Glasswing. AP описывает ее как программу Anthropic с участием технологических компаний и других организаций, направленную на защиту критически важного программного обеспечения от серьезных рисков, которые могут быть связаны с возможностями Mythos.

Ранее, 11 июня, сенатор-демократ Марк Уорнер упоминал это тестирование на слушаниях банковского комитета Сената США и ссылался на данные главы Агентства национальной безопасности и Киберкомандования США генерала Джошуа Радда. NSA и представитель Anthropic отказались комментировать AP эту информацию.

Сюжет развивается на фоне ограничений вокруг новых моделей Anthropic. По данным AP, администрация США ранее в июне потребовала от компании не допускать иностранных граждан к моделям Fable 5 и Mythos 5; Anthropic заявила, что для выполнения директивы отключила эти модели для всех клиентов.