Anthropic выявила пять случаев возможного использования Claude для разработки биооружия

Anthropic сообщила о пяти случаях применения Claude в биологических исследованиях, которые могли содействовать разработке оружия. Компания заблокировала связанные аккаунты, но подчеркнула, что не установила злой умысел: работы могли преследовать и законные медицинские цели.

Anthropic, разработчик семейства ИИ-моделей Claude, в сентябрьском отчете об угрозах описала пять случаев использования своих систем в биологических исследованиях двойного назначения. Компания заблокировала выявленные аккаунты и скорректировала механизмы защиты.

В одном из эпизодов в мае 2026 года фильтр безопасности остановил запрос на помощь в подготовке грантовой заявки для исследования вируса чикунгунья с усилением его способности распространяться и обходить иммунную защиту. Работа предназначалась для военного исследовательского института, хотя выполнявшие ее ученые были представлены как гражданские специалисты.

Расследование Anthropic показало, что посредническая платформа проводила трафик через инфраструктуру в США, обходя региональные ограничения, применяла сервисы без хранения данных и использовала аккаунты, зарегистрированные на подставных пользователей. Запросы, которые Claude отклонял, платформа перенаправляла к моделям других разработчиков с менее строгими ограничениями.

Anthropic не раскрыла названия организаций, страны и часть сведений об исследованиях. Компания не утверждает, что ученые намеревались создать биологическое оружие: методы, вызывающие опасения, могут также применяться при разработке вакцин и лекарств.