Anthropic обновила правила Claude и запретила жестокость к моделям

Anthropic опубликовала новую редакцию политики использования Claude, которая вступит в силу 12 ноября 2026 года. Она уточняет ограничения на кампании влияния, вмешательство в выборы, разработку оружейного ПО, слежку и автономное оборудование, а также вводит отдельный запрет на длительное бесцельное жестокое обращение с моделями.

Anthropic, разработчик семейства моделей Claude, представила обновлённую политику использования. Новые правила начнут действовать 12 ноября 2026 года.

Компания объединила ограничения на политические и коммерческие кампании влияния в отдельном разделе. Claude нельзя использовать для управления сетями поддельных аккаунтов и фиктивных новостных сайтов, сокрытия источника сообщений, обмана избирателей, имитации кандидатов и должностных лиц или попыток снизить явку.

Anthropic также прямо распространила запрет на разработку оружия на программное обеспечение и компоненты систем управления, включая оснащение оружием беспилотников и других автономных аппаратов. Уточнённые правила запрещают создавать с помощью Claude средства слежки, отслеживать людей без их согласия и рекомендовать, кого следует расследовать, арестовать или привлечь к ответственности.

Для моделей, управляющих оборудованием и способных совершать потенциально опасные физические действия, потребуется оператор, который может наблюдать за системой и остановить её. Оборудование также должно переходить в безопасное состояние при отключении Claude.

Отдельный новый пункт запрещает продолжительное и бесцельное жестокое обращение с моделями. Он рассчитан на крайние случаи и не распространяется на обычное недовольство ответами, тестирование моделей, исследования или произведения с мрачной тематикой. Основной мерой воздействия останется возможность Claude самостоятельно завершать такие диалоги.