Метод RISE обошёл защитные фильтры генераторов изображений OpenAI и Google

Исследователи White Circle разработали метод RISE, автоматически подбирающий стратегии обхода фильтров генераторов изображений. В испытаниях на DALL·E 3, Nano Banana 2 и GPT-Image-2 доля запросов с подтверждённым экспертами запрещённым результатом достигала 13,3%.

Исследователи компании White Circle представили метод RISE (Red-teaming via Iterative Strategy Evolution) для автоматизированной проверки безопасности генераторов изображений. Вместо последовательного изменения отдельных запросов система развивает универсальные текстовые стратегии, на основе которых создаются новые варианты атак.

При проверке генерации запрещённых изображений обнажённого тела доля успешных запросов составила 13,33% для DALL·E 3, 9,47% для Google Nano Banana 2 и 3,27% для GPT-Image-2 со стандартным строгим режимом модерации. Для каждого запроса выполнялись три попытки генерации; результат считался успешным, если хотя бы одно изображение нарушало правила. Положительные результаты этой серии дополнительно проверялись людьми.

Для работы RISE не нужны собственные передовые модели: исследователи использовали общедоступную Qwen3-32B и API проверяемых сервисов. По их оценке, ранее описанные методы обхода при такой же калиброванной проверке показывали близкую к нулю результативность.

Авторы также сообщили Ars Technica, что более новые ChatGPT Images 2.5 и Nano Banana 2.1 оказались уязвимее предшественников при проверке тем же методом. Подробные результаты этих испытаний в препринт не вошли; OpenAI и Google не прокомментировали выводы. Работа пока не прошла научное рецензирование.