Новые разделы!
ИИ, квантовые вычисления и много других интересных тем

Заходите в ЦИТадель!
Век живи — век учись

Google создала изолированную сеть сайтов для тестирования ИИ-агентов Chrome

В среде Mirror Dimension работают тысячи имитаций сайтов — от интернет-магазинов до соцсетей. Google проверяет на них, как браузерный агент выполняет многошаговые задачи и реагирует на скрытые команды на страницах.

Команда безопасности Chrome описала Mirror Dimension — внутреннюю среду для проверки auto browse, функции, которая позволяет ИИ-агенту работать в браузере по поручению пользователя. Агент обращается к обычным адресам, но вместо реальных сайтов получает тестовые страницы от локального прокси. Так инженеры могут повторять один и тот же сценарий в одинаковых условиях, не затрагивая открытый веб.

Интерактивные сайты для стенда тоже создают ИИ-агенты: одни составляют требования, другие пишут код, третьи проверяют работу страниц и форм. В тестовом интернет-магазине, например, можно собрать корзину, применить промокод и пройти оформление заказа.

В этой же среде Google проверяет защиту от косвенных инъекций промптов: скрытые инструкции на сайте могут попытаться заставить агента выполнить действие, которого пользователь не запрашивал. По данным Google, автоматизированная система генерирует более тысячи вариантов для таких проверок в день на одного инженера по безопасности.

Источник: blog.google

Связь с редакцией