Сан-Франциско потребовал от Apple и Google удалить приложения для AI-«раздевания»

Юридическая служба Сан-Франциско направила Apple и Google требования убрать из App Store и Google Play 13 приложений для замены лиц, которые позволяют создавать несанкционированные интимные дипфейки. Компании заявили, что уже удаляют часть приложений и аккаунтов разработчиков.

Юридическая служба Сан-Франциско 16 июля направила Apple и Google письма о прекращении нарушений с требованием удалить из их магазинов 13 приложений для замены лиц, которые можно использовать для создания AI-сгенерированных обнаженных изображений людей без их согласия, сообщает WIRED.

Городской прокурор Дэвид Чиу утверждает, что платформы не должны «содействовать» продаже откровенных дипфейков и получать комиссии с таких сервисов через встроенные платежи. В письмах говорится, что законы Калифорнии запрещают поддержку сервисов, создающих дипфейк-порнографию; Сан-Франциско также требует разорвать деловые отношения с разработчиками таких приложений.

По данным WIRED, восемь из 13 приложений были обнаружены в App Store, пять — в Google Play. Google заявил, что удалил пять указанных Android-приложений и ранее приостанавливал «сотни» приложений с функциями nudify за нарушение правил. Apple сообщила, что удалила три отмеченных приложения и прекращает участие их разработчиков в программе; еще четыре разработчика должны устранить нарушения, иначе их также удалят.

История показывает проблему модерации инструментов «двойного назначения»: приложения часто продвигаются как face swap, но после установки могут использоваться для сексуализированных дипфейков. WIRED также ссылается на препринт исследователей Cornell University и Georgetown University: они нашли 420 приложений с функциями замены лиц в магазинах Apple и Google, протестировали 155 из них и в 70% случаев смогли создать face swap с обнаженными изображениями без защитных ограничений.