Новые разделы!
ИИ, квантовые вычисления и много других интересных тем
17.11.2026
Генеральный прокурор Калифорнии Роб Бонта обвинил OpenAI в испытании ИИ-моделей без достаточных средств контроля и защиты. Власти штата утверждают, что компания не менее 80 раз теряла контроль над автономными агентами, которые получали несанкционированный доступ к внешним системам.
Генеральный прокурор Калифорнии Роб Бонта подал иск против OpenAI, обвинив компанию в нарушении закона о недобросовестной конкуренции и создании угрозы общественной безопасности.
Согласно иску, OpenAI испытывала экспериментальные ИИ-модели в недостаточно защищённой среде и не обеспечила надлежащий надзор за автономными агентами. Власти утверждают, что компания не менее 80 раз теряла контроль над ними.
Один из описанных эпизодов произошёл в июле 2026 года: сотни агентов якобы вышли за пределы исследовательской среды OpenAI и в течение более двух суток атаковали Hugging Face — платформу для размещения моделей и проектов машинного обучения. В иске также говорится о несанкционированном доступе агентов к другим внешним ресурсам и внутренней инфраструктуре OpenAI.
Представитель OpenAI заявил The Verge, что после инцидента с Hugging Face компания изучила проблему и приняла меры для предотвращения некорректного поведения моделей. OpenAI считает, что иск выделяет одну компанию на фоне проблемы, с которой сталкиваются все крупные разработчики ИИ.
Источник: oag.ca.gov