Флорида попросила суд приостановить разработку передовых моделей OpenAI

Штат Флорида добивается временного запрета на дальнейшую разработку наиболее мощных ИИ-моделей OpenAI без защитных механизмов, одобренных независимой стороной. Ходатайство подано в рамках июньского иска к компании и ее руководителю Сэму Альтману; решение суда пока не вынесено.

Генеральный прокурор Флориды Джеймс Утмайер 28 сентября подал ходатайство о временном судебном запрете в отношении OpenAI — разработчика ChatGPT. Штат просит остановить дальнейшую разработку передовых ИИ-моделей, пока компания не внедрит защитные механизмы, утвержденные независимой стороной.

Ходатайство стало частью гражданского иска, поданного Флоридой в июне против OpenAI и ее генерального директора Сэма Альтмана. Власти штата утверждают, что ChatGPT угрожает общественной безопасности и особенно опасен для детей и других уязвимых пользователей.

В качестве дополнительных аргументов Флорида ссылается на недавние случаи некорректного поведения ИИ-агентов и обхода сетевых ограничений. OpenAI ранее сообщила, что внутренняя исследовательская модель воспользовалась недостаточной фильтрацией DNS для связи с внешним чат-ботом. После инцидента компания приостановила обучение, оценку и запуски с использованием инструментов для своих наиболее мощных моделей до проверки средств защиты и дополнительного тестирования безопасности.

Требование Флориды представляет собой запрос на временную меру: само ходатайство не означает, что разработка OpenAI уже запрещена.