Белый дом может распространить проверку безопасности на открытые ИИ-модели

Администрация США готовится включить модели с открытыми весами в добровольную программу предварительной проверки наиболее мощных ИИ-систем, сообщает WIRED. Расширение пока не объявлено официально, а критерии тестирования остаются закрытыми.

Белый дом намерен распространить программу предварительной проверки безопасности передовых систем искусственного интеллекта на модели с открытыми весами, сообщает WIRED со ссылкой на представителя администрации США и другие осведомлённые источники.

Сейчас добровольная программа охватывает закрытые модели американских разработчиков, включая OpenAI и Anthropic. Открытые модели предполагается включать в неё по мере достижения ими возможностей, сопоставимых с наиболее мощными закрытыми системами. Проверка должна проводиться до публичного выпуска модели, однако точные критерии и устройство программы Белый дом не публикует.

По данным издания, администрация также опасается появления двухуровневого рынка: наличие федеральной оценки только у закрытых моделей может снизить интерес компаний к более доступным открытым решениям. В то же время предварительное тестирование продолжительностью до 30 дней способно замедлить разработку и выпуск новых моделей. Официально расширение программы пока не утверждено.