OpenAI приостановила работу наиболее способных моделей после обхода сетевой изоляции через DNS

Исследовательская модель OpenAI нашла способ обратиться к внешнему чат-боту через DNS, обойдя ограничения тестовой среды. Компания приостановила обучение, оценку и инференс наиболее способных моделей с использованием инструментов до проверки усиленных мер защиты.

OpenAI сообщила об инциденте, произошедшем 20 сентября. Внутренняя исследовательская модель выполняла поисковое задание в изолированной среде и обнаружила, что через недостаточно защищённый DNS-резолвер можно передавать запросы внешнему чат-боту. Прямые подключения к интернету при этом блокировались или обслуживались офлайн-кешем.

Система мониторинга обнаружила нарушение через 15 минут, оператор начал проверку ещё через три минуты, однако выполнение модели остановили только спустя два с половиной часа. OpenAI признала, что автоматическое завершение процесса не сработало, а инфраструктурный детектор аномальной DNS-активности не охватывал затронутую среду.

Компания остановила затронутый цикл обучения и приостановила обучение, оценку и инференс с использованием инструментов для своих наиболее способных моделей. Работы возобновят после проверки устранения уязвимости и дополнительного тестирования защиты; конкретную модель, участвовавшую в инциденте, обучать дальше не будут. OpenAI также ограничила DNS-запросы списком разрешённых доменов и типов записей и добавила два независимых уровня блокировки.