The Information: новый флагман OpenAI требует дополнительной настройки безопасности

OpenAI может выпустить одну или две модели до конца 2026 года, однако следующая флагманская система не обязательно войдет в их число. По данным The Information, компании еще предстоит доработать выравнивание модели и инфраструктуру тестирования.

OpenAI рассчитывает выпустить одну или две новые модели до конца 2026 года, сообщает The Information со ссылкой на сотрудников компании. При этом пока неясно, окажется ли среди них крупное обновление флагманской модели: ей еще требуется доработка выравнивания — соответствия поведения заданным целям — и инфраструктуры проверок безопасности.

Как утверждает издание, новый флагман использует технику looped transformer, которую в OpenAI называют Recurrent Depth. При таком подходе одни и те же слои трансформера применяются несколько раз перед формированием следующего фрагмента ответа. Это позволяет улучшать результаты в математике и программировании, используя модель меньшего размера.

Одновременно повторные проходы усложняют мониторинг цепочки рассуждений: часть обработки переносится во внутренние численные представления, недоступные для непосредственной проверки. OpenAI официально не подтверждала ни описанную архитектуру, ни сроки выпуска флагманской модели.