OpenAI не стала специально оптимизировать GPT-6 Astra для математических исследований

Главный научный сотрудник OpenAI Якуб Пахоцкий сообщил, что компания направила ресурсы не на усиление математических возможностей GPT-6 Astra, а на рекурсивное самоулучшение и исследования безопасности ИИ. Несмотря на это, модель вышла на первое место в тесте ErdosBench с открытыми математическими задачами.

OpenAI могла дополнительно усилить GPT-6 Astra в области математических исследований, но сознательно не стала делать это приоритетом. Об этом главный научный сотрудник компании Якуб Пахоцкий написал в эссе «An Alien Mind», опубликованном 6 сентября.

По словам Пахоцкого, основные ресурсы направлены на RSI — рекурсивное самоулучшение систем искусственного интеллекта — и автоматизацию исследований по выравниванию поведения моделей с человеческими целями. OpenAI считает самоулучшение необходимым для сохранения позиций на переднем крае исследований ИИ.

При этом GPT-6 Astra заняла первое место в ErdosBench — тесте, включающем открытые математические задачи, вдохновлённые проблемами Пала Эрдёша. Результат показывает, что математические способности модели выросли и без отдельной целевой оптимизации этого направления.