Microsoft AI будет отдавать большинство задач дешёвым специализированным моделям

Microsoft AI строит системы, в которых компактные специализированные модели выполняют основную часть работы, а более мощные решения подключаются только к сложным запросам. По данным компании, связка MAI-Cyber-1-Flash с оркестратором MDASH обошла модель Mythos компании Anthropic в тесте CyberGym на 12 процентных пунктов при вдвое меньшей стоимости.

Генеральный директор подразделения Microsoft AI Мустафа Сулейман описал стратегию, основанную на повышении эффективности использования токенов. Вместо применения дорогих универсальных моделей ко всем запросам компания намерена обучать компактные модели для отдельных продуктов и предметных областей.

Одним из примеров стала модель кибербезопасности MAI-Cyber-1-Flash, работающая внутри оркестратора MDASH. По данным Microsoft, система заняла первое место в тесте CyberGym, опередив Anthropic Mythos на 12 процентных пунктов при затратах примерно на 50% ниже. MAI-Cyber-1-Flash рассчитана на обработку 90% заданий, а оставшиеся сложные случаи MDASH направляет модели GPT-5.4.

Microsoft также хочет отделить управляющий слой — контекст, память, маршрутизацию и доступ к инструментам — от конкретного семейства моделей. Такой подход позволит заменять модели без перестройки всей системы и выбирать для каждого запроса оптимальное соотношение качества и стоимости.

Источник: microsoft.ai

Связь с редакцией