Arm AGI CPU получил 1,99-кратное преимущество над AMD EPYC 9755 на стойку в расчётной модели

Signal65 опубликовала заказанное Arm сравнение серверного AGI CPU со 128-ядерным AMD EPYC 9755 семейства Turin. По семи нагрузкам расчётная производительность стойки Arm мощностью 24 кВт оказалась в среднем в 1,99 раза выше, хотя на уровне отдельного процессора среднее преимущество составило 20%.

Исследовательская компания Signal65 представила сравнение Arm AGI CPU и AMD EPYC 9755 на семи нагрузках, связанных с инфраструктурой ИИ-агентов. В набор вошли MySQL, NGINX, Milvus, fastText, накладные расходы vLLM, а также Terminal-Bench 2 и воспроизведение задач SWE-bench.

На уровне одного процессора Arm AGI CPU опередил EPYC 9755 в пяти из семи испытаний, а средний результат составил 1,20 от показателя AMD. Наибольшее преимущество — 97% — получено в fastText. В MySQL и Milvus процессор Arm, напротив, уступил сопернику 12% и 5% соответственно.

Основная разница появилась при переходе к модели стойки мощностью 24 кВт. По расчётам Arm, в неё помещается 21–23 двухсокетных сервера с AGI CPU против 13 систем с EPYC 9755. Итоговое преимущество Arm составило от 1,43 до 3,19 раза в зависимости от нагрузки и в среднем достигло 1,99 раза.

Расчёт чувствителен к исходным допущениям. В частности, объём памяти определялся из расчёта 4 Гбайт на аппаратный поток, поэтому серверу AMD с SMT приписывалось около 2 Тбайт памяти против примерно 1 Тбайт у системы Arm. При одинаковом объёме памяти на физическое ядро среднее преимущество Arm на стойку снизилось бы с 1,99 до 1,81 раза.

Все тесты выполнила Arm в собственных лабораториях. Signal65 наблюдала за прогонами удалённо, изучила журналы и скрипты и воспроизвела расчёты с отклонением не более 0,5%, но не проводила испытаний на своём оборудовании. Кроме того, использовались две конфигурации AGI CPU и различавшиеся программные среды; Signal65 планирует повторить исследование на финальных серийных системах. О методике и результатах также сообщается в публикации Arm.