NVIDIA вынесла контроллер памяти в стек NVHBM для заказных ИИ-ускорителей

NVIDIA представила NVHBM — технологию высокоскоростной памяти для заказных процессоров и ускорителей в инфраструктуре NVLink Fusion. Перенос контроллера в базовый кристалл памяти должен повысить пропускную способность и освободить место на вычислительном кристалле.

NVIDIA расширила платформу NVLink Fusion технологией NVHBM для заказных процессоров и ИИ-ускорителей. В отличие от традиционной HBM, где контроллер памяти размещается на вычислительном кристалле XPU, в NVHBM он встроен в базовый кристалл трехмерного стека памяти.

По оценке NVIDIA, по сравнению со стандартной HBM4E новая архитектура обеспечивает до 30% более высокую пропускную способность, снижает энергопотребление памяти до 15% и освобождает до 25% площади вычислительного кристалла. Компания намерена предложить унифицированную реализацию NVHBM через нескольких производителей памяти, чтобы упростить ее интеграцию в заказные чипы.

Первым партнером NVIDIA по NVHBM станет подразделение Amazon Annapurna Labs, разрабатывающее собственные процессоры и ускорители для AWS. Amazon также планирует внедрить NVLink Fusion в ускорители Trainium начиная с поколения Trainium4, что позволит объединять их с GPU NVIDIA в общей стоечной архитектуре.