NVHBM интегрирует контроллер памяти в 3D HBM-стек вместо XPU, что обеспечивает до 30% большей пропускной способности и на 15% снижает энергопотребление HBM. По сравнению со стандартным HBM4E, технология освобождает до 25% площади вычислительного кристалла XPU. NVIDIA установит стандартную реализацию NVHBM, доступную от нескольких поставщиков памяти, чтобы упростить интеграцию для клиентов NVLink Fusion.
Amazon Annapurna Labs первой начнет работу с NVHBM в рамках сотрудничества с NVIDIA, используя эту технологию в своих чипах Trainium4. Это позволит объединить Amazon Trainium и NVIDIA GPU в общей архитектуре уровня стойки, расширяя поддержку NVLink Fusion.