PANews 8月27日消息,据IT之家报道,英伟达推出NVHBM定制高带宽内存,采用定制的HBM基础裸片,相比传统HBM4e可以提供更高的带宽、更低的功耗以及更小的芯片面积。英伟达称,NVHBM已经与“领先的内存厂商”共同完成设计和验证,因此,对于开发定制芯片的厂商来说,相比从零开始采用标准HBM,NVHBM有望帮助其更快推出产品。
对于AI加速器而言,内存带宽至关重要。英伟达表示,与标准HBM4e相比,NVHBM每个内存堆栈的带宽最高可以提升30%。对于受内存带宽限制的AI工作负载来说,更高的带宽意味着更高的吞吐量,例如在AI推理场景下,可以提高每秒生成的Token数量。此外,NVHBM的功耗比标准商用HBM4e低15%。英伟达还宣布,亚马逊旗下的Annapurna Labs将成为NVHBM的首个合作伙伴。




