英伟达推出NVHBM定制高带宽内存:相比HBM4e带宽提升30%、功耗降低15%

PANews 8月27日消息,据IT之家报道,英伟达推出NVHBM定制高带宽内存,采用定制的HBM基础裸片,相比传统HBM4e可以提供更高的带宽、更低的功耗以及更小的芯片面积。英伟达称,NVHBM已经与“领先的内存厂商”共同完成设计和验证,因此,对于开发定制芯片的厂商来说,相比从零开始采用标准HBM,NVHBM有望帮助其更快推出产品。

对于AI加速器而言,内存带宽至关重要。英伟达表示,与标准HBM4e相比,NVHBM每个内存堆栈的带宽最高可以提升30%。对于受内存带宽限制的AI工作负载来说,更高的带宽意味着更高的吞吐量,例如在AI推理场景下,可以提高每秒生成的Token数量。此外,NVHBM的功耗比标准商用HBM4e低15%。英伟达还宣布,亚马逊旗下的Annapurna Labs将成为NVHBM的首个合作伙伴。

分享至:

作者:PA一线

本内容只为提供市场信息,不构成投资建议。

关注PANews官方账号,一起穿越牛熊
PANews APP
6个沉睡超10年比特币钱包两周内转移553枚BTC,价值超4000万美元
PANews 快讯