PANews 8月27日消息,據IT之家報導,輝達推出NVHBM客製化高頻寬記憶體,採用客製化的HBM基礎裸晶,相較傳統HBM4e可提供更高的頻寬、更低的功耗以及更小的晶片面積。輝達稱,NVHBM已與「領先的記憶體廠商」共同完成設計和驗證,因此,對於開發客製化晶片的廠商來說,相較從零開始採用標準HBM,NVHBM有望幫助其更快推出產品。
對於AI加速器而言,記憶體頻寬至關重要。輝達表示,與標準HBM4e相比,NVHBM每個記憶體堆疊的頻寬最高可提升30%。對於受記憶體頻寬限制的AI工作負載來說,更高的頻寬意味著更高的吞吐量,例如在AI推論場景下,可以提高每秒生成的Token數量。此外,NVHBM的功耗比標準商用HBM4e低15%。輝達還宣布,亞馬遜旗下的Annapurna Labs將成為NVHBM的首個合作夥伴。




