隨著生成式AI技術的迅猛發(fā)展和大模型參數(shù)量的急劇增加,對高帶寬、高容量存儲的需求日益迫切,這直接推動了高帶寬內存(HBM)市場的快速增長,并對HBM的性能提出了更為嚴苛的要求。近日,韓國SK集團董事長崔泰源透露,英偉達公司首席執(zhí)行官黃仁勛已向SK海力士提出請求,希望其能提前六個月供應最新一代的高帶寬內存芯片——HBM4。
HBM4作為內存技術的最新成果,相較于前代HBM3,在多個方面實現(xiàn)了顯著的技術突破。首先,在內存密度方面,HBM4大幅提升,支持更大的存儲容量,單個堆棧的容量即可達到32GB甚至更高,從而滿足了高性能計算和AI應用對于大容量存儲的迫切需求。
其次,在數(shù)據(jù)傳輸方面,HBM4同樣表現(xiàn)出色。其數(shù)據(jù)傳輸速率高達6.4 GT/s,接口寬度也從1024位升級至2048位,這一升級顯著增強了并發(fā)數(shù)據(jù)傳輸?shù)哪芰?,有效降低了?shù)據(jù)傳輸延遲,特別是在多處理器或多GPU系統(tǒng)中,其優(yōu)勢更為明顯。
此外,HBM4還具備低功耗特性,這對于需要長時間運行的高性能計算和AI應用而言,無疑是一個巨大的福音。低功耗不僅有助于降低系統(tǒng)的整體能耗,還能提升系統(tǒng)的穩(wěn)定性和可靠性。
據(jù)悉,英偉達已與SK海力士簽訂了優(yōu)先供應協(xié)議,雙方將共同致力于高性能內存技術,特別是HBM技術的發(fā)展與應用。此前,英偉達、SK海力士以及臺積電已宣布深化三方合作,共同推動HBM4技術的研發(fā)與量產。預計HBM4將于2026年開始量產,屆時將為下一代計算和數(shù)據(jù)中心應用帶來全新的可能性。
英偉達還計劃在2026年推出名為“Rubin”的下一代數(shù)據(jù)中心GPU架構,該架構將集成HBM4芯片,以滿足日益增長的高帶寬需求。隨著AI相關需求的不斷增加,HBM4預計將在AI服務器、數(shù)據(jù)中心、汽車駕駛等高性能計算領域得到廣泛應用。特別是在AI訓練與推理模型中,高階深度學習AI GPU規(guī)格的提升將推動對HBM產品的需求和技術更迭。
在強勁的AI技術需求驅動下,英偉達希望通過HBM4來確保其產品能夠支持這些快速增長的高帶寬需求,從而保持其在高性能計算和AI應用領域的領先地位。
-
內存
+關注
關注
8文章
3060瀏覽量
74353 -
英偉達
+關注
關注
22文章
3850瀏覽量
92032 -
SK海力士
+關注
關注
0文章
974瀏覽量
38744 -
HBM
+關注
關注
0文章
387瀏覽量
14843 -
HBM4
+關注
關注
0文章
49瀏覽量
73
發(fā)布評論請先 登錄
相關推薦
評論