來源：TECHPOWERUP

2024 IEEE IEDM 會(huì)議目前正在美國加州舊金山舉行。據(jù)分析師 Ian Cutress 在其社交平臺(tái)上發(fā)布的動(dòng)態(tài)，英偉達(dá)在本次學(xué)術(shù)會(huì)議上分享了有關(guān)未來 AI 加速器設(shè)計(jì)的愿景。

英偉達(dá)認(rèn)為未來整個(gè) AI 加速器復(fù)合體將位于大面積先進(jìn)封裝基板之上，采用垂直供電，集成硅光子 I/O 器件，GPU 采用多模塊設(shè)計(jì)，3D 垂直堆疊 DRAM 內(nèi)存，并在模塊內(nèi)直接整合冷板。

在英偉達(dá)給出的模型中，每個(gè) AI 加速器復(fù)合體包含 4 個(gè) GPU 模塊，每個(gè) GPU 模塊與 6 個(gè)小型 DRAM 內(nèi)存模塊垂直連接并與 3 組硅光子 I/O 器件配對(duì)。

硅光子 I/O 可實(shí)現(xiàn)超越現(xiàn)有電氣 I/O 的帶寬與能效表現(xiàn)，是目前先進(jìn)工藝的重要發(fā)展方向；3D 垂直堆疊的 DRAM 內(nèi)存較目前的 2.5D HBM 方案擁有更低信號(hào)傳輸距離，有益于 I/O 引腳的增加和每引腳速率的提升；垂直集成更多器件導(dǎo)致發(fā)熱提升，模塊整合冷板可提升解熱能力。

熱管理是另一個(gè)關(guān)鍵考慮因素。多層 GPU 設(shè)計(jì)帶來了復(fù)雜的冷卻挑戰(zhàn)，而目前的技術(shù)無法充分解決這一問題。NVIDIA 承認(rèn)，在將 DRAM 堆疊在邏輯上的概念成為現(xiàn)實(shí)之前，材料科學(xué)必須取得重大進(jìn)展。該公司正在探索創(chuàng)新解決方案，包括實(shí)施芯片內(nèi)冷卻系統(tǒng)，例如使用專用冷板進(jìn)行模塊級(jí)冷卻。這種設(shè)計(jì)的商業(yè)化還需要一段時(shí)間，Ian Cutress 博士等分析師預(yù)測，采用這種技術(shù)的產(chǎn)品可能會(huì)在 2028-2030 年左右上市。

審核編輯 黃宇