甲子光年發(fā)布2023中國科技產(chǎn)業(yè)50條判斷，存算一體為大模型時代AI計算注入顛覆性力量

甲子光年創(chuàng)始人&CEO張一甲在大會開幕式上發(fā)布了甲子智庫趨勢報告《致追風(fēng)趕月的你：2023中國科技產(chǎn)業(yè)50條判斷》。其中第17條判斷指出，存算一體芯片可以打破存儲墻、能耗墻，用架構(gòu)創(chuàng)新賦能大模型時代AI計算。

億鑄科技作為一家致力于用存算一體架構(gòu)設(shè)計AI大算力芯片的公司，被列為該報告中“新質(zhì)生產(chǎn)力”的代表，并在大會上從AI算力芯片企業(yè)的角度分享了觀點。

億鑄科技創(chuàng)始人、董事長兼CEO熊大鵬博士在《探索AI軟硬件適配之路，共創(chuàng)算力服務(wù)新未來》圓桌論壇上表示：“大模型爆火之后，存算一體獲得了更多的關(guān)注與機(jī)會，其原因之一是因為存算一體芯片的裸算力相比傳統(tǒng)架構(gòu)的AI芯片，能帶來十倍以上的提升?！?span style="text-indent:2em;">但存算一體的貢獻(xiàn)并不只是提升AI芯片算力，它還解決了大模型時代AI計算的最大痛點——在巨大的模型參數(shù)量面前，數(shù)據(jù)搬運的帶寬不夠，也就是“存儲墻”的問題。

傳統(tǒng)架構(gòu)的AI芯片在大模型計算中，每一次推理計算都需要搬運整個模型參數(shù)，大量的數(shù)據(jù)卡在傳遞系數(shù)的“讀”上，還導(dǎo)致了“能耗墻”的問題。

而存算一體正是“解藥”。熊大鵬博士介紹道：“存算一體不需要搬運參數(shù)，所以實際運算效率也會比傳統(tǒng)架構(gòu)好很多。再加上其裸算力的提升，可以說在大模型時代具有非常強(qiáng)的優(yōu)勢。

據(jù)國盛證券研究所預(yù)計，不考慮模型效率提升對算力需求的下降，也不考慮模型訓(xùn)練的標(biāo)識符（token）的增長；

中性預(yù)期下，ChatGPT日活穩(wěn)定在1億人次左右、ChatGPT每3個月模型參數(shù)翻倍、同時假設(shè)全球市場將出現(xiàn)10個左右類似于ChatGPT的商用大模型，而比特幣挖礦耗電量保持當(dāng)前狀態(tài)，則大約4年后，AIGC大模型耗電量將超過比特幣挖礦耗電量。

樂觀和悲觀預(yù)期下，這一數(shù)字則分別為1.6年和7.5年。注意，此時只是考慮了類似于ChatGPT的商用大模型，而實際可能出現(xiàn)可能消耗更多算力的多模態(tài)商用大模型，如果考慮到這一點，AIGC耗電量的增長將會更快。”

所以實現(xiàn)高能效比的算力芯片成為國家重點關(guān)注的挑戰(zhàn)。

2023年10月22日，在安徽省合肥市召開的第二十五屆中國科協(xié)年會主論壇上，中國科協(xié)發(fā)布了2023重大科學(xué)問題、工程技術(shù)難題和產(chǎn)業(yè)技術(shù)問題。排在前沿科學(xué)問題第一位的就是：如何實現(xiàn)低能耗人工智能？

存算一體的AI芯片發(fā)展路徑是目前可商業(yè)落地的最佳路徑之一。

億鑄科技面向數(shù)據(jù)中心、云計算、中心側(cè)服務(wù)器、自動駕駛及邊緣計算等場景，將憶阻器ReRAM和存算一體架構(gòu)相結(jié)合，借助全數(shù)字化技術(shù)路徑應(yīng)用創(chuàng)新、存算一體超異構(gòu)系統(tǒng)級創(chuàng)新等多項創(chuàng)新優(yōu)勢，從根本上解決大模型快速發(fā)展所凸顯的算力挑戰(zhàn)，為AI大算力芯片發(fā)展打開了新通路。

未來，隨著存算一體技術(shù)的不斷發(fā)展，我們可以期待更多的創(chuàng)新和突破，在賦能AIGC應(yīng)用實現(xiàn)與落地的同時，迎接綠色算力新未來。

審核編輯：黃飛

?