隨著ChatGPT的爆紅,AIGC產(chǎn)業(yè)鏈?zhǔn)艿搅藦V泛關(guān)注。大模型的發(fā)展正在推動(dòng)AI算力市場(chǎng)進(jìn)入新的發(fā)展階段,國(guó)內(nèi)外市場(chǎng)掀起了一股新的AI應(yīng)用熱潮。AIGC早已不是簡(jiǎn)單的技術(shù)概念,而是逐步形成以生成式AI為核心的新一代產(chǎn)業(yè)生態(tài)。AIGC產(chǎn)業(yè)發(fā)展離不開(kāi)底層資源建設(shè)。要建設(shè)更加強(qiáng)大的AIGC算力基礎(chǔ)設(shè)施,還需要聚焦新一代AI技術(shù)解決關(guān)鍵挑戰(zhàn),實(shí)現(xiàn)革命性突破。
近日,甲子光年智庫(kù)發(fā)布《中國(guó)AIGC產(chǎn)業(yè)算力發(fā)展報(bào)告》,作為全球首家基于存算一體超異構(gòu)創(chuàng)新架構(gòu),面向數(shù)據(jù)中心、云計(jì)算、自動(dòng)駕駛、中心側(cè)服務(wù)器等場(chǎng)景的 AI 大算力芯片公司,億鑄科技被列為“AIGC產(chǎn)業(yè)算力領(lǐng)域的領(lǐng)航者”重點(diǎn)關(guān)注企業(yè)。
報(bào)告指出,通信已成為算力增長(zhǎng)的瓶頸。過(guò)去 20 年間,運(yùn)算設(shè)備的算力提高了9萬(wàn)倍,雖然存儲(chǔ)器從 DDR 發(fā)展到 GDDR6x ,接口標(biāo)準(zhǔn)從 PCIe1.0a升級(jí)到 NVLink3.0,但是通訊帶寬的增長(zhǎng)只有 30 倍。存儲(chǔ)器性能增長(zhǎng)慢于處理器,這一剪刀差如今仍在被不斷擴(kuò)大。
在大模型時(shí)代,Transformer模型中的參數(shù)量呈現(xiàn)出 2年240 倍的超指數(shù)增長(zhǎng),而單個(gè)GPU內(nèi)存僅以每 2年2倍的速度擴(kuò)大。無(wú)論是訓(xùn)練還是推理,AI計(jì)算芯片都肩負(fù)了比以往更重的使命。
從技術(shù)環(huán)境來(lái)講,數(shù)據(jù)量越來(lái)越大、模型算法越來(lái)越復(fù)雜,而支撐底層算力的摩爾定律卻幾近終結(jié)。巨大的剪刀差落在AI大算力芯片企業(yè)產(chǎn)業(yè)鏈肩上,就帶來(lái)了巨大壓力——有效算力的增長(zhǎng)率、軟件的編譯、數(shù)據(jù)的帶寬、存儲(chǔ)的成本、能效比、生產(chǎn)工藝……
這一切挑戰(zhàn)的根源來(lái)自數(shù)據(jù)流堵塞,也就是“存儲(chǔ)墻”。無(wú)論是芯片外部還是內(nèi)部,數(shù)據(jù)搬運(yùn)速度的提升都與計(jì)算能力的提升都有著巨大的差距,大模型時(shí)代的到來(lái)無(wú)疑擴(kuò)大了這一鴻溝。AI應(yīng)用進(jìn)入2.0時(shí)代,模型參數(shù)量成長(zhǎng)更快,數(shù)據(jù)搬運(yùn)速度剪刀差更大,而每一次推理計(jì)算都需要搬運(yùn)整個(gè)模型參數(shù),存儲(chǔ)墻成為AI大算力芯片發(fā)展的最大痛點(diǎn)。
要想從根源上解決這個(gè)問(wèn)題,就要徹底打破“存儲(chǔ)墻”,因此越來(lái)越多的科學(xué)家和創(chuàng)業(yè)者轉(zhuǎn)向了存算一體,尋求在AGI時(shí)代的架構(gòu)革新。
打破“存儲(chǔ)墻”,存算一體閃亮登場(chǎng)
根據(jù)目標(biāo)應(yīng)用場(chǎng)景的不同,存算一體企業(yè)選擇的存儲(chǔ)介質(zhì)和技術(shù)路線也會(huì)不同。成立之初,億鑄科技在熊大鵬博士的帶領(lǐng)下,經(jīng)過(guò)團(tuán)隊(duì)專家的深入探討與研究,一致同意在AI大算力推理芯片這一賽道上,新型憶阻器ReRAM (RRAM) 是當(dāng)前最合適的存儲(chǔ)介質(zhì)。而這一觀點(diǎn)也逐漸獲得了越來(lái)越多的認(rèn)可。在AI大算力市場(chǎng)與AIGC產(chǎn)業(yè)的雙重驅(qū)動(dòng)下,學(xué)術(shù)界和產(chǎn)業(yè)界正將RRAM推向“C位”,紛紛轉(zhuǎn)向ReRAM尋找新的發(fā)展動(dòng)力。
億鑄的“四新一強(qiáng)”優(yōu)勢(shì)
億鑄科技原型技術(shù)驗(yàn)證(POC)芯片首次流片已于2023年8月初回片,并成功點(diǎn)亮了首顆面向數(shù)據(jù)中心、云計(jì)算、自動(dòng)駕駛等場(chǎng)景的存算一體AI大算力芯片??蓪?shí)現(xiàn)“基于成熟28nm工藝制程,單卡突破P級(jí)算力”的極強(qiáng)性能與“20T/W”的極高能效比。
甲子光年借《中國(guó)AIGC產(chǎn)業(yè)算力發(fā)展報(bào)告》指出,AIGC不僅僅體現(xiàn)在對(duì)算力規(guī)模的拉動(dòng)上,而是會(huì)改變算力產(chǎn)業(yè)的發(fā)展思路,例如MaaS對(duì)云服務(wù)模式的影響,云邊協(xié)同的效力體現(xiàn),及存算一體技術(shù)的發(fā)展等等。
AIGC的時(shí)代仍在快速發(fā)展,億鑄科技作為AIGC產(chǎn)業(yè)在算力領(lǐng)域的領(lǐng)航者,將積極尋求與其他算力供應(yīng)商、AI技術(shù)提供商以及AI應(yīng)用企業(yè)的合作,形成緊密的生態(tài)伙伴關(guān)系,共同探索AIGC產(chǎn)業(yè)的應(yīng)用場(chǎng)景和商業(yè)模式,不斷攻克難題,以實(shí)現(xiàn)產(chǎn)業(yè)的繁榮發(fā)展。
審核編輯:劉清
-
存儲(chǔ)器
+關(guān)注
關(guān)注
38文章
7530瀏覽量
164411 -
自動(dòng)駕駛
+關(guān)注
關(guān)注
785文章
13945瀏覽量
167100 -
GDDR6
+關(guān)注
關(guān)注
0文章
52瀏覽量
11334 -
AI芯片
+關(guān)注
關(guān)注
17文章
1911瀏覽量
35244 -
ChatGPT
+關(guān)注
關(guān)注
29文章
1570瀏覽量
8115
原文標(biāo)題:億分享 | 把握AIGC浪潮,億鑄科技領(lǐng)航AI大算力芯片產(chǎn)業(yè)未來(lái)
文章出處:【微信號(hào):億鑄科技,微信公眾號(hào):億鑄科技】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
![](https://file1.elecfans.com/web3/M00/06/DA/wKgZO2ePxA2AEaTzAAQet3Edt48898.jpg)
科技云報(bào)到:要算力更要“算利”,“精裝算力”觸發(fā)大模型產(chǎn)業(yè)新變局?
億鑄科技榮登2024創(chuàng)業(yè)邦100未來(lái)獨(dú)角獸榜單
億鑄科技榮獲WISE2024年度最具商業(yè)潛力企業(yè)
企業(yè)AI算力租賃模式的好處
億鑄科技入選畢馬威中國(guó)“芯科技”新銳企業(yè)50強(qiáng)
企業(yè)AI算力租賃是什么
億鑄科技熊大鵬探討AI大算力芯片的挑戰(zhàn)與解決策略
AI算力芯片供電電源測(cè)試?yán)?費(fèi)思低壓大電流系列電子負(fù)載
![<b class='flag-5'>AI</b><b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>芯片</b>供電電源測(cè)試?yán)?費(fèi)思低壓大電流系列電子負(fù)載](https://file1.elecfans.com/web2/M00/0A/2C/wKgZomcbDcyABueIAAESMHl2Bno810.png)
存算一體架構(gòu)創(chuàng)新助力國(guó)產(chǎn)大算力AI芯片騰飛
億鑄科技完成數(shù)億元融資
億鑄科技2024年完成數(shù)億元融資
名單公布!【書(shū)籍評(píng)測(cè)活動(dòng)NO.43】 算力芯片 | 高性能 CPU/GPU/NPU 微架構(gòu)分析
億鑄科技談大算力芯片面臨的技術(shù)挑戰(zhàn)和解決策略
高算力芯片:未來(lái)科技的加速器?
![高<b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>芯片</b>:<b class='flag-5'>未來(lái)</b>科技的加速器?](https://file1.elecfans.com/web2/M00/C2/29/wKgaomXdPgiAaBeDAABaZRmtXsQ543.png)
評(píng)論