欧美性猛交xxxx免费看_牛牛在线视频国产免费_天堂草原电视剧在线观看免费_国产粉嫩高清在线观看_国产欧美日本亚洲精品一5区

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線(xiàn)課程
  • 觀(guān)看技術(shù)視頻
  • 寫(xiě)文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

用國(guó)產(chǎn)通用GPU打造中國(guó)版ChatGPT的算力底座

Felix分析 ? 來(lái)源:電子發(fā)燒友網(wǎng) ? 作者:吳子鵬 ? 2023-03-01 01:05 ? 次閱讀

電子發(fā)燒友網(wǎng)報(bào)道(文/吳子鵬)據(jù)國(guó)信證券統(tǒng)計(jì),ChatGPT今年1月的月活躍用戶(hù)超過(guò)1億,用戶(hù)過(guò)億只用了2至3個(gè)月,其速度遠(yuǎn)超過(guò)去的推特、海外版抖音等。ChatGPT爆火之后,如何打造中國(guó)版的ChatGPT成為熱門(mén)話(huà)題,并且與之相關(guān)的AIGC以及其他AI大模型應(yīng)用也都受到廣泛關(guān)注。

作為國(guó)內(nèi)頭部通用GPU高端芯片及超級(jí)算力系統(tǒng)提供商,天數(shù)智芯認(rèn)為,ChatGPT的推廣進(jìn)一步驗(yàn)證了人工智能給工作、生活帶來(lái)很大幫助,甚至不亞于工業(yè)革命的影響,可以親身體驗(yàn)到其帶來(lái)的效率上的提升。這種應(yīng)用是建立在巨大算力模型訓(xùn)練基礎(chǔ)上帶來(lái)的智能處理,因此也帶動(dòng)了0座的需求。

確實(shí),隨著以ChatGPT為代表的AIGC應(yīng)用大火,背后大模型訓(xùn)練所需要的算力也隨之暴漲。統(tǒng)計(jì)數(shù)據(jù)顯示,ChatGPT的總算力消耗約為3640PF-days(即假如每秒計(jì)算一千萬(wàn)億次,需要計(jì)算3640天),整體部署大約需要7-8個(gè)500P算力的數(shù)據(jù)中心。而根據(jù)微軟官網(wǎng)的消息,微軟Azure為OpenAI建設(shè)了一個(gè)單獨(dú)的超算中心,具有超過(guò)28.5萬(wàn)個(gè)CPU核心、1萬(wàn)個(gè)GPU和400 GB/s的GPU服務(wù)器網(wǎng)絡(luò)傳輸帶寬。

從成本上看,ChatGPT就像一個(gè)吞金獸。數(shù)據(jù)顯示,其運(yùn)行一次的費(fèi)用大概需要430萬(wàn)美元。這主要是因?yàn)镃hatGPT背后的預(yù)訓(xùn)練大模型——GPT大模型的GPT-3.5版本是一個(gè)“龐然大物”。目前,GPT-3.5模型的參數(shù)規(guī)模已經(jīng)達(dá)1750億,原始數(shù)據(jù)規(guī)模達(dá)45TB。

天數(shù)智芯表示,目前大模型參數(shù)已經(jīng)突破千億,并有更高的要求,對(duì)于訓(xùn)練芯片的通用性及兼容性有更高的要求。訓(xùn)練芯片要能支持更多的算法及改進(jìn),而且由于算力需求的規(guī)模越來(lái)越大,甚至單個(gè)算力集群無(wú)法滿(mǎn)足,對(duì)于異構(gòu)算力、多集群協(xié)同等方面有更高的要求,進(jìn)而對(duì)于異構(gòu)算力上的兼容性就會(huì)有更高的要求。同時(shí),由于數(shù)據(jù)量的急劇提升,對(duì)于數(shù)據(jù)的隱私保護(hù)也會(huì)有所要求,對(duì)于隱私計(jì)算在訓(xùn)練芯片上的支持也會(huì)有要求。

從微軟對(duì)ChatGPT的介紹能夠看出,這套系統(tǒng)除了模型預(yù)訓(xùn)練和日常運(yùn)行,F(xiàn)inetune模型調(diào)優(yōu)也是關(guān)鍵一環(huán)。因此,確實(shí)如天數(shù)智芯所言,雖然ChatGPT目前的算力規(guī)模和運(yùn)行費(fèi)用很高,但是這些數(shù)字還會(huì)與日俱增。

隨著ChatGPT在全球范圍內(nèi)大火,目前國(guó)內(nèi)眾多科技巨頭也相繼宣布,將推出自己的類(lèi)ChatGPT應(yīng)用。比如國(guó)內(nèi)的百度,根據(jù)百度創(chuàng)始人、董事長(zhǎng)兼首席執(zhí)行官李彥宏在一封名為“百度站在AI浪潮之巔”的內(nèi)部信中表示,百度即將在3月份推出新一代的大語(yǔ)言模型“文心一言”。這也是繼“文心一格”(AI作畫(huà))、“文心百中”(產(chǎn)業(yè)搜索)之后,百度推出的又一大重磅的AI大模型應(yīng)用。

在中國(guó)版ChatGPT不斷涌現(xiàn)后,算力芯片作為供給端核心環(huán)節(jié)將率先受益,而其中又以擁有數(shù)量眾多的計(jì)算單元和超長(zhǎng)的流水線(xiàn)的通用GPU需求最為迫切。天數(shù)智芯表示,大規(guī)模的普及應(yīng)用會(huì)對(duì)大模型算法有更高的要求,很多科研及企業(yè)也投入到大模型算法的研究中,對(duì)于算法模型會(huì)有優(yōu)化和改進(jìn),因此對(duì)于算力底座支持的通用性及擴(kuò)展性有很高要求,因此一定程度上會(huì)降低對(duì)于定制化AI芯片的需求,促進(jìn)通用GPU市場(chǎng)的發(fā)展。

天數(shù)智芯自2021年3月推出云端訓(xùn)練通用GPU產(chǎn)品--天垓100,并于2022年12月推出云端推理通用GPU產(chǎn)品--智鎧100,截止目前,天數(shù)智芯訂單規(guī)模就已經(jīng)突破5億元。目前,基于天垓100訓(xùn)練的模型種類(lèi)超過(guò)了兩百種。天數(shù)智芯表示,公司在訓(xùn)練芯片上堅(jiān)持通用GPU架構(gòu)、主流生態(tài)兼容等發(fā)展路線(xiàn),對(duì)于通用性、兼容性、安全性等方面都進(jìn)行了支持,可以為ChatGPT的發(fā)展提供有效安全的算力底座。

當(dāng)然,正如中信證券在研報(bào)中指出的,目前在通用GPU方面,國(guó)際廠(chǎng)商高精度浮點(diǎn)計(jì)算及CUDA生態(tài)方面還手握核心的技術(shù)壁壘,***和方案在軟硬件方面都還有一定的差距。對(duì)此,天數(shù)智芯回應(yīng)稱(chēng),堅(jiān)持通用GPU發(fā)展的路線(xiàn),全面覆蓋訓(xùn)練和推理兩條產(chǎn)品發(fā)展主線(xiàn)。結(jié)合行業(yè)解決方案為各行業(yè)、各產(chǎn)業(yè)發(fā)展提供完整成熟的軟硬件一體化方案。在未來(lái)的產(chǎn)品發(fā)展上,逐步縮小和國(guó)際先進(jìn)產(chǎn)品的差距,為國(guó)內(nèi)人工智能發(fā)展提供強(qiáng)有力的支持。

從中長(zhǎng)期來(lái)看,ChatGPT的火爆以及中國(guó)版ChatGPT的陸續(xù)推出,對(duì)通用GPU有著巨大的需求。同時(shí),國(guó)內(nèi)AIGC市場(chǎng)將和信創(chuàng)市場(chǎng)出現(xiàn)疊加效應(yīng),讓天數(shù)智芯等相關(guān)廠(chǎng)商長(zhǎng)期收益,并借此機(jī)會(huì)提升產(chǎn)品迭代的速度,逐漸達(dá)到國(guó)際領(lǐng)先水平。

聲明:本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀(guān)點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • gpu
    gpu
    +關(guān)注

    關(guān)注

    28

    文章

    4789

    瀏覽量

    129439
  • ChatGPT
    +關(guān)注

    關(guān)注

    29

    文章

    1571

    瀏覽量

    8118
收藏 人收藏

    評(píng)論

    相關(guān)推薦

    GPU租用平臺(tái)有什么好處

    當(dāng)今,GPU租用平臺(tái)為科研機(jī)構(gòu)、企業(yè)乃至個(gè)人開(kāi)發(fā)者提供了靈活高效的解決方案。下面,AI部落小編帶您深入探討
    的頭像 發(fā)表于 02-07 10:39 ?132次閱讀

    中心會(huì)取代通用中心嗎?

    隨著人工智能(AI)技術(shù)的飛速發(fā)展,計(jì)算需求不斷攀升,數(shù)據(jù)中心行業(yè)正經(jīng)歷著前所未有的變革。傳統(tǒng)的通用中心與新興的智中心之間的競(jìng)爭(zhēng)日益激烈。那么,在這樣的背景下,
    的頭像 發(fā)表于 01-06 14:45 ?192次閱讀
    智<b class='flag-5'>算</b>中心會(huì)取代<b class='flag-5'>通用</b><b class='flag-5'>算</b><b class='flag-5'>力</b>中心嗎?

    首個(gè)國(guó)產(chǎn)萬(wàn)卡集群!賽思時(shí)間同步服務(wù)器助力?“東數(shù)西”甘肅慶陽(yáng)樞紐節(jié)點(diǎn)打造中國(guó)谷」!

    中國(guó)信通院云計(jì)算與大數(shù)據(jù)研究所副所長(zhǎng)栗蔚指出,對(duì)服務(wù)而言,東數(shù)西的本質(zhì)就是能夠把像水和
    的頭像 發(fā)表于 12-27 21:22 ?179次閱讀
    首個(gè)<b class='flag-5'>國(guó)產(chǎn)</b>萬(wàn)卡<b class='flag-5'>算</b><b class='flag-5'>力</b>集群!賽思時(shí)間同步服務(wù)器助力?“東數(shù)西<b class='flag-5'>算</b>”甘肅慶陽(yáng)樞紐節(jié)點(diǎn)<b class='flag-5'>打造</b>「<b class='flag-5'>中國(guó)</b><b class='flag-5'>算</b>谷」!

    【一文看懂】大白話(huà)解釋“GPUGPU

    隨著大模型的興起,“GPU”這個(gè)詞正頻繁出現(xiàn)在人工智能、游戲、圖形設(shè)計(jì)等工作場(chǎng)景中,什么是GPU,它與CPU的區(qū)別是什么?以及到底什么是GPU
    的頭像 發(fā)表于 10-29 08:05 ?1041次閱讀
    【一文看懂】大白話(huà)解釋“<b class='flag-5'>GPU</b>與<b class='flag-5'>GPU</b><b class='flag-5'>算</b><b class='flag-5'>力</b>”

    GPU租用平臺(tái)是什么

    GPU租用平臺(tái)是一種基于云計(jì)算的服務(wù)模式,它允許用戶(hù)通過(guò)互聯(lián)網(wǎng)按需租用高性能GPU資源,而無(wú)需自行購(gòu)買(mǎi)、部署和維護(hù)這些硬件。
    的頭像 發(fā)表于 10-16 10:15 ?318次閱讀

    【「芯片 | 高性能 CPU/GPU/NPU 微架構(gòu)分析」閱讀體驗(yàn)】--全書(shū)概覽

    、GPU、NPU,給我們剖析了芯片的微架構(gòu)。書(shū)中有對(duì)芯片方案商處理器的講解,理論聯(lián)系實(shí)際,使讀者能更好理解芯片。 全書(shū)共11章,
    發(fā)表于 10-15 22:08

    名單公布!【書(shū)籍評(píng)測(cè)活動(dòng)NO.43】 芯片 | 高性能 CPU/GPU/NPU 微架構(gòu)分析

    。本書(shū)對(duì)華為等廠(chǎng)商推出的NPU芯片設(shè)計(jì)也做了架構(gòu)描述,中國(guó)也擁有獨(dú)立自主知識(shí)產(chǎn)權(quán)的高芯片,并且支持多芯片、高帶寬互連。本書(shū)也回顧了近20年來(lái)主流的CPU、GPU芯片架構(gòu)的特點(diǎn),介紹
    發(fā)表于 09-02 10:09

    摩爾線(xiàn)程GPU底座助力大模型產(chǎn)業(yè)發(fā)展

    以大模型為代表的新一代人工智能技術(shù)是引領(lǐng)新一輪科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術(shù)和重要驅(qū)動(dòng)力量,隨著對(duì)需求的日益高漲,人工智能底座公司日
    的頭像 發(fā)表于 08-27 16:15 ?682次閱讀

    服務(wù)器為什么選擇GPU

    隨著人工智能技術(shù)的快速普及,需求日益增長(zhǎng)。智中心的服務(wù)器作為支撐大規(guī)模數(shù)據(jù)處理和計(jì)算的核心設(shè)備,其性能優(yōu)化顯得尤為關(guān)鍵。而GPU服務(wù)器也進(jìn)入了大眾的視野,成為高性能計(jì)算的首選。那
    的頭像 發(fā)表于 07-25 08:28 ?843次閱讀
    <b class='flag-5'>算</b><b class='flag-5'>力</b>服務(wù)器為什么選擇<b class='flag-5'>GPU</b>

    IaaS+on+DPU(IoD)+下一代高性能底座技術(shù)白皮書(shū)

    DPU 是當(dāng)下基礎(chǔ)設(shè)施的核心創(chuàng)新之一。如果把 CPU 比做大腦,那么 GPU 就好比是肌肉,而 DPU 就是神經(jīng)中樞。CPU 承載了應(yīng)用生態(tài),提供了通用
    發(fā)表于 07-24 15:32

    神州鯤泰亮相北京數(shù)字安全大會(huì),以智能構(gòu)筑數(shù)據(jù)安全的堅(jiān)實(shí)底座

    GPU資源虛擬化或池化,完成跨集群之間的調(diào)度;打造異構(gòu)智加速平臺(tái)HICA,屏蔽集群內(nèi)底層
    的頭像 發(fā)表于 07-18 16:06 ?498次閱讀
    神州鯤泰亮相北京數(shù)字安全大會(huì),以智能<b class='flag-5'>算</b><b class='flag-5'>力</b>構(gòu)筑數(shù)據(jù)安全的堅(jiān)實(shí)<b class='flag-5'>底座</b>

    壁仞科技參與中國(guó)移動(dòng)呼和浩特智中心,共筑AI新基石

    的一步,也彰顯了國(guó)內(nèi)企業(yè)在高端GPU技術(shù)研發(fā)與應(yīng)用上的卓越成就。其中,壁仞科技作為國(guó)產(chǎn)GPU領(lǐng)域的佼佼者,以其壁礪?系列通用GPU
    的頭像 發(fā)表于 07-09 09:37 ?806次閱讀

    壁仞科技為中國(guó)移動(dòng)呼和浩特智中心提供強(qiáng)大

    ? 隨著人工智能技術(shù)的飛速發(fā)展,高性能計(jì)算中心成為推動(dòng)AI創(chuàng)新和應(yīng)用的關(guān)鍵基礎(chǔ)設(shè)施。近日,中國(guó)移動(dòng)智中心(呼和浩特)成功上線(xiàn)運(yùn)營(yíng)。國(guó)內(nèi)領(lǐng)先的GPU企業(yè)壁仞科技的壁礪系列通用
    的頭像 發(fā)表于 07-05 17:16 ?1349次閱讀

    中國(guó)電信規(guī)劃在上海建設(shè)首個(gè)國(guó)產(chǎn)超大規(guī)模液冷集群

    中國(guó)電信規(guī)劃建設(shè)首個(gè)國(guó)產(chǎn)超大規(guī)模液冷集群 人工智能技術(shù)的快速發(fā)展催生了巨大的需求;
    的頭像 發(fā)表于 02-22 18:48 ?1364次閱讀