AI計(jì)算需求激增，英偉達(dá)H100功耗成挑戰(zhàn)
伴隨著人工智能技術(shù)飛躍式的進(jìn)步，對于計(jì)算機(jī)運(yùn)算能力的需求同樣大幅提升。目前，英偉達(dá)公司的H100芯片銷售火爆。值得關(guān)注的是，單片H100芯片的峰值功率高達(dá)700瓦。隨著此類芯片的廣泛使用，預(yù)計(jì)到2024年末，其總體功耗將相當(dāng)于甚至超越某些歐洲小型國家。
根據(jù)預(yù)測，若H100的年利用率保持在61%，那么單臺(tái)設(shè)備每年將耗電3740千瓦小時(shí)左右。如果英偉達(dá)在2023年售出150萬塊H100，2024年再增加至200萬塊，那么到2024年底，將有350萬塊H100芯片投入使用，其總年用電量將高達(dá)130.91億千瓦小時(shí)（13091.82GWh）。相對而言，一些國家的年平均發(fā)電水平，如格魯吉亞、立陶宛和危地馬拉，也是這個(gè)數(shù)量級。
盡管H100的電力消耗數(shù)字讓人瞠目結(jié)舌，但我們可以看到，AI以及高性能計(jì)算GPU的能效正逐步改善。英偉達(dá)下一代Blackwell架構(gòu)的B100芯片不僅可能擁有超過H100的功耗，而且還能實(shí)現(xiàn)更高的性能表現(xiàn)，從而在相同能耗下完成更多任務(wù)。
很明顯，隨著AI技術(shù)的持續(xù)發(fā)展，如何妥善處理算力與能耗之間的矛盾，成為了未來亟待解決的重大問題。
聲明：本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人，不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用，如有內(nèi)容侵權(quán)或者其他違規(guī)問題，請聯(lián)系本站處理。
舉報(bào)投訴
-
芯片
+關(guān)注
關(guān)注
457文章
51299瀏覽量
427912 -
人工智能
+關(guān)注
關(guān)注
1796文章
47818瀏覽量
240613 -
英偉達(dá)
+關(guān)注
關(guān)注
22文章
3854瀏覽量
92084
發(fā)布評論請先 登錄
相關(guān)推薦
英偉達(dá)A100和H100比較
英偉達(dá)A100和H100都是針對高性能計(jì)算和人工智能任務(wù)設(shè)計(jì)的GPU，但在性能和特性上存在顯著差異。以下是對這兩款GPU的比較： 1. 架構(gòu)
英偉達(dá)H100芯片市場降溫
隨著英偉達(dá)新一代AI芯片GB200需求的不斷攀升，其上一代明星產(chǎn)品H100芯片卻遭遇了市場的冷落。據(jù)業(yè)內(nèi)人士透露，搭載
英偉達(dá)面臨雙重反壟斷調(diào)查挑戰(zhàn)
英偉達(dá)，這家在人工智能芯片領(lǐng)域占據(jù)領(lǐng)先地位的科技公司，近期遭遇了前所未有的挑戰(zhàn)。在享受了數(shù)月由AI芯片需求
英偉達(dá)AI芯片需求激增，封測廠訂單量或翻倍
在全球半導(dǎo)體行業(yè)持續(xù)演進(jìn)的背景下，英偉達(dá)（NVIDIA）的AI芯片需求正迎來前所未有的增長。據(jù)悉，英偉達(dá)
首批1024塊H100 GPU，正崴集團(tuán)將建中國臺(tái)灣最大AI計(jì)算中心
中國臺(tái)灣當(dāng)?shù)卣思瘓F(tuán)5月27日宣布，將與日本公司Ubitus共同打造人工智能（AI）計(jì)算中心，其中第一期將導(dǎo)入128個(gè)機(jī)柜，共計(jì)1024張英偉達(dá)H1
進(jìn)一步解讀英偉達(dá) Blackwell 架構(gòu)、NVlink及GB200 超級芯片
藥物設(shè)計(jì)、量子計(jì)算和生成式 AI 等領(lǐng)域。
為了紀(jì)念杰出的數(shù)學(xué)家David H.Blackwell，英偉達(dá) Blackwell架構(gòu)被明確設(shè)計(jì)
發(fā)表于 05-13 17:16
英偉達(dá)超級計(jì)算機(jī)Eos揭秘
英偉達(dá)將Eos描述為一個(gè)可以為“AI工廠”提供動(dòng)力的系統(tǒng)，因?yàn)樗且粋€(gè)非常大規(guī)模的SuperPod DGX H100系統(tǒng)。
英特爾的最強(qiáng)AI芯片要來了，聲稱性能完勝英偉達(dá)H100
增加了近1.5倍。 與競爭對手的正面對標(biāo)也不落下風(fēng)。英特爾聲稱Gaudi3已全面超越英偉達(dá)去年發(fā)布的H100芯片：運(yùn)行
英偉達(dá)H200帶寬狂飆
英偉達(dá)H200帶寬的顯著提升主要得益于其強(qiáng)大的硬件配置和先進(jìn)的技術(shù)創(chuàng)新。H200配備了高達(dá)141GB的HBM3e顯存，與前代產(chǎn)品H100相比
英偉達(dá)H200顯卡價(jià)格
英偉達(dá)H200顯卡的具體價(jià)格尚未公布。根據(jù)上一代H100顯卡的價(jià)格范圍，預(yù)計(jì)H200的單片價(jià)格將超過40000美元。由于新芯片通常定價(jià)較高，
英偉達(dá)H200和H100的比較
英偉達(dá)H200和H100是兩款不同的AI芯片，它們各自具有獨(dú)特的特點(diǎn)和優(yōu)勢。以下是關(guān)于這兩款芯片的一些比較。
戴爾績后暴漲20% AI服務(wù)器需求激增
盡管面臨先進(jìn)計(jì)算機(jī)芯片供應(yīng)瓶頸，戴爾科技依然努力滿足市場需求。Jeff Clarke表明，盡管需求持續(xù)高漲，但公司看到英偉達(dá)
美光科技啟動(dòng)高帶寬存儲(chǔ)芯片生產(chǎn) 為英偉達(dá)最新AI芯片提供支持
英偉達(dá)下一代H200圖形處理器將采用美光HBM3E芯片，預(yù)計(jì)于今年第2季交付，有望超越現(xiàn)有的H100芯片，為美光科技貢獻(xiàn)更高業(yè)績。此外，龍頭廠商SK海力士等供應(yīng)的
英偉達(dá)：預(yù)計(jì)下一代AI芯片B100短缺，計(jì)劃擴(kuò)產(chǎn)并采用新架構(gòu)
近期熱門的 H100 芯片運(yùn)期短縮數(shù)天后，英偉達(dá)新型 AI 旗艦芯片 B100搭載全新的 Blackwell，有望使
工商網(wǎng)監(jiān)
評論