2022年第三季度，英偉達營收達到59.31億美元，其中數(shù)據(jù)中心業(yè)務貢獻了38.3億美元，同比增長31%，再度成為英偉達最強大的收入來源。

作為數(shù)據(jù)中心的「扛把子」芯片，DPU已經(jīng)成為英偉達戰(zhàn)略布局的重中之重。但除了高性能之外，DPU其實還抓住了現(xiàn)代數(shù)據(jù)中心的一個最大痛點：節(jié)能。

在各大科技公司紛紛「降本增效」的2022年，綠色與節(jié)能，比往年受到了更多人的關注。

數(shù)據(jù)中心的最大「殺手」

數(shù)字化經(jīng)濟時代，數(shù)據(jù)成為重要資源。就拿每天都在使用的手機為例，無論是瀏覽各種APP產(chǎn)生的交互，還是瀏覽圖片、播放視頻，抑或是微信端的聊天記錄，本質上都是大量的數(shù)據(jù)。而這些數(shù)據(jù)的傳輸、處理、計算、存儲，很大程度上都需要數(shù)據(jù)中心來完成。

現(xiàn)在，數(shù)據(jù)中心成為匯聚所有數(shù)據(jù)的核心。隨著全球數(shù)據(jù)量的爆發(fā)性增長，數(shù)據(jù)中心的規(guī)模也在不斷擴大。

之前的文章里我們就介紹過，性能早就不是衡量數(shù)據(jù)中心的唯一標準、甚至不是最重要的標準。建設一個現(xiàn)代化數(shù)據(jù)中心，它能提供的算力大小固然重要，但還有很多因素同樣重要，首當其沖的就是：耗電。

全球能源的大部分電能消耗均來自大型數(shù)據(jù)中心。有調查顯示，目前數(shù)據(jù)中心的耗電量占全球發(fā)電量的比例高于1%，而這一占比在美國為 1.8%、在歐洲為 2.7%。在 2015 年有報告數(shù)據(jù)就預計，到 2030 年，數(shù)據(jù)中心消耗的電量占全球發(fā)電量的比例將上升到 8%~13%。

2020年，中國數(shù)據(jù)中心年度用電總量已達至1380億度，占我國全社會用電量的2%。高昂的電費已經(jīng)成為數(shù)據(jù)中心運行成本的大頭，約占60%~70%。

有點諷刺的是，全球經(jīng)濟與科技的發(fā)展，已經(jīng)越來越追求綠色和低碳。但驅動這些技術發(fā)展的數(shù)據(jù)中心，卻成為當今消耗電力和能源最多的場景之一。

問題就來了：如何解決數(shù)據(jù)中心的耗電難題？目前業(yè)界主要有兩種方法。

首先，就是把數(shù)據(jù)中心搬到電費更便宜的地方。比如我國的貴州、內蒙等地，就建了不少數(shù)據(jù)中心，很重要的考慮就是利用當?shù)馗阋说碾娰M，拉低數(shù)據(jù)中心的運營成本。我國現(xiàn)在已經(jīng)開始推進的「東數(shù)西算」工程，一個很重要的考慮也是把更多算力放在更便宜的地方，從而促進國家算力網(wǎng)更加平衡的發(fā)展。

但是不難看出，數(shù)據(jù)中心「搬家」，其實并沒有從根本上解決數(shù)據(jù)中心的高能耗，只是降低了使用能源的成本。所以并不能作為唯一的解決方案。

第二，就是在數(shù)據(jù)中心的架構設計上做文章。常見的方法包括提高冷卻效率、采用智能電源管理系統(tǒng)提高電源使用率、提高每臺機器的負載利用率等等。這些方法在某種程度上觸及到問題的本質，并且可以將數(shù)據(jù)中心的能耗降低不少。

不過隨著數(shù)據(jù)中心的不斷發(fā)展，新的問題又出現(xiàn)了。2012年，業(yè)界首次提出「數(shù)據(jù)中心稅」的概念。它指的是數(shù)據(jù)中心里存在大量「基礎設施」，也就是前面說的對數(shù)據(jù)進行傳輸、存儲、計算的軟硬件。對于用戶來說，這些基礎設施是不可見的，但用戶仍然需要為它們付費。

就像在超市買個面包，它的標價其實包含了面包的成本、運輸、儲藏這一系列費用，甚至也包括超市的電費、房租等這些和面包沒什么關系的費用分攤。

有研究顯示，目前「數(shù)據(jù)中心稅」已經(jīng)達到30%。也就是說，用戶花100元買數(shù)據(jù)中心服務，有30元其實都是花在了數(shù)據(jù)中心的基礎設施成本上。

究其原因，就是傳統(tǒng)的數(shù)據(jù)中心硬件不能滿足日益增長的計算存儲和傳輸需求了，造成了費力不討好的尷尬局面。一方面花了大量資源去支撐基礎設施、造成數(shù)據(jù)中心稅；另一方面，這些投入的資源和算力卻并不是為了基礎設施的功能而設計的，導致運行效率非常低。這也從另一個角度解釋了，為什么數(shù)據(jù)中心耗電量如此巨大的原因，就是沒把好鋼用在刀刃上。

因此，升級數(shù)據(jù)中心硬件、特別是芯片，讓數(shù)據(jù)中心更加綠色高效，就成了國際學術界和工業(yè)界關心的重要課題。

DPU如何實現(xiàn)數(shù)據(jù)中心能效提升

顧名思義，DPU是一種面向數(shù)據(jù)的處理器。2020年，英偉達在GTC 秋季大會上宣布推出BlueField-2 DPU，它集成了大量特定領域專用加速器，專門用來執(zhí)行執(zhí)行網(wǎng)絡、存儲和安全等基礎設施任務的處理。同時，在DPU芯片上擁有比x86 CPU更節(jié)能的Arm CPU核心，主要負責控制類的應用，比如卸載基礎設施應用的控制平面、服務器虛擬化平臺或容器管理軟件的部分功能。

DPU出現(xiàn)的意義，就是為了進一步提升數(shù)據(jù)中心的效率、解決「數(shù)據(jù)中心稅」的難題。具體來說，英偉達將DPU的主要任務總結成了三點：卸載、加速、隔離。

一、卸載，就是將原本在通用CPU上運行的應用，轉移到DPU上來完成，從而實現(xiàn)對CPU的「卸載」，相當于給CPU減了負。比如在數(shù)據(jù)中心里常見的網(wǎng)絡協(xié)議棧的處理，通常都是由CPU上運行的軟件來實現(xiàn)的。相比之下，從智能網(wǎng)卡發(fā)展而來的DPU可以非常直接地連接網(wǎng)絡，也有更強的網(wǎng)絡處理能力。

比如英偉達的BlueField-2 DPU，就能支持200Gbps網(wǎng)絡的線速處理，并且能實現(xiàn)OvS等數(shù)據(jù)中心常見應用。這樣就釋放了寶貴的CPU內核資源給用戶，而不是用來交「數(shù)據(jù)中心稅」，從而極大提升了數(shù)據(jù)中心的資源使用率。

二、加速，就是利用專門的硬件，把卸載下來的應用做的更快、性能更高。說白了，就是不僅把活接下來，還干的比原來還好。

比如，將OvS卸載到BlueField DPU后，服務器的網(wǎng)絡吞吐量從19.8Gbps增至49.3Gbps。不僅在加速網(wǎng)絡吞吐量兩倍多，還釋放了原本用于運行OvS的18個虛擬CPU核心。

從能耗角度來看，一方面可以用耗電更低的DPU芯片實現(xiàn)更高的性能、用更少的服務器完成同樣的工作；另一方面還提高了CPU的利用率，二者結合，自然將服務器的能耗大幅降下來了。根據(jù)英偉達測試的數(shù)據(jù)，采用DPU之后，每臺服務器至少可節(jié)省300-400瓦的耗電量。

除了OvS，在運行數(shù)據(jù)中心基礎設施的其他任務時，DPU也有專門的硬件引擎來用于加速網(wǎng)絡、數(shù)據(jù)加密/解密、密鑰管理、存儲虛擬化和其他任務。DPU 上的CPU核心通常比一般服務器CPU更節(jié)能，并且可以直接訪問網(wǎng)絡管線。

因此，即使一些網(wǎng)絡任務無法通過DPU的專用引擎來加速，DPU核心也能比服務器CPU更高效地執(zhí)行SDN、遙測、深度數(shù)據(jù)包檢查或其他網(wǎng)絡任務。

有了DPU，承載網(wǎng)絡側專用性的網(wǎng)絡堆棧算法和傳輸協(xié)議運算轉移，數(shù)據(jù)中心可以更高效地應對多元化的算力需求，釋放CPU和GPU的算力資源，讓數(shù)據(jù)中心的性能得到進一步優(yōu)化。

三、隔離，就是利用DPU的專用硬件，實現(xiàn)數(shù)據(jù)中心關鍵的安全功能。比如，數(shù)據(jù)中心常見的加密協(xié)議IPsec通常需要CPU或者專用的加密加速器卡來完成。而BlueField DPU就集成了對IPsec的硬件支持，讓關鍵的加解密過程不經(jīng)過CPU，避免多用戶共享CPU和內存時發(fā)生數(shù)據(jù)竊取和攻擊；也不需要額外的專用加密卡，進一步節(jié)省成本。

和CPU相比，采用DPU卸載IPsec之后，每臺服務器耗電量降低21%，可節(jié)電高達140瓦；客戶端也可節(jié)省能耗，最高耗電降低34%，節(jié)電高達247瓦。對于大型數(shù)據(jù)中心而言，這相當于在三年間節(jié)省了近 900 萬美元的電費。

除了上面介紹的三個硬件特點之外，BlueField DPU還提供了DOCA軟件編程框架，它主要分成三個主要模塊，分別是DOCA服務、庫和驅動。此外，DOCA還將實例代碼、文檔、以及預打包容器都集成在一起，可以讓用戶直接對DPU進行編程。

有了這些框架和方法實例，軟件開發(fā)者就不需要管底層的硬件細節(jié)，更不需要再花時間去學習硬件相關的知識和編程方法，而可以專注于自己業(yè)務本身的開發(fā)。

通過采用并部署DPU，可以減少服務器的部署數(shù)量、并降低每臺服務器的耗電量。根據(jù)《NVIDIA BlueField DPU能效白皮書》中的數(shù)據(jù)，擁有1 萬臺服務器的大型數(shù)據(jù)中心三年期間可大幅節(jié)省 2600 萬美元。通過使用 DPU，服務器可節(jié)省 6.3%的資本性支出，由于較低的電力成本，運營性支出又節(jié)省了 46%。

此外，降低服務器耗電量還可以節(jié)省數(shù)據(jù)中心的附加成本，如配電和冷卻等。每瓦進入數(shù)據(jù)中心的電力都需要電源管理硬件。比如，不間斷電源、發(fā)電機（加上燃料輸送和存儲）和配電裝置，消耗的每一瓦電力都會轉變成必須從數(shù)據(jù)中心排放出來的熱量。從下圖中可以看到，高達 40% 的數(shù)據(jù)中心耗電量還專門用于冷卻。因此，服務器端節(jié)省的每一瓦電力都會減少數(shù)據(jù)中心冷卻裝置所需的電量，以及供電和散熱所需的資產(chǎn)設備數(shù)量。

結語

當下，全球DPU市場已經(jīng)迎來爆發(fā)式增長。據(jù)賽迪顧問預計，中國DPU產(chǎn)業(yè)市場規(guī)模將在2025年超過565.9億元，復合增速達到 51.73%，而全球DPU產(chǎn)業(yè)市場規(guī)模更加龐大，將超過245.3億美元，復合增速高達至170.60%。

除了高性能和安全性的考慮，低功耗也逐漸成為DPU新的核心需求。通過DPU實現(xiàn)數(shù)據(jù)中心的綠色發(fā)展，已經(jīng)逐漸成為提高數(shù)據(jù)中心效率、降低能耗的大勢所趨。

想了解更多DPU在數(shù)據(jù)中心里的能耗優(yōu)勢，掃描二維碼獲取 NVIDIA BlueField DPU 能效白皮書。

審核編輯 ：李倩