2017年12月，IBM推出首個(gè)為AI而生的服務(wù)器CPU POWER9，旨在為數(shù)據(jù)密集型人工智能工作負(fù)載管理自由流動(dòng)數(shù)據(jù)、流傳感器及算法。該處理器采用14納米技術(shù)，嵌入80億個(gè)晶體管。

POWER9試圖通過(guò)最新的技術(shù)和聯(lián)盟來(lái)解決系統(tǒng)短板——異構(gòu)處理器是否有足夠的帶寬與系統(tǒng)的其它部分進(jìn)行通信。

從通用CPU到AI定制CPU，POWER9代表了CPU行業(yè)在AI領(lǐng)域的發(fā)展趨勢(shì)。

對(duì)于云端AI芯片市場(chǎng)，小公司只能覬覦，這是一場(chǎng)屬于寥寥可數(shù)大公司的權(quán)利游戲，云端發(fā)展不只需要有高運(yùn)算力的芯片，還得營(yíng)造出生態(tài)系，基本上供應(yīng)商就是這幾家巨頭。但對(duì)于終端市場(chǎng)，能實(shí)現(xiàn)更小功耗、更低成本的xPU與ASIC將成為主流。這就注定通用AI芯向?qū)Ｓ肁I芯發(fā)展的趨勢(shì)。

AI通用芯玩法

CPU & GPU

黃仁勛曾表示：GPU不會(huì)替代CPU，它是攜手和CPU共同工作的，這也是我們?yōu)槭裁窗阉Q之為加速器，CPU是通用型的，什么場(chǎng)景都可以適用。但是GPU在一些專門的問(wèn)題上是能量非常大的。它的性能要比CPU超過(guò)10倍，50倍甚至百倍。最完美的架構(gòu)就是“萬(wàn)事皆能的CPU”+“勝任重大計(jì)算挑戰(zhàn)的GPU”。

我們先來(lái)看看CPU與GPU的對(duì)比情況：

英特爾CPU與英偉達(dá)GPU性能對(duì)比圖

CPU功能模塊很多，能適應(yīng)復(fù)雜運(yùn)算環(huán)境；GPU構(gòu)成相對(duì)簡(jiǎn)單，對(duì)Cache需求小，大部分晶體管可以組成各類專用電路、多條流水線，使得GPU的計(jì)算速度有了突破性的飛躍，擁有了更強(qiáng)大的處理浮點(diǎn)運(yùn)算的能力。

CPU與GPU結(jié)構(gòu)對(duì)比示意圖

GPU未來(lái)的主攻方向是高級(jí)復(fù)雜算法和通用性人工智能平臺(tái)。但GPU無(wú)法單獨(dú)工作，必須由CPU進(jìn)行控制調(diào)用才能工作。這也就是黃仁勛為何強(qiáng)調(diào)“CPU+GPU”的模式了。

CPU向AI發(fā)力的重要一大方向就是加速了CPU和GPU、FPGA甚至TPU之間的通信。POWER9也印證了這一觀點(diǎn)，POWER9將加速POWER和GPU、FPGA、TPU之間的合作。比如支持最新的英偉達(dá)Nvida NVLINK技術(shù)，可大幅提升GPU與CPU之間的數(shù)據(jù)交換速度。

GPU未來(lái)的主攻方向是高級(jí)復(fù)雜算法和通用性人工智能平臺(tái)。

FPGA

FPGA兼顧了低功耗和高運(yùn)算能力的優(yōu)勢(shì)，F(xiàn)PGA在AI領(lǐng)域的優(yōu)勢(shì)是加速和異構(gòu)計(jì)算，比如騰訊云的FPGA加速可以實(shí)現(xiàn)比通用CPU型服務(wù)器快30倍的性能。

FPGA和GPU未來(lái)在超級(jí)數(shù)據(jù)中心將成主流應(yīng)用，尤其是在深度學(xué)習(xí)方面，在這方面GPU強(qiáng)在訓(xùn)練，而FPGA強(qiáng)在推斷。

賽靈思曾表示：伙伴廠商利用FPGA芯片進(jìn)行基因體定序與優(yōu)化語(yǔ)音識(shí)別所需的深度學(xué)習(xí)，察覺FPGA的耗能低于GPU且處理速度較快。相較于GPU只能處理運(yùn)算，F(xiàn)PGA能以更快速的速度一次處理所有與AI相關(guān)的信息。

DSP

DSP是AI通用芯里面最低調(diào)的，或者說(shuō)最受重視的。

我們先來(lái)看看驍龍845如何發(fā)揮AI實(shí)力吧。

與華為、蘋果采用ASIC方式來(lái)不同，高通驍龍845利用基于分布式架構(gòu)的神經(jīng)網(wǎng)路處理引擎（SNPE），運(yùn)行在驍龍異構(gòu)平臺(tái)的CPU、GPU、DSP等每一個(gè)單元上。

Hexagon 685 DSP不僅只是一塊用于處理語(yǔ)音和音頻的解碼器，由于采用了異步計(jì)算架構(gòu)，支持矢量計(jì)算，因此可用于AI以及神經(jīng)運(yùn)算，在虛擬現(xiàn)實(shí)、增強(qiáng)現(xiàn)實(shí)、圖像處理、視頻處理、計(jì)算視覺等功能中發(fā)揮作用。

DSP核心主要供貨商CEVA認(rèn)為，若要在嵌入式系統(tǒng)中實(shí)現(xiàn)CNN（卷積神經(jīng)網(wǎng)絡(luò)），DSP將能取代GPU和CPU，因CNN在本質(zhì)上，就十分適合運(yùn)用DSP。

DSP能夠?qū)崿F(xiàn)平行處理，核心利用率高。據(jù)悉，相較GPU只能達(dá)到40～50%的使用率，DSP甚至達(dá)到90%以上的核心使用率。業(yè)內(nèi)專家表示，對(duì)于一些應(yīng)用場(chǎng)景，以DSP架構(gòu)驅(qū)動(dòng)的CNN引擎，在成本與功耗上皆具優(yōu)勢(shì)。

關(guān)于AI通用芯的情況就講完了。

回顧2017，我們發(fā)現(xiàn)我國(guó)的AI芯熱主要集中于半定制化芯片與全定制化ASIC芯片領(lǐng)域。與非網(wǎng)友關(guān)于“集成電路最難攻克的環(huán)節(jié)（芯片），在AI大環(huán)境下，一切都變得那么EASY？”的問(wèn)題，我們將在下期《AI發(fā)現(xiàn)》中找出答案。