GPU應(yīng)用因AI開始有了截然不同的新轉(zhuǎn)變，不只讓一些支援高度平行運算應(yīng)用的高階GPU相繼問世，現(xiàn)在連整套GPU深度學(xué)習(xí)專用服務(wù)器也搶灘登陸，要助企業(yè)加快AI應(yīng)用。

　　AI人工智慧、虛擬/擴(kuò)增實境（VR/AR）與自動駕駛技術(shù)，在過去一年引起很高的市場關(guān)注，而一舉躍升成為當(dāng)前最火紅的熱門話題，特別是以深度學(xué)習(xí)（Deep Learning）為首的AI應(yīng)用，過去幾個月來，因為Google的AI電腦AlphaGo接連大敗歐洲和南韓國圍棋棋王，更在全世界吹起一股AI風(fēng)潮，使得現(xiàn)在不只有大型科技或網(wǎng)路公司要大力投資AI，就連各國政府也都要砸重金扶植AI產(chǎn)業(yè)。

　　目前一些大型科技或網(wǎng)路業(yè)者，例如Google、Facebook、亞馬遜AWS、IBM、微軟與百度等，都陸續(xù)已在云端服務(wù)中融入AI服務(wù)，做為電腦視覺、語音辨識和機(jī)器人等服務(wù)用途，甚至，也開始有越來越多規(guī)模較小的新創(chuàng)或網(wǎng)路公司，如Api.ai、Drive. ai、Clarifai與MetaMind等，打算將AI開始應(yīng)用在各行各業(yè)的領(lǐng)域上。

　　GPU開始在AI應(yīng)用逐漸嶄露頭角

　　然而，決定這些AI服務(wù)能不能獲得更好發(fā)揮的關(guān)鍵，不只得靠機(jī)器學(xué)習(xí)的幫忙，甚至得借助深度學(xué)習(xí)的類神經(jīng)演算法，才能加深A(yù)I未來的應(yīng)用。這也使得近年來，GPU開始在一些AI應(yīng)用當(dāng)中逐漸嶄露頭角。這是因為不論是AI、VR/AR，還是自動駕駛技術(shù)的應(yīng)用，雖然各有不同用途，但他們普遍都有一個共同的特色，都是需要大量平行運算（Parallel Computing）的能力，才能當(dāng)作深度學(xué)習(xí)訓(xùn)練模型使用，或者是將圖形繪制更貼近真實呈現(xiàn)。

　　所謂的平行運算泛指的是將大量且密集的運算問題，切割成一個個小的運算公式，而在同時間內(nèi)并行完成計算的一種運算類型。而GPU則是最能夠?qū)⑵叫羞\算發(fā)揮到極致的一大關(guān)鍵，這是因為GPU在晶片架構(gòu)上，原本就被設(shè)計成適合以分散式運算的方式，來加速完成大量且單調(diào)式的計算工作，例如圖形渲染等。所以，過去像是高細(xì)膩電玩畫面所需的大量圖形運算，就成為了GPU最先被廣為運用的領(lǐng)域，現(xiàn)在，VR/AR則是進(jìn)一步打算將原本就擅于繪圖運算的GPU發(fā)揮得更淋漓盡致，來呈現(xiàn)出高臨場感的3D虛擬實境體驗。

　　當(dāng)然在游戲繪圖運算外，后來GPU也被拿來運用在需要大量同質(zhì)計算的科學(xué)研究中使用。甚至近年來，GPU也開始因為深度學(xué)習(xí)的關(guān)系，而在一些AI應(yīng)用當(dāng)中擔(dān)任重要角色。

　　深度學(xué)習(xí)其實是機(jī)器學(xué)習(xí)類神經(jīng)網(wǎng)路的其中一個分支，深度學(xué)習(xí)本身是由很多小的數(shù)學(xué)元件組合成一個復(fù)雜模型，就像是腦神經(jīng)網(wǎng)路一般，可以建構(gòu)出多層次的神經(jīng)網(wǎng)路模型，來分別處理不同層次的運算工作，這些神經(jīng)網(wǎng)路本身并不做判斷，只重覆相同計算工作，使得GPU在深度學(xué)習(xí)方面可以獲得很好的發(fā)揮，而隨著網(wǎng)路、云端和硬體技術(shù)成熟所帶來巨量的資料，也造就了現(xiàn)在所需完成訓(xùn)練的深度學(xué)習(xí)模型，比起以前更需要大量高階GPU的平行運算能力，才足以應(yīng)付得了。

　　GPU平行運算性價比贏過CPU

　　因為AI、VR/AR與自駕車應(yīng)用需求提高后，也促使GPU重要性與日俱增，甚至為了因應(yīng)深度學(xué)習(xí)與AI應(yīng)用趨勢，新世代GPU反而希望盡可能在晶片中裝入了更多電晶體和核心數(shù)，來提高大量同性質(zhì)的資料計算能力。若是以Nvidia新的Tesla P100系列的GPU加速器產(chǎn)品來舉例說明的話，在這個GPU加速器內(nèi)總共裝有3，584個CUDA核心數(shù)（單精度條件下），其內(nèi)含的電晶體數(shù)更一舉超過了150億顆，數(shù)量幾乎是前一代Tesla M40 GPU的翻倍，在雙精度條件下的浮點運算能力，更高達(dá)有5.3 TFLOPs。

　　當(dāng)然GPU之外，CPU本身也具有計算處理的能力，不過在處理平行運算時，***大學(xué)資工系副教授洪士灝認(rèn)為，GPU的CP值（性價比）比CPU還要高。這是因為GPU原本就擅長處理大量高同質(zhì)性的資料計算工作，而CPU則擅于通用型任務(wù)的資料處理，所以對于一些需要大量單調(diào)式運算工作的應(yīng)用，就很適合使用GPU來執(zhí)行，例如利用深度學(xué)習(xí)神經(jīng)網(wǎng)路訓(xùn)練模型來實現(xiàn)AI應(yīng)用，或者是用繪圖運算呈現(xiàn)VR/AR所需的高細(xì)膩畫面，都很適合用GPU的方式來進(jìn)行計算。

　　另外從Nvidia官方所公布的一份CUDA C Programming Guide設(shè)計指南中也揭露了在2013年前的過去10年間，GPU與CPU兩者在單精度與雙精度浮點運算（Floating-Point Operations Per Second，F(xiàn)LOPS）發(fā)展的比較差異。整體來看，GPU與CPU發(fā)展越到后期，兩者在浮點運算處理能力的差距，有逐漸被拉大的趨勢，這是因為越到后面才推出的新款GPU，更加強(qiáng)調(diào)浮點運算的重要性，而盡可能要提高GPU浮點運算的處理能力。所以，現(xiàn)在許多超級電腦內(nèi)都有使用GPU，來大幅提高浮點運算的實力。

　　從Nvidia官方所公布的一份CUDA C Programming Guide設(shè)計指南中也部分揭露了在2013年前的過去10年間，GPU與CPU兩者在單精度與雙精度浮點運算發(fā)展的比較差異。

　　整體來看，GPU與CPU發(fā)展越到后期，兩者在浮點運算處理能力的差距，有逐漸被拉大的趨勢，這是因為越到后面才推出的新款GPU，更加強(qiáng)了浮點運算的能力。

　　今年GTC大會聚焦AI、VR/AR與無人汽車應(yīng)用

　　今年在美國圣荷西舉行的GTC技術(shù)大會（GPU Technology Conference），也因為AI、VR/AR、無人汽車的關(guān)系而格外備受矚目。今年總共吸引了全球超過5千人參加，更有將近上百位的全球媒體、分析師到場，還有多達(dá)2百家廠商參展，規(guī)模是歷年來最大。而做為主辦方的Nvidia今年氛圍也很不一樣，Nvidia不僅在現(xiàn)場同時發(fā)布多款與深度學(xué)習(xí)和AI有關(guān)GPU新品，還針對了原本就擅長的VR/AR與自動駕駛應(yīng)用領(lǐng)域推出了新的開發(fā)工具和產(chǎn)品，希望就此能讓VR/AR與自動駕駛可以更進(jìn)一步應(yīng)用。

　　也正因為AI、VR/AR與自駕車讓GPU的應(yīng)用更廣了，因而造就了GPU在這次GTC大會扮演的重要性和應(yīng)用性明顯提高不少，特別是AI與深度學(xué)習(xí)的應(yīng)用方面，今年更成為會場上最炙手可熱的技術(shù)話題，在為期4天超過240場大小場的GPU主題講座中，有半數(shù)以上都圍繞著AI與深度學(xué)習(xí)而打轉(zhuǎn)，這還不包括了來自2位人工智慧界的重量級AI大師，分別是IBM人工智慧研究和技術(shù)策略的IBM Watson 技術(shù)長Rob High與豐田汽車研究機(jī)構(gòu)執(zhí)行長Gill Pratt，今年都親自到場分享他們所觀察到的最夯AI技術(shù)和應(yīng)用新進(jìn)展。

　　Nvidia執(zhí)行長黃仁勛在今年主題演說中也強(qiáng)調(diào)GPU未來角色的重要性，將替深度學(xué)習(xí)與AI開啟一種前所未有的全新運算模式（Computing Model），將促使深度學(xué)習(xí)成為未來企業(yè)甚至每個人，都不能加以忽視的大事（Big Deal ），甚至將開啟另一種AI即平臺的新服務(wù)模式（AI-as-a-Platform）。而為了搶攻AI與深度學(xué)習(xí)市場，Nvidia今年甚至還罕見地，首度發(fā)表世上第一臺整套式深度學(xué)習(xí)專用的超級電腦DGX-1。

　　Nvidia執(zhí)行長黃仁勛在今年主題演說中數(shù)度強(qiáng)調(diào)GPU未來角色的重要性，將替深度學(xué)習(xí)與AI開啟一種前所未有的全新運算模式（Computing Model），將促使深度學(xué)習(xí)成為未來所有企業(yè)甚至每個人，都不能加以輕忽的大事（Big Deal ），甚至帶來一種AI即平臺的新服務(wù)模式（AI-as-a-Platform）。而為了搶攻AI與深度學(xué)習(xí)市場，Nvidia今年甚至還罕見地，首度發(fā)表世上第一臺整套式深度學(xué)習(xí)專用的超級電腦DGX-1。

　　AI專用服務(wù)器將助企業(yè)加快深度學(xué)習(xí)應(yīng)用

　　Nvidia在這臺深度學(xué)習(xí)專用的超級電腦DGX-1內(nèi)，使用了服務(wù)器專用的GPU加速器Tesla P100為基礎(chǔ)而打造完成，Tesla P100采用了新一代Pascal架構(gòu)設(shè)計，比前一代Maxwell架構(gòu)的GPU加速器，在用來訓(xùn)練神經(jīng)網(wǎng)路的效能方面，Nvidia宣稱，Tesla P100足足有提升12倍之多。

　　Nvidia在這組超級電腦內(nèi)總共裝入8張Tesla P100加速卡，使得DGX-1在半精度（FP16）的浮點運算次數(shù)每秒高達(dá)有170TFLOPS，如此高度的運算能力，Nvidia甚至宣稱，只要有了DGX-1，就等同于擁用了250臺x86服務(wù)器而搭建的運算叢集規(guī)模，將有助于企業(yè)在深度學(xué)習(xí)方面獲得更好的應(yīng)用效果。

　　而靠著DGX-1的高度運算能力，也因而縮短了過去用來做為深度學(xué)習(xí)訓(xùn)練所需花費的冗長時間，若以單組2路Xeon E5服務(wù)器和DGX-1進(jìn)行比較的話，根據(jù)Nvidia測試的結(jié)果，在做為AlexNet機(jī)器學(xué)習(xí)的模型訓(xùn)練方面，DGX-1完成訓(xùn)練所花費的時間要遠(yuǎn)比Xeon E5服務(wù)器還快許多，Xeon級服務(wù)器得要花150小時才能做完的訓(xùn)練，DGX-1只須2小時就能完成。若以訓(xùn)練機(jī)器辨識照片來舉例的話，所代表的是，每天被喂給DGX-1機(jī)器做訓(xùn)練的照片，數(shù)量高達(dá)有13億張。

　　除了GPU以外，這臺DGX-1還有配置了一個2路Xeon E5 CPU處理器，系統(tǒng)記憶體部分最大則可支援512GB DDR4的記憶體容量，并也配備有7TB大小的SSD硬碟，至于電力供給部份則是使用一臺3U高度3，200瓦的電源供應(yīng)設(shè)備，還支援了NVLink 混合式立方網(wǎng)格 （NVLink Hybrid Cube Mesh）技術(shù)，可提供更高速GPU互連的能力，網(wǎng)路部分則提供了雙10GbE連接埠和一個100Gb的Quad InfiniBand高速網(wǎng)路介面，而使得每臺DGX-1機(jī)器的總傳輸頻寬，每秒最高可達(dá)768GB。

　　不僅如此，Nvidia在這臺DGX-1中加入許多新的深度學(xué)習(xí)軟體功能，像是新增加的Nvidia深度學(xué)習(xí)GPU訓(xùn)練系統(tǒng)（Deep Learning GPU Training System，DIGITS），可用來協(xié)助企業(yè)設(shè)計一個完整且互動的神經(jīng)網(wǎng)路，還支援了 CUDA深度神經(jīng)網(wǎng)路圖庫（CUDA Deep Neural Network library，cuDNN ）的v5新版本，可用來做為設(shè)計神經(jīng)網(wǎng)路時可供GPU加速的函式圖庫。DGX-1系統(tǒng)內(nèi)也提供了一些深度學(xué)習(xí)優(yōu)化的框架，例如Caffe、Theano與Torch等，另還搭配一套云端管理存取的工具和一個容器應(yīng)用儲存庫（Repository ）。

　　Nvidia這臺深度學(xué)習(xí)專用的超級電腦DGX-1，主要是使用了服務(wù)器專用GPU加速器Tesla P100來打造完成的AI專用服務(wù)器，因而在這臺機(jī)器內(nèi)總共裝入8張Tesla P100加速顯卡，使得DGX-1在半精度（FP16）的浮點運算次數(shù)每秒可高達(dá)170TFLOPS，如此高度的運算能力，Nvidia甚至宣稱，這幾乎等同于用250臺x86服務(wù)器而搭建的運算叢集規(guī)模，將助企業(yè)獲得更好的深度學(xué)習(xí)作用。

　　GPU將擠身成為AI服務(wù)器界的一線主角

　　而從Nvidia這次所發(fā)布DGX-1的銷售策略來看，除了要積極搶攻深度學(xué)習(xí)與AI市場外，也不難看出Nvidia想要透過推出整套式AI專用的GPU服務(wù)器，好讓自己也開始變身成為一家能提供特殊GPU解決方案的服務(wù)器供應(yīng)商。

　　而這樣的作法所帶來的其中一個改變，便是也開始讓GPU應(yīng)用位置有了截然不同以往的轉(zhuǎn)變。相較于過去GPU只在游戲或研究領(lǐng)域受到重視，但在服務(wù)器應(yīng)用當(dāng)中，GPU始終淪為配角，CPU才是主角，CPU處理器規(guī)格決定了一臺服務(wù)器工作效能的高低，但現(xiàn)在，在一些特殊深度學(xué)習(xí)或AI專用的服務(wù)器當(dāng)中，GPU受重視的程度有時反而還高過了CPU，GPU反倒竄升成為一線主角。

　　以前，CPU是服務(wù)器效能高低的關(guān)鍵，但現(xiàn)在，在這些深度學(xué)習(xí)或AI等特定用途的服務(wù)器當(dāng)中，GPU則是變成了關(guān)鍵，GPU擁有的核心數(shù)量多寡，決定了能不能將深度學(xué)習(xí)與AI更進(jìn)一步延伸應(yīng)用，CPU反而變成了配角，兩者位置恰恰好顛倒了過來，不過這種情況，目前只有在一些特殊運算用途的AI設(shè)備中才看得到，但也確實反應(yīng)了GPU應(yīng)用位置，正在逐漸改變當(dāng)中。

　　當(dāng)然，除了AI與深度學(xué)習(xí)需要用到GPU外，另一個需要用到GPU的VR/AR應(yīng)用也成為今年GTC大會的另一大熱門焦點。除了現(xiàn)場有Nvidia技術(shù)人員展示結(jié)合GPU技術(shù)的各類VR應(yīng)用外，展區(qū)內(nèi)也設(shè)有VR Village體驗區(qū)，參加者可以現(xiàn)場試用Oculus與HTC Vive這兩款已正式出售的VR頭戴式裝置，現(xiàn)場體驗VR帶來的沉浸式視覺效果。

　　而從這些VR展示體驗當(dāng)中，也說明了VR技術(shù)已開始跨入大眾化的實用階段，而且不只運用在游戲娛樂領(lǐng)域，其他專業(yè)領(lǐng)域也開始能與VR結(jié)合，像是Nvidia在這次大會中就推出了一個Iray VR新應(yīng)用，能將原本設(shè)計好的3D場景或物件模型，經(jīng)過Iray渲染技術(shù)，在虛擬實境中呈現(xiàn)貼近真實情境的影像渲染效果，讓VR不只是當(dāng)作游戲使用而已，未來就連設(shè)計后的3D制圖也能用VR渲染技術(shù)呈現(xiàn)。當(dāng)然在持續(xù)提高VR影像畫面細(xì)膩度和更快速的即時反應(yīng)的同時， VR技術(shù)的下一步也需要搭配更高階的GPU，才能達(dá)到更深度沉浸式的高臨場感體驗。

　　除此之外，在無人汽車應(yīng)用方面也有新進(jìn)展。Nvidia將參與協(xié)助打造首輛賽車用的無人汽車的計畫，將采用Nvidia自動駕駛平臺Drive PX2做為汽車電腦系統(tǒng)核心，未來這輛無人賽車完成以后，重量預(yù)估將達(dá)1噸重，并且將會參加即將在2016至2017年賽季，由Formula E電動方程式首度舉辦的Roborace無人駕駛賽事。這場無人賽車比賽，預(yù)估將會有10支隊伍，共20輛的無人汽車參賽，共同在同個賽車場上較勁。每輛無人賽車硬體配備都完全相同，所以最后決勝關(guān)鍵將決定于哪只隊伍可以運用機(jī)器學(xué)習(xí)，甚至借助深度學(xué)習(xí)的類神經(jīng)演算法，盡可能提高駕駛判斷的預(yù)測能力，才能做到在以毫秒為競速單位的賽車場上稱王。

　　Nvidia這次還首度用VR來呈現(xiàn)火星地理環(huán)境，讓穿戴者可以沉浸在有如真實火星圍繞的視覺感受當(dāng)中，這些環(huán)境資料都是從搜集科學(xué)專用衛(wèi)星的精確影像資料，以及火星任務(wù)取得數(shù)年的探測數(shù)據(jù)，所建構(gòu)出貼近火星地形和氣候的虛擬實境。Nvidia執(zhí)行長黃仁勛現(xiàn)場還與蘋果共同創(chuàng)辦人Steve Wozniak遠(yuǎn)端視訊連線，并邀請他現(xiàn)場示范如何用VR來玩火星探險游戲，沒想到Steve Wozniak卻顧不得旁人，自己就在現(xiàn)場玩開了 ，惹得現(xiàn)場笑聲一片，連人稱科技頑童的他也難以抵擋VR的魅力，也正說明了VR技術(shù)已開始走入實用階段。