2016年3月，Google AlphaGo在與韓國九段棋手李世石進行的圍棋比賽中，以4:1的絕對優(yōu)勢完勝；2018年底，Google AlphaStar與兩位世界頂尖游戲玩家在《星際爭霸(StartCraft II)》中展開對決，最終以兩個5:0的成績橫掃對手。盡管早在1997年，IBM開發(fā)的計算機程序“深藍”就戰(zhàn)勝了當時的國際象棋特級大師加里·卡斯帕羅夫，但考慮到國際象棋的下法難度遠遠低于圍棋，所以AlphaGo的勝利在某種程度上也被視作“AI時代的真正來臨”。

AI的起源

1955年到1956年間，時任Dartmouth學院助理教授的John McCarthy，也是后來世界公認的AI教父，與來自哈佛大學的Marvin Minsky、IBM的Claude Shannon、以及美國貝爾實驗室的Nathaniel Rochester，首次共同定義了“人工智能(AI)”的概念，即：

“如果任何的機器通過不一樣的語言，就可以將抽象的事務(wù)或概念表達出來，并且通過這個抽象的概念去幫助人們解決現(xiàn)有的問題，或者是它本身可以通過自主學習不斷地精進，我們就將其稱之為AI?！? 或者用更精煉的話語進行陳述，那就是：當任何機器的行為模式與人一樣時，我們就稱它是“智能(intelligent)”的。 如此寬泛的定義自然帶來了與之對應(yīng)的寬泛應(yīng)用。除了下棋與游戲，在自動駕駛領(lǐng)域，美國部分地區(qū)已經(jīng)開放了Level 4級別的測試，相信真正的Level 5級別自動駕駛也是指日可待，而要保障車輛和行人的安全，我們依賴的除了法律法規(guī)，還有AI算法的開發(fā)者；而在IoT應(yīng)用領(lǐng)域，傳感、智能手機、網(wǎng)絡(luò)搜索、人臉/汽車牌照識別、智能表計、機器視覺、工業(yè)控制……AI正變得無處不在，讓工作和生活變得更加便捷與智慧。

IDC的統(tǒng)計數(shù)據(jù)顯示，2020年到2021年間，全球AI服務(wù)的年復合增長率達到了17.4%，預(yù)計到2024年，這一數(shù)字將上升至18.4%，市值約為378億美元。這其中包括了定制化的應(yīng)用和針對定制化平臺所提供的相關(guān)支持與服務(wù)，例如一些深度學習架構(gòu)、卷積神經(jīng)網(wǎng)絡(luò)、與AI相關(guān)的芯片產(chǎn)品(CPU、GPU、FPGA、TPU、ASIC)等。

同樣是來自IDC的數(shù)據(jù)，全球數(shù)據(jù)儲存量將從2018年的33ZB猛增到2025年的175ZB，這其中超過50%都來自IoT設(shè)備。如果考慮到2025年，全球?qū)渴鸺s140億部IoT設(shè)備，那么我們似乎就應(yīng)該大量地增加云端的計算單元數(shù)量與算力，才能應(yīng)對海量的數(shù)據(jù)增長。 不過，事實并非如此，這一想法顯然沒有顧及到從終端到云端的數(shù)據(jù)傳輸鏈條中面臨的帶寬、時間延遲等事實性挑戰(zhàn)，這也是為什么“邊緣計算”能夠得以迅速崛起的原因。 因為我們最終發(fā)現(xiàn)，隨著IoT設(shè)備的快速增加，一味增加帶寬和服務(wù)器數(shù)量的做法并非最優(yōu)，不少應(yīng)用完全可以在端側(cè)設(shè)備中加以實現(xiàn)，而不必把所有數(shù)據(jù)都放到云端去進行處理和傳輸、存儲和分析，這是不適合的。比如在工業(yè)自動化領(lǐng)域，數(shù)據(jù)存儲距離一定要近才有效率；5G移動設(shè)備制造商如果不強化終端側(cè)人工智能并進行計算-存儲架構(gòu)更改，將會遭遇嚴重的電池壽命問題。 隱私安全，是另一個值得我們重視的環(huán)節(jié)，尤其是在當前萬物互聯(lián)的時代，機密資料/數(shù)據(jù)外泄或是遭到黑客入侵的事件屢有發(fā)生。如果我們能讓計算在邊緣側(cè)發(fā)生，節(jié)省“云-管-端”通路中數(shù)據(jù)傳輸?shù)拇螖?shù)，那么，在確保數(shù)據(jù)和網(wǎng)絡(luò)安全的同時，也降低了功耗和系統(tǒng)總擁有成本。

不同AI芯片的比較

眾所周知，AI技術(shù)根據(jù)應(yīng)用不同被分為“訓練(Training)”和“推理(Inference)”兩大類，前者主要在云端由CPU、GPU、TPU負責執(zhí)行，目的是不斷增加數(shù)據(jù)庫資源以建立數(shù)據(jù)模型；后者則比較適合應(yīng)用于邊緣裝置和特定應(yīng)用，常由ASIC、FPGA類芯片進行處理，依托已經(jīng)訓練好的數(shù)據(jù)模型進行推理。

如前文所述，與AI相關(guān)的芯片產(chǎn)品包括CPU、GPU、FPGA、TPU、ASIC等多種類型。華邦電子閃存產(chǎn)品企劃處黃仲宇從五個維度對上述不同的芯片類型進行了概略性的初步比較，包括算力(Computing)、軟件靈活性(Flexibility)、硬件兼容性(Compatibility)、功耗(Power)和成本(Cost)。

01

CPU

CPU發(fā)展多年，運算能力強大，在軟硬件兼容性方面首屈一指。但是，由于受到馮·諾伊曼架構(gòu)的限制，數(shù)據(jù)需要在內(nèi)存和處理器之間不斷往復傳輸，所以限制了處理的平均速度、且在功耗和成本表現(xiàn)上相較其他方案不是最好的，處于折中的位置。

02

GPU

以Nvidia GPU為例，由于采用了“Compute Unifiled Device Architecture”架構(gòu)，且自身計算單元數(shù)量眾多，使得GPU不但能夠任意讀取內(nèi)存的位置，而且還可通過虛擬內(nèi)存的共用加速計算能力，盡管同樣受到馮·諾伊曼架構(gòu)的限制，但其平均算力超過CPU幾十倍甚至上千倍。

GPU同樣發(fā)展多年，軟硬件兼容性好，但在功耗與成本表現(xiàn)上仍有改善空間，此外還須考慮硬件上的投資，如額外加裝冷卻系統(tǒng)以降低發(fā)熱。

03

ASIC芯片

ASIC芯片是針對特定應(yīng)用開發(fā)出來的產(chǎn)品，在經(jīng)過驗證調(diào)整之后運算能力、整體功耗和成本可以達到最佳水平。

04

FPGA

FPGA同樣發(fā)展多年，軟硬件兼容方面值得稱贊，整體算力、成本和功耗即便不是最佳水平，但也不失為一個不錯的折中解決方案，對開發(fā)者來說，從FPGA入手切入AI芯片開發(fā)是個不錯的角度。

突破馮·諾依曼架構(gòu)瓶頸

在傳統(tǒng)計算設(shè)備廣泛采用的馮·諾依曼架構(gòu)中，計算和存儲功能不但是分離的，而且更側(cè)重于計算。數(shù)據(jù)在處理器和存儲器之間不停的來回傳輸，消耗了約80%的時間和功耗。學術(shù)界為此想出了很多方法試圖改變這種狀況，例如通過光互連、2.5D/3D堆疊實現(xiàn)高帶寬數(shù)據(jù)通信，或者通過增加緩存級數(shù)、高密度片上存儲這樣的近數(shù)據(jù)存儲，來緩解訪存延遲和高功耗。 但試想一下，人類大腦有計算和存儲的區(qū)別嗎?我們是用左半球來計算，右半球做存儲的嗎?顯然不是，人腦本身的計算和存儲都發(fā)生在同一個地方，不需要數(shù)據(jù)遷移。

因此，學術(shù)界和產(chǎn)業(yè)界都希望盡快找到一種與人腦結(jié)構(gòu)類似的創(chuàng)新架構(gòu)的想法就不足為奇了，最好是能夠?qū)⒋鎯陀嬎阌袡C地結(jié)合在一起，直接利用存儲單元進行計算，或者是將計算單元進行分類，使之對應(yīng)不同的存儲單元，最大程度的消除數(shù)據(jù)遷移所帶來的功耗開銷，“計算存儲設(shè)備(Computational Storage Device)”的應(yīng)用概念應(yīng)運而生。

存儲業(yè)界已有公司提出很值得借鑒的概念。NVM不只存儲經(jīng)過數(shù)模轉(zhuǎn)換器之后產(chǎn)生的模擬信號，還可以將算力進行輸出，而輸入電壓和輸出電流則在NVM中扮演著可變電阻的角色，將模擬電流信號經(jīng)過模數(shù)轉(zhuǎn)換器變?yōu)?a target="_blank">數(shù)字信號，從而完成數(shù)字信號輸入-數(shù)字信號輸出的全過程。這一做法的最大優(yōu)勢在于它完全可以利用成熟的20/28nm CMOS工藝，而不用像CPU/GPU一樣去追求7nm/5nm這樣費用高昂的先進制程。 而伴隨成本和功耗開銷的降低，時間延遲特性也得到了顯著提升，這對無人機、智能機器人、自動駕駛、安防監(jiān)控等應(yīng)用來說都是至關(guān)重要的。 總體來說，終端推理過程計算復雜度低，涉及的任務(wù)較為固定，對硬件加速功能的通用性要求不高，無需頻繁變動架構(gòu)，更適合存內(nèi)計算的實現(xiàn)。相關(guān)數(shù)據(jù)顯示，2017年之前，人工智能無論是訓練還是推理基本都在云端完成，但到了2023年，在邊緣側(cè)設(shè)備/芯片上進行AI推理將占據(jù)該市場一半以上的份額，總額高達200-300億美元，這對IC廠商來說是一個非常龐大的市場。

AI需要怎樣的閃存？

相信沒有人會反對高品質(zhì)、高可靠性和低延遲閃存(Flash Memory)對AI芯片與應(yīng)用的重要性。但黃仲宇提醒，面對不同的應(yīng)用，需要從性能、功耗、安全、可靠性、高效能等多方面加以綜合考量，相比之下，成本考量雖然相當重要，但相較之下不是第一優(yōu)先的考慮因素，不能顧此失彼。 高性能OctalNAND Flash W35N、面向低功耗應(yīng)用的W25NJW系列、與安全相關(guān)的W77Q/W75F系列安全閃存，是華邦最具代表性的產(chǎn)品，例如，華邦QspiNAND Flash的數(shù)據(jù)傳輸率大概是83MB每秒，而OctalNAND系列最快的速度可以達到240MB每秒，幾乎是前者的3倍；在車載應(yīng)用中，大量AG1 125C NOR系列和AG2+ 115C NAND系列Flash已經(jīng)量產(chǎn)面世；而在智能傳感器或是產(chǎn)線機器人應(yīng)用方面，華邦電子則可以提供具備成本-高效能的解決方案，比如W25N/W29N NAND Flash系列。

除了各式各樣的不同類型的Flash產(chǎn)品外，華邦SpiStack (NOR+NAND) 也很具特點。它將NOR芯片和NAND芯片堆疊到一個封裝中，例如64MB Serial NOR和1Gb QspiNAND芯片堆疊，使設(shè)計人員可以靈活地將代碼存儲在NOR芯片中，并將數(shù)據(jù)存儲在NAND芯片。此外，雖然是兩個芯片(NOR+NAND)的堆棧，但單一封裝的SpiStack，在使用上僅需6個信號引腳。

“華邦可以提供不錯的Flash選型來保護客戶辛苦開發(fā)出來的代碼模型。就像在一場籃球比賽中一樣，芯片廠商扮演中鋒或前鋒，憑借強大的算力和算法不斷得分，而華邦就像后衛(wèi)，在后場提供高品質(zhì)、高性能的Flash產(chǎn)品，確保用戶在市場上不斷得分?！秉S仲宇表示。

原文標題：如何在AI終端應(yīng)用中選擇合適的閃存芯片

文章出處：【微信公眾號：電子發(fā)燒友網(wǎng)】歡迎添加關(guān)注！文章轉(zhuǎn)載請注明出處。