1、類腦智能在AI腦內(nèi)開(kāi)了個(gè)“意識(shí)小劇場(chǎng)”，深度學(xué)習(xí)“不是煉金術(shù)” AI還能學(xué)什么？AI開(kāi)源框架國(guó)產(chǎn)化，百度、曠視相對(duì)抗谷歌、臉書。

2、記者試圖探尋AI的下一個(gè)5年計(jì)劃。

類腦智能：在AI腦內(nèi)開(kāi)個(gè)“意識(shí)小劇場(chǎng)”

類腦智能，被譽(yù)為人工智能的終極目標(biāo)。人工智能在過(guò)去十年中基本實(shí)現(xiàn)了感知能力，但卻無(wú)法提高認(rèn)知能力（推理、可解釋等）。因此，從認(rèn)知心理學(xué)、腦科學(xué)等領(lǐng)域汲取靈感，推動(dòng)感知智能向認(rèn)知智能演進(jìn)是人工智能下個(gè)十年的重點(diǎn)。

意識(shí)圖靈機(jī)：讓機(jī)器感受疼痛愉悅

當(dāng)前，我們?nèi)蕴幱谌跞斯ぶ悄茈A段，尚不能制造出真正推理和解決問(wèn)題的智能機(jī)器，機(jī)器也還沒(méi)有自主意識(shí)。那么，人工智能要怎樣產(chǎn)生意識(shí)？

人的大腦是如何產(chǎn)生疼痛、愉悅等各種感受的？有沒(méi)有辦法讓機(jī)器模擬甚至體驗(yàn)這些感覺(jué)？

第三十屆（1995年）圖靈獎(jiǎng)得主Manuel Blum與前美國(guó)卡內(nèi)基梅隆大學(xué)計(jì)算機(jī)科學(xué)系杰出教授Lenore Blum是夫妻倆，他們?cè)噲D通過(guò)數(shù)學(xué)模型來(lái)理解意識(shí)。受到認(rèn)知神經(jīng)科學(xué)家Bernard Baars的“劇院模型”之啟發(fā)，Blum夫婦提出了圖靈機(jī)器的正式模型——意識(shí)圖靈機(jī)（有意識(shí)的AI）。

短時(shí)記憶和長(zhǎng)時(shí)記憶是認(rèn)知科學(xué)里兩個(gè)重要概念。在劇院模型中，意識(shí)相當(dāng)于短時(shí)記憶“舞臺(tái)”上所演繹的活動(dòng)，坐在暗處的觀眾則代表長(zhǎng)時(shí)記憶中的無(wú)意識(shí)處理器。在這個(gè)腦內(nèi)小劇場(chǎng)里，演員和觀眾是怎樣互動(dòng)的呢？

Lenore舉了一個(gè)例子，某天你在派對(duì)上見(jiàn)到一個(gè)人，可怎么都想不起她的名字，等半小時(shí)后回到家，那個(gè)名字才突然從腦海中蹦出來(lái)。也就是說(shuō)，半小時(shí)后那個(gè)名字才出現(xiàn)在你的意識(shí)或短時(shí)記憶中。

這中間發(fā)生了什么？你可能回憶了兩人第一次見(jiàn)面的情景，這個(gè)信息從短時(shí)記憶中廣播出來(lái)，并傳到大腦的各個(gè)長(zhǎng)時(shí)記憶處理器上。其中一個(gè)處理器表示，她是做機(jī)器學(xué)習(xí)的。這個(gè)信息被傳到意識(shí)中，再?gòu)V播到各個(gè)處理器。接著又有一個(gè)處理器說(shuō)，她的名字是T開(kāi)頭的，這個(gè)信息也被廣播開(kāi)來(lái)。于是半小時(shí)后，她的名字出現(xiàn)在了“舞臺(tái)”上，然而舞臺(tái)上的有意識(shí)自我對(duì)無(wú)意識(shí)自我在臺(tái)下的工作是不知情的。

假如獲得了勝利的是恐懼處理器，那么收到廣播的語(yǔ)言處理器可能會(huì)激活喊叫機(jī)制，發(fā)出一聲尖叫。由于一系列動(dòng)態(tài)的下放，一些輸出機(jī)制可能被激活。通過(guò)語(yǔ)言對(duì)恐懼的回應(yīng)，兩個(gè)長(zhǎng)時(shí)記憶處理器之間產(chǎn)生了連接，不再像初始狀態(tài)下那樣只能通過(guò)短時(shí)記憶進(jìn)行交流。

Lenore解釋道：“這正是赫布理論提出的‘一起激發(fā)的神經(jīng)元連在一起’，如果回應(yīng)變多或者關(guān)聯(lián)變強(qiáng)，就會(huì)產(chǎn)生更多的連接。這種連接允許原本經(jīng)過(guò)短時(shí)記憶的有意識(shí)運(yùn)算變得無(wú)意識(shí)，信息塊可以在處理器之間傳遞，很多高負(fù)荷工作就是以這種形式進(jìn)行的?！?/p>

讓盲人有一天能看得見(jiàn)

雖然意識(shí)圖靈機(jī)的研究者強(qiáng)調(diào)簡(jiǎn)潔性（simplicity），但是復(fù)旦大學(xué)類腦智能科學(xué)與技術(shù)研究院副院長(zhǎng)林偉認(rèn)為世界呈現(xiàn)出來(lái)的更多還是復(fù)雜性（complexity）。微觀層面上，每一個(gè)生命個(gè)體都有相應(yīng)的智能行為；宏觀層面上，智能個(gè)體之間的互動(dòng)會(huì)產(chǎn)生許多群體行為。而智能是怎么產(chǎn)生的？群體的智能行為又是怎樣產(chǎn)生？

“在這個(gè)過(guò)程中，需要采集相關(guān)數(shù)據(jù)，進(jìn)行相應(yīng)的數(shù)據(jù)挖掘。在數(shù)據(jù)集里尋找形象的規(guī)律，甚至在這個(gè)階段就直接可以到商業(yè)和工業(yè)中去檢驗(yàn)結(jié)果?！绷謧ケ硎?，除了挖掘大數(shù)據(jù)的規(guī)律，還需要結(jié)合模型去做模擬仿真，因?yàn)橛辛四Ｐ途涂梢匀プ鲞M(jìn)一步的預(yù)測(cè)研判。

好比在類腦人工智能中，首先要認(rèn)識(shí)腦結(jié)構(gòu)、解析腦機(jī)制，其后就是要模擬腦，將大腦中某些局部的功能在模型中表現(xiàn)出來(lái)，包括感知、認(rèn)知、記憶、情感、情緒化表現(xiàn)等。這個(gè)模擬過(guò)程一定受到腦科學(xué)研究的啟發(fā)，因?yàn)槟切┥窠?jīng)形態(tài)的基本結(jié)構(gòu)實(shí)際上都可以為數(shù)學(xué)模型中最簡(jiǎn)單的動(dòng)力學(xué)模型提供基本框架和思路。

“每個(gè)人的大腦都是有差別的，能替代的也只是一部分。從這個(gè)意義上來(lái)說(shuō)，‘增強(qiáng)腦’可能更恰當(dāng)。比如說(shuō)某些病患有一些功能的喪失，帕金森、老年癡呆等。通過(guò)和生物醫(yī)學(xué)工程的專家合作，可以把一些算法、控制器、芯片體系植入到相應(yīng)的大腦。那樣的話也許盲人也會(huì)有看得見(jiàn)的一天，類腦研究可以起到這樣的作用?！绷謧フf(shuō)道。

深度學(xué)習(xí)“不是煉金術(shù)” AI還能學(xué)什么？

AI正在日常生活中滲透。無(wú)論是刷臉進(jìn)門、機(jī)器人掃地還是和智能音箱對(duì)話，這些應(yīng)用均可歸類于人工智能的語(yǔ)音和圖像識(shí)別。的確，這一代人工智能的發(fā)展建立于AI對(duì)人類感知的模仿。這得益于人工智能背后的深度學(xué)習(xí)，通過(guò)神經(jīng)網(wǎng)絡(luò)層層分類信息?！爸皇乾F(xiàn)在AI還在弱智能階段，要讓機(jī)器解決問(wèn)題，首先需要人工定義問(wèn)題和機(jī)制，轉(zhuǎn)化為數(shù)學(xué)模型，并通過(guò)數(shù)據(jù)訓(xùn)練模型?！痹谝晃话⒗锵导夹g(shù)人員看來(lái)，如今的AI只能映射，還無(wú)法產(chǎn)生聯(lián)想，機(jī)器具備真實(shí)推理能力仍是人工智能的發(fā)展局限。

深度學(xué)習(xí)需要依賴海量的數(shù)據(jù)，與此同時(shí)，這一代人工智能的應(yīng)用帶來(lái)了對(duì)隱私、數(shù)據(jù)安全的擔(dān)憂。還有沒(méi)有針對(duì)這兩個(gè)困局的更好解決方法？今年WAIC 2020上，聯(lián)邦學(xué)習(xí)、遷移學(xué)習(xí)是兩大熱詞，AI算法的演進(jìn)版，在很多領(lǐng)域已經(jīng)落地，他們?yōu)槭裁茨芙鉀Q深度學(xué)習(xí)的困境？《IT時(shí)報(bào)》記者一路探尋。

聯(lián)邦學(xué)習(xí)：隱秘的數(shù)據(jù) 公開(kāi)的模型

你的人臉信息，5毛一份。這是日前新華社記者在網(wǎng)絡(luò)黑市上發(fā)現(xiàn)的非法買賣。一時(shí)刷遍朋友圈。

當(dāng)人們?cè)絹?lái)越依賴于刷臉支付，但如果這些生物信息被泄露給不法分子，加之你的身份證、銀行卡信息也被暴露，大眾難免擔(dān)心信息泄露的后果。

A方收集數(shù)據(jù)，B方清洗數(shù)據(jù)，轉(zhuǎn)移到C方建模訓(xùn)練，最終賣給D方使用，每個(gè)環(huán)節(jié)都有著數(shù)據(jù)泄露隱患。

頗有預(yù)見(jiàn)性的，這一屆世界人工智能大會(huì)上，聯(lián)邦學(xué)習(xí)被屢次提及，它最大的特征是數(shù)據(jù)信息不離開(kāi)本地設(shè)備，所謂“數(shù)據(jù)不出域”，但可以加密上傳訓(xùn)練模型，服務(wù)器端綜合各自模型之后，再反饋給用戶模型改進(jìn)方案。

AI技術(shù)人員楊建國(guó)認(rèn)為，如果將傳統(tǒng)的AI深度學(xué)習(xí)看作是一場(chǎng)開(kāi)卷考，那么聯(lián)邦學(xué)習(xí)是AI的一場(chǎng)閉卷考，以利用“隱秘”數(shù)據(jù)為前提。

萬(wàn)向區(qū)塊鏈研究院院長(zhǎng)肖風(fēng)曾在世界人工智能大會(huì)上分享，區(qū)塊鏈技術(shù)的溯源特性能有效監(jiān)控?cái)?shù)據(jù)的使用權(quán)，一旦數(shù)據(jù)被泄露，信息將被記錄。這暗示區(qū)塊鏈技術(shù)在聯(lián)邦學(xué)習(xí)中的可能。

那么，區(qū)塊鏈技術(shù)是否已在AI領(lǐng)域使用？

一位溫州某區(qū)塊鏈企業(yè)CEO胡松（化名）告訴《IT時(shí)報(bào)》記者，目前區(qū)塊鏈還沒(méi)有在實(shí)際應(yīng)用上與AI結(jié)合，仍在理論和概念階段，“近期區(qū)塊鏈行業(yè)比較沉默，老的故事還沒(méi)有應(yīng)用，新的突破性概念還未誕生?！?/p>

遺憾的是，在和多位采訪對(duì)象溝通中，《IT時(shí)報(bào)》記者發(fā)現(xiàn)，受限于“看不到的數(shù)據(jù)”，多家AI企業(yè)并不愿應(yīng)用聯(lián)邦學(xué)習(xí)。

“聯(lián)邦學(xué)習(xí)可以使用一般機(jī)器學(xué)習(xí)能使用的所有算法，但需要額外加一些技術(shù)來(lái)滿足‘閉卷’的需求?！币虼?，楊建國(guó)認(rèn)為，除了數(shù)據(jù)隱私安全，目前一般機(jī)器學(xué)習(xí)存在的缺陷，聯(lián)邦學(xué)習(xí)無(wú)能為力。

滬上一位AI算法研究人員認(rèn)為，聯(lián)邦學(xué)習(xí)在訓(xùn)練模型時(shí)可能出現(xiàn)不收斂的問(wèn)題，構(gòu)建的模型或許并不是最優(yōu)解。在實(shí)際運(yùn)用中，聯(lián)邦學(xué)習(xí)對(duì)AI企業(yè)在終端數(shù)據(jù)之間的通信和計(jì)算開(kāi)銷有一定要求。此外，聯(lián)邦學(xué)習(xí)在面對(duì)隱私的攻擊時(shí)可能存在安全漏洞，也無(wú)法較好控制學(xué)習(xí)時(shí)所使用的數(shù)據(jù)質(zhì)量。這些均是聯(lián)邦學(xué)習(xí)的缺陷。

不過(guò)，楊建國(guó)對(duì)此仍有期許，他看到聯(lián)邦學(xué)習(xí)的研究和技術(shù)在不斷擴(kuò)展，這是積極的一面。

遷移學(xué)習(xí)：用小樣本快速得出答案

“你認(rèn)為哪種機(jī)器學(xué)習(xí)方式可能會(huì)成為未來(lái)的主流？”當(dāng)《IT時(shí)報(bào)》記者向多位AI行業(yè)的技術(shù)人士拋出這一問(wèn)題時(shí)，多位采訪對(duì)象均將目光瞄向遷移學(xué)習(xí)。

韓林（化名）是一位醫(yī)學(xué)影像視覺(jué)深度學(xué)習(xí)的AI技術(shù)人員，疫情期間他利用百度飛槳開(kāi)發(fā)了能快速識(shí)別新冠病癥的AI模型。

“飛槳上有100萬(wàn)分類的圖像預(yù)訓(xùn)練模型，利用這個(gè)模型，調(diào)整不同的初始化權(quán)重，通過(guò)遷移學(xué)習(xí)，能夠改善最終準(zhǔn)確率?！痹陧n林看來(lái)，對(duì)開(kāi)發(fā)者而言，遷移學(xué)習(xí)省去了從頭開(kāi)始訓(xùn)練的時(shí)間。

新冠疫情下，各大醫(yī)院緊急投入“AI閱片”，在上海計(jì)算機(jī)軟件技術(shù)開(kāi)發(fā)中心人工智能技術(shù)研究應(yīng)用與測(cè)評(píng)團(tuán)隊(duì)負(fù)責(zé)人陳敏剛看來(lái)，正是通過(guò)將新冠肺炎病人的CT加入到經(jīng)過(guò)大量訓(xùn)練的病毒性肺炎CT影像模型，經(jīng)過(guò)模型精調(diào)得出的成果。這個(gè)過(guò)程，便是遷移學(xué)習(xí)。

“當(dāng)前針對(duì)小樣本的深度學(xué)習(xí)，主要依靠遷移學(xué)習(xí)的方法?！标惷粽f(shuō)。

微眾銀行首席人工智能官楊強(qiáng)曾在一次公開(kāi)演講中表示，在云端用戶群中，每臺(tái)手機(jī)其實(shí)是一個(gè)用戶，用戶和特征沒(méi)有重疊性，可以在保證隱私安全的條件下進(jìn)行遷移學(xué)習(xí)。

但遷移學(xué)習(xí)并不是萬(wàn)能的。韓林告訴《IT時(shí)報(bào)》記者，如果沒(méi)有一個(gè)和開(kāi)發(fā)者所需相近的模型，開(kāi)發(fā)者依然要面臨從零開(kāi)始做模型訓(xùn)練的困境。

“能有一套針對(duì)小數(shù)據(jù)樣本的準(zhǔn)確算法一直是行業(yè)中的大難題?！币晃荒郴ヂ?lián)網(wǎng)巨頭公司的AI技術(shù)人員直言?！皣@數(shù)據(jù)量不足的情況”，是楊建國(guó)認(rèn)為人工智能未來(lái)發(fā)展主攻方向。

對(duì)抗學(xué)習(xí)：為AI設(shè)置“陷阱” 以假亂真

以子之矛，攻子之盾。

當(dāng)大眾驚嘆于AI功能強(qiáng)大的同時(shí)，也常常被AI的誤識(shí)別而震驚。一副帶有色塊的眼鏡能騙過(guò)人工智能，一張帶有色塊的阿爾卑斯山圖片能讓AI誤認(rèn)為是一條大黃狗。

由于深度學(xué)習(xí)是黑箱算法，技術(shù)人員無(wú)法分析出為何AI技術(shù)走偏的原因。但韓林認(rèn)為，這些問(wèn)題很有價(jià)值。這便是對(duì)抗學(xué)習(xí)（GAN）。

所謂GAN，是指在訓(xùn)練過(guò)程中，生成網(wǎng)絡(luò)G的目標(biāo)是盡量生成真實(shí)的圖片去欺騙判別網(wǎng)絡(luò)D。而D的目標(biāo)就是盡量把G生成的圖片和真實(shí)的圖片分別開(kāi)來(lái)。這樣，G和D動(dòng)態(tài)博弈，彼此在對(duì)抗中訓(xùn)練能力。如果G騙過(guò)了D，那么就可以生成一張足以以假亂真的圖片。

“如果知道有色塊眼鏡可以欺騙機(jī)器算法，技術(shù)人員可以通過(guò)調(diào)整解決問(wèn)題。如今人臉識(shí)別對(duì)用戶的姿勢(shì)和光照有比較嚴(yán)格要求，為的是防止人臉面具欺騙系統(tǒng)的事件再次產(chǎn)生?！表n林說(shuō)。

在韓林看來(lái)，將深度學(xué)習(xí)中的一些非關(guān)鍵應(yīng)用轉(zhuǎn)向關(guān)鍵應(yīng)用，對(duì)抗問(wèn)題將會(huì)越來(lái)越受到重視?！叭绻岩曈X(jué)識(shí)別運(yùn)用到無(wú)人駕駛汽車上，行人只要戴上一副眼鏡便無(wú)法被系統(tǒng)識(shí)別，你認(rèn)為廠商會(huì)不重視嗎？”他反問(wèn)道。

但這是否意味著一輪輪的技術(shù)鴻溝。AI是否能夠解決道高一尺魔高一丈的困境？

“當(dāng)前人工智能還是依賴于大數(shù)據(jù)和高算力，從弱智能時(shí)代到進(jìn)一步發(fā)展，仍是一條漫長(zhǎng)的路?！鼻笆鰷螦I算法技術(shù)人員總結(jié)道。

AI開(kāi)源框架

百度、曠視想對(duì)抗谷歌、臉書

做AI項(xiàng)目，或許在很多人眼里，是一項(xiàng)仄長(zhǎng)而復(fù)雜的工作，其實(shí)不然。實(shí)際操作中，開(kāi)發(fā)者可以選擇AI深度學(xué)習(xí)框架，加載可在框架上運(yùn)用的模塊，調(diào)整參數(shù)，如同搭建樂(lè)高一樣做出想要的AI應(yīng)用。框架，省去了開(kāi)發(fā)者從零開(kāi)始一行行寫代碼的前期工作準(zhǔn)備。

這是AI深度學(xué)習(xí)框架的魅力?！禝T時(shí)報(bào)》記者注意到，目前國(guó)外主流的深度學(xué)習(xí)框架有TensorFlow、PyTorch、Caffe等，而國(guó)內(nèi)的百度飛槳（Paddle Paddle）和曠視天元也吸引了一群受眾。

那么面對(duì)中外深度學(xué)習(xí)框架，眾多開(kāi)發(fā)者會(huì)如何選擇？而國(guó)內(nèi)框架又會(huì)如何吸引新的開(kāi)發(fā)者入局？

開(kāi)發(fā)者：向國(guó)內(nèi)框架遷移

韓林（化名）是一名影像識(shí)別功能的開(kāi)發(fā)者，新冠肺炎期間，他從醫(yī)學(xué)網(wǎng)站上找到CT轉(zhuǎn)成圖片作為數(shù)據(jù)，并搭配參數(shù)進(jìn)行模型訓(xùn)練?！耙淮?521張影像的模型訓(xùn)練，需要40-50分鐘?！彼f(shuō)。

接觸深度學(xué)習(xí)框架2年，韓林最終從TensorFlow轉(zhuǎn)到飛槳。他認(rèn)為，飛槳API比TensorFlow更簡(jiǎn)潔，調(diào)試組網(wǎng)代碼也更方便。

“當(dāng)時(shí)做了一個(gè)比較復(fù)雜的模型，用TensorFlow調(diào)整模型結(jié)構(gòu)一個(gè)月沒(méi)有實(shí)現(xiàn)收斂，但用飛槳一周就完成了?！边@是他接觸飛槳時(shí)的第一印象。

林蕓（化名）從事的是文本處理技術(shù)工作，易用性強(qiáng)，是她選擇飛槳文心的緣由。

上海聰鏈信息科技有限公司創(chuàng)始人丁強(qiáng)則是曠視天元框架的擁躉。在他看來(lái)，曠視在視覺(jué)識(shí)別領(lǐng)域的優(yōu)勢(shì)，使得天元更適用于該場(chǎng)景的開(kāi)發(fā)。疫情期間，曠視在10天之內(nèi)推出“明驥AI智能測(cè)溫系統(tǒng)”，通過(guò)天元框架對(duì)算法模型進(jìn)行專項(xiàng)訓(xùn)練與優(yōu)化升級(jí)，精準(zhǔn)定位到額頭再快速測(cè)溫，誤差在±0.3℃以內(nèi)。

上海埃瓦智能科技有限公司創(chuàng)始人王赟則考慮到3D視覺(jué)芯片的推廣應(yīng)用，選擇了騰訊系的深度學(xué)習(xí)框架Angel。

AI開(kāi)發(fā)者王劍（化名）向《IT時(shí)報(bào)》記者給出他選擇國(guó)內(nèi)深度學(xué)習(xí)框架的考量：社區(qū)規(guī)模?！吧鐓^(qū)強(qiáng)大，框架會(huì)越來(lái)越好，因?yàn)橛玫娜硕?，如果論文作者提供的代碼都是國(guó)內(nèi)某個(gè)框架的話，這個(gè)框架會(huì)有更多人去完善升級(jí)?！彼f(shuō)。

百度方面透露，截至目前，飛槳平臺(tái)已經(jīng)凝聚194萬(wàn)開(kāi)發(fā)者，8.4萬(wàn)的企業(yè)在平臺(tái)上創(chuàng)建了超過(guò)23.3萬(wàn)個(gè)模型。在主流開(kāi)源社區(qū)整體star數(shù)超過(guò)4萬(wàn)，核心框架的star數(shù)超過(guò)1.1萬(wàn)。天元?jiǎng)t未披露開(kāi)源社區(qū)用戶數(shù)。

在領(lǐng)規(guī)科技CEO安康看來(lái)，國(guó)內(nèi)外深度學(xué)習(xí)框架每家各有不同，主要還是看開(kāi)發(fā)者的產(chǎn)品和業(yè)務(wù)屬性，最終通過(guò)調(diào)整開(kāi)源社區(qū)的模板參數(shù)實(shí)現(xiàn)應(yīng)用。

一位在中小型智能硬件類企業(yè)工作的王婷（化名）告訴《IT時(shí)報(bào)》記者，目前公司正在使用Caffe框架。不過(guò)，未來(lái)可能會(huì)考慮使用華為MindSpore，因?yàn)楣卷?xiàng)目正在使用海思芯片做研發(fā)。

盡管有開(kāi)發(fā)者反映，因國(guó)內(nèi)深度學(xué)習(xí)框架發(fā)展時(shí)間較短，可能出現(xiàn)部分功能不支持、開(kāi)發(fā)者基數(shù)不足導(dǎo)致社區(qū)無(wú)法馬上解決所需解決問(wèn)題等情況，但不可否認(rèn)，正有一群開(kāi)發(fā)者們向國(guó)產(chǎn)深度學(xué)習(xí)框架靠攏。

選ARM低功耗

2020年世界人工智能大會(huì)上，曠視介紹了其深度學(xué)習(xí)框架天元MegEngine的Beta版本，天元重點(diǎn)增加了模型量化與支持ARM處理器兩個(gè)功能。

人工智能深度學(xué)習(xí)離不開(kāi)海量數(shù)據(jù)和算力，大模型在帶來(lái)精度提升的同時(shí)，也對(duì)計(jì)算資源消耗提出更多要求。這導(dǎo)致它們無(wú)法部署在很多非云端的計(jì)算設(shè)備上（比如智能手機(jī)），因此有必要通過(guò)模型量化。這些輕量化模型，使它們能夠滿足小型計(jì)算平臺(tái)的要求。目前，Tensorflow、PyTorch、飛槳等框架均實(shí)現(xiàn)了量化功能。MegEngine自然不能落后。

“由32位浮點(diǎn)轉(zhuǎn)至int8推理，可實(shí)現(xiàn)3倍左右的推理加速，減小模型75%的尺寸，減少存儲(chǔ)空間、內(nèi)存耗用和設(shè)備功耗。”曠視研究院AI系統(tǒng)高級(jí)技術(shù)總監(jiān)徐欣然介紹。

端側(cè)學(xué)習(xí)是深度學(xué)習(xí)框架的新趨勢(shì)?！岸藗?cè)一般不會(huì)進(jìn)行訓(xùn)練，只會(huì)推理。”上海計(jì)算機(jī)軟件技術(shù)開(kāi)發(fā)中心人工智能技術(shù)研究應(yīng)用與測(cè)評(píng)團(tuán)隊(duì)負(fù)責(zé)人陳敏剛告訴記者，在設(shè)備端推理，沒(méi)有網(wǎng)絡(luò)時(shí)延，不需要海量服務(wù)器和帶寬資源，也不需要將數(shù)據(jù)上傳云端，保護(hù)了用戶隱私。

天元Beta版本添加了對(duì)廣泛用于手機(jī)和終端電子設(shè)備的ARM平臺(tái)處理器的支持，并推出了推理優(yōu)化工具教程，還與面向AIoT的框架小米Mace和嵌入式邊緣計(jì)算框架Tengine展開(kāi)了合作。

百度深度學(xué)習(xí)技術(shù)平臺(tái)部高級(jí)總監(jiān)馬艷軍告訴《IT時(shí)報(bào)》記者，目前包括英特爾、英偉達(dá)、華為、ARM等諸多芯片廠商都支持飛槳，并開(kāi)展合作。這意味著ARM平臺(tái)處理下，低能耗的可能。

不過(guò)，值得一提的是，功耗似乎是AI在邊緣側(cè)、云端的枷鎖，大大限制了算力。據(jù)《IT時(shí)報(bào)》記者了解，目前數(shù)據(jù)中心的一個(gè)機(jī)柜功耗限制在6000瓦-8000瓦，而一臺(tái)性能強(qiáng)勁的GPU服務(wù)器也要四五千瓦。
? ? ? ?責(zé)任編輯:pj