據(jù)報道,美國斯坦福大學的研究人員已經(jīng)證明,可以直接在光學芯片上訓練人工神經(jīng)網(wǎng)絡。這一重大突破表明,光學電路可以實現(xiàn)基于電子的人工神經(jīng)網(wǎng)絡的關鍵功能,進而可以以更便宜、更快速和更節(jié)能的方式執(zhí)行語音識別、圖像識別等復雜任務。
“相比使用數(shù)字計算機,使用光學芯片進行神經(jīng)網(wǎng)絡計算更有效,能夠解決更復雜的問題,”斯坦福大學研究團隊的負責人范汕洄(Shanhui Fan)說:“這將增強人工神經(jīng)網(wǎng)絡的能力,例如,使其能夠執(zhí)行自動駕駛汽車所要求的任務,或者能夠對口頭問題做出適當?shù)幕卮?。這將以我們現(xiàn)在無法想象的方式改善我們的生活。”
人工神經(jīng)網(wǎng)絡是人工智能的一種,它使用連接的單元,以類似大腦處理信息的方式來處理信息。使用人工神經(jīng)網(wǎng)絡執(zhí)行復雜的任務,例如語音識別,需要訓練算法對輸入進行分類,比如對不同的單詞進行分類。
雖然光學人工神經(jīng)網(wǎng)絡最近已經(jīng)得到實驗證明,但此前的研究是在傳統(tǒng)的數(shù)字計算機上使用一個模型進行訓練步驟,然后將最終的設置導入光學電路。在最新Optica期刊上,斯坦福大學的研究人員報告了一種新方法,通過實現(xiàn)“反向傳播”算法(這是訓練傳統(tǒng)神經(jīng)網(wǎng)絡的標準方法)的光學模擬,直接在設備中訓練人工神經(jīng)網(wǎng)絡。
圖:研究人員已經(jīng)證明,神經(jīng)網(wǎng)絡可以通過光學電路(圖中藍色矩形)進行訓練。在整個網(wǎng)絡中,有若干個這樣的電路連接在一起。激光輸入(綠色)的編碼信息由光波導(黑色)通過芯片。芯片使用可調波束分離器(光波導中彎曲的部分)執(zhí)行對人工神經(jīng)網(wǎng)絡至關重要的操作。分離器將兩個相鄰的波導連接在一起,并可通過調整光學移相器(紅色和藍色發(fā)光物體)的設置進行調整。分離器的作用就像“旋鈕”,可以在特定任務的訓練過程中進行調整。Credit: Tyler W. Hughes, Stanford University
該論文的第一作者說:“使用物理設備而不是計算機模型進行訓練,可以使訓練過程更精確?!薄岸?,由于訓練步驟是神經(jīng)網(wǎng)絡實現(xiàn)中非常耗費計算力的部分,因此,在光學電路上執(zhí)行這個步驟,對于改進人工神經(jīng)網(wǎng)絡的計算效率、速度和功耗都是至關重要的。”
基于光的網(wǎng)絡
雖然神經(jīng)網(wǎng)絡處理通常使用傳統(tǒng)的計算機進行,但仍有大量的工作要專門設計針對神經(jīng)網(wǎng)絡計算優(yōu)化的硬件?;诠鈱W的設備非常吸引人,因為它們可以并行地執(zhí)行計算,同時比電子設備消耗的能量更少。
在這項新研究中,研究人員通過設計一種光學芯片來復制傳統(tǒng)計算機訓練神經(jīng)網(wǎng)絡的方式,克服了實現(xiàn)全光學神經(jīng)網(wǎng)絡(all-optical neural network)的一個重大挑戰(zhàn)。
人工神經(jīng)網(wǎng)絡可以被視為一個帶有許多旋鈕的黑盒。在訓練期間,每個旋鈕都要轉動一點,然后測試系統(tǒng),查看算法的性能是否得到改善。
“我們的方法不僅可以幫助預測旋鈕轉動的方向,還可以預測每個旋鈕轉動的方向,從而更接近預期的性能?!盚ughes說,“我們的方法大大加快了訓練速度,特別是對于大型網(wǎng)絡,因為可以并行地獲得每個旋鈕的信息?!?/p>
片上訓練
新的訓練協(xié)議在具有可調諧光束分離器的光學電路運行,通過改變光學移相器的設置進行調整。具體來說,該方法是將編碼有待處理信息的激光束發(fā)射到光學電路中,由光波導通過光束分離器進行傳輸,像旋鈕一樣進行調整,以訓練神經(jīng)網(wǎng)絡算法。
在新的訓練協(xié)議中,激光首先通過光學電路輸入。退出設備后,計算出與預期結果的差值。然后,這些信息被用來產生一個新的光信號,這個信號通過光網(wǎng)絡以相反的方向發(fā)送回來。
通過測量此過程中每個分束器周圍的光強度,研究人員展示了如何并行地檢測神經(jīng)網(wǎng)絡的性能隨著每個分束器設置而變化的情況。移相器的設置可以根據(jù)這些信息進行更改,這個過程可以重復,直到神經(jīng)網(wǎng)絡產生期望的結果。
研究人員用光學模擬測試了他們的訓練技術,方法是教算法執(zhí)行復雜的任務,比如在一組點中找出復雜的特征。他們發(fā)現(xiàn)光學實現(xiàn)與傳統(tǒng)計算機的執(zhí)行類似。
該研究的負責人說:“我們的研究表明,你可以利用物理定律來實現(xiàn)計算機科學算法?!薄巴ㄟ^在光學領域對這些網(wǎng)絡進行訓練,證明光學神經(jīng)網(wǎng)絡系統(tǒng)可以利用光學器件來實現(xiàn)某些功能。”
研究人員計劃進一步優(yōu)化這個系統(tǒng),并希望用它來實現(xiàn)神經(jīng)網(wǎng)絡任務的實際應用。他們設計的通用方法可用于各種神經(jīng)網(wǎng)絡架構,也可以用于其他應用。
未來智能實驗室是人工智能學家與科學院相關機構聯(lián)合成立的人工智能,互聯(lián)網(wǎng)和腦科學交叉研究機構。
未來智能實驗室的主要工作包括:建立AI智能系統(tǒng)智商評測體系,開展世界人工智能智商評測;開展互聯(lián)網(wǎng)(城市)云腦研究計劃,構建互聯(lián)網(wǎng)(城市)云腦技術和企業(yè)圖譜,為提升企業(yè),行業(yè)與城市的智能水平服務。
-
神經(jīng)網(wǎng)絡
+關注
關注
42文章
4781瀏覽量
101204 -
圖像識別
+關注
關注
9文章
521瀏覽量
38395 -
AI
+關注
關注
87文章
31615瀏覽量
270426 -
語音識別
+關注
關注
38文章
1743瀏覽量
112942
原文標題:斯坦福證明神經(jīng)網(wǎng)絡能直接在光學芯片上訓練
文章出處:【微信號:AItists,微信公眾號:人工智能學家】歡迎添加關注!文章轉載請注明出處。
發(fā)布評論請先 登錄
相關推薦
評論