萬(wàn)物智聯(lián)時(shí)代，NPU成為AI 算力需求“剛需”。身為算法攻城獅的你，是否還在為上層軟件應(yīng)用、算法開(kāi)發(fā)的一系列難題“頭禿”不已？市面上針對(duì)AI芯片推理側(cè)的解決方案紛繁復(fù)雜，如何選擇最適合自身硬件的軟件工具？針對(duì)占據(jù)大部分工作量的“算法移植”，如何找到合適的工具以規(guī)避“重復(fù)造輪”。..。.

針對(duì)上述開(kāi)發(fā)者在NPU研發(fā)上所遇到的共性問(wèn)題，安謀科技近日發(fā)起“周易”NPU軟件開(kāi)源計(jì)劃，通過(guò)開(kāi)放源碼，來(lái)滿足客戶更自主、更靈活的算法移植需求，攜手更多開(kāi)發(fā)者以及合作伙伴共建國(guó)內(nèi)NPU產(chǎn)業(yè)生態(tài)。“周易”NPU是由安謀科技自研的一款面向人工智能的專用處理器，在物聯(lián)網(wǎng)、智能終端、汽車等市場(chǎng)均有實(shí)際落地，已經(jīng)形成一套完整的工具鏈及技術(shù)服務(wù)，可適配100多種算法。

在“周易”NPU軟件開(kāi)源計(jì)劃下，安謀科技率先對(duì)外開(kāi)放NPU中間表示層規(guī)范、模型解析器、模型優(yōu)化器、驅(qū)動(dòng)等，并提供免費(fèi)的軟件工具鏈，包括軟件模擬器、調(diào)試器、C編譯器。目前，安謀科技已開(kāi)源其“周易”NPU軟件工具Compass的前端，并在開(kāi)源計(jì)劃的第一階段開(kāi)放以下資源：

Compass解析器——解析器源代碼和中間層表示規(guī)范；

NPU Linux驅(qū)動(dòng)——更易在現(xiàn)有SoC上部署，并符合GPLv2協(xié)議；

Compass集成——提供“周易”NPU網(wǎng)絡(luò)構(gòu)造工具端到端驗(yàn)證環(huán)境；

模型倉(cāng)庫(kù)——已驗(yàn)證的開(kāi)源NN模型，便于測(cè)試和快速上手。

其中，Compass解析器的主要作用是將多種框架的模型轉(zhuǎn)換成“周易”NPU的中間表示，開(kāi)發(fā)者可以基于源碼進(jìn)行修改以適配更多神經(jīng)網(wǎng)絡(luò)模型。除了調(diào)試、驗(yàn)證解析器本身功能之外，開(kāi)發(fā)者還可以在極術(shù)社區(qū)上免費(fèi)獲取軟件工具鏈，進(jìn)行算法模型端到端的調(diào)試和驗(yàn)證。如下圖所示，Compass解析器不僅支持基于軟件仿真器的調(diào)試和結(jié)果驗(yàn)證，還可以部署到內(nèi)嵌“周易”NPU的芯片上進(jìn)行測(cè)試和性能優(yōu)化。

安謀科技已分別在代碼托管平臺(tái)Gitee、GitHub上建立該項(xiàng)目的開(kāi)源庫(kù)，開(kāi)發(fā)者可以方便地在這些平臺(tái)上獲取資源。據(jù)悉，這只是“周易”NPU軟件開(kāi)源計(jì)劃的第一步，安謀科技后續(xù)還將逐步開(kāi)放更多資源，例如模型優(yōu)化器、模型量化、算子實(shí)現(xiàn)等源代碼。

截止目前，“周易”NPU軟件開(kāi)源計(jì)劃已吸引第一批合作伙伴“入駐”，并收獲入駐伙伴的集體點(diǎn)贊，其中不乏來(lái)自AIoT、智能汽車、智能操作系統(tǒng)等領(lǐng)域的明星企業(yè)。這些合作伙伴均表示將基于該計(jì)劃與安謀科技繼續(xù)深化合作，加速構(gòu)建中國(guó)智能計(jì)算生態(tài)“朋友圈”。

審核編輯 ：李倩