Mobile AI Compute Engine (MACE)?是一個(gè)專(zhuān)為移動(dòng)端異構(gòu)計(jì)算平臺(tái)優(yōu)化的神經(jīng)網(wǎng)絡(luò)計(jì)算框架。 主要從以下的角度做了專(zhuān)門(mén)的優(yōu)化：

• 性能

  • 代碼經(jīng)過(guò)NEON指令，OpenCL以及Hexagon HVX專(zhuān)門(mén)優(yōu)化，并且采用?Winograd算法來(lái)進(jìn)行卷積操作的加速。 此外，還對(duì)啟動(dòng)速度進(jìn)行了專(zhuān)門(mén)的優(yōu)化。

• 功耗

  • 支持芯片的功耗管理，例如ARM的big.LITTLE調(diào)度，以及高通Adreno GPU功耗選項(xiàng)。

• 系統(tǒng)響應(yīng)

  • 支持自動(dòng)拆解長(zhǎng)時(shí)間的OpenCL計(jì)算任務(wù)，來(lái)保證UI渲染任務(wù)能夠做到較好的搶占調(diào)度， 從而保證系統(tǒng)UI的相應(yīng)和用戶(hù)體驗(yàn)。

• 內(nèi)存占用

  • 通過(guò)運(yùn)用內(nèi)存依賴(lài)分析技術(shù)，以及內(nèi)存復(fù)用，減少內(nèi)存的占用。另外，保持盡量少的外部 依賴(lài)，保證代碼尺寸精簡(jiǎn)。

• 模型加密與保護(hù)

  • 模型保護(hù)是重要設(shè)計(jì)目標(biāo)之一。支持將模型轉(zhuǎn)換成C++代碼，以及關(guān)鍵常量字符混淆，增加逆向的難度。

• 硬件支持范圍

  • 支持高通，聯(lián)發(fā)科，以及松果等系列芯片的CPU，GPU與DSP(目前僅支持Hexagon)計(jì)算加速。 同時(shí)支持在具有POSIX接口的系統(tǒng)的CPU上運(yùn)行。