文章作者：周兆靖

DL Workbench 深度學(xué)習(xí)工作臺(tái)

是 OpenVINO軟件棧中非常重量級(jí)的一個(gè)工具

涉及到的內(nèi)容和操作比較多

決定還是另起一篇來介紹！

1.概述介紹

如果您對(duì)深度學(xué)習(xí)感興趣，DL Workbench 提供了更為直觀的學(xué)習(xí)平臺(tái)：帶您了解什么是神經(jīng)網(wǎng)絡(luò)，神經(jīng)網(wǎng)絡(luò)是如何工作的，以及如何檢查它們的架構(gòu)。您可以在開發(fā)產(chǎn)品之前，學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)的分析和優(yōu)化網(wǎng)絡(luò)的基礎(chǔ)知識(shí)，以及熟悉 OpenVINO生態(tài)系統(tǒng)及其主要組件。如果您是資深的 AI 工程師，DL Workbench 將為您提供一個(gè)方便的 web 界面，以實(shí)時(shí)優(yōu)化您的模型并可以為您的產(chǎn)品落地進(jìn)行加速。

DL Workbench 可以很方便地測(cè)量和分析模型性能，同時(shí)在實(shí)驗(yàn)中調(diào)整模型以提高性能，最終分析模型的拓?fù)浣Y(jié)構(gòu)并產(chǎn)生可視化輸出。DL Workbench 的工作流程如下圖所示：

圖1-1 DL Workbench 的工作流程

英特爾提供了兩種運(yùn)行 DL workbench（DLWB）環(huán)境?；诒镜赜布?DLWB 環(huán)境，訪問的算力僅限本地現(xiàn)有的算力資源；基于 IntelDeveloper Cloud 的 DLWB 提供了豐富的算力選項(xiàng)用于模型的橫向?qū)Ρ群头治?，同時(shí)提供了類似本地化的用戶操作體驗(yàn)。

IntelDeveloper Cloud 平臺(tái)上運(yùn)行 DLWB 方法：

Run DL Workbench in Intel DevCloud

https://docs.openvino.ai/latest/workbench_docs_Workbench_DG_Start_DL_Workbench_in_DevCloud.html

（復(fù)制鏈接到瀏覽器打開）

本地硬件運(yùn)行 DLWB 的方法：

Run DL Workbench on Local System

https://docs.openvino.ai/latest/workbench_docs_Workbench_DG_Run_Locally.html

（復(fù)制鏈接到瀏覽器打開）

接下來我們?cè)?Intel Developer Cloud 平臺(tái)來運(yùn)行 DLWB，無需安裝，直接運(yùn)行。

2. 啟動(dòng)DL Workbench

在 Intel Developer Cloud 平臺(tái)上啟動(dòng) DL Workbench 的步驟如下：

1打開 Work with Intel Distribution of OpenVINO Toolkit 頁面：

https://www.intel.com/content/www/us/en/developer/tools/devcloud/edge/overview.html

（復(fù)制鏈接到瀏覽器打開）

劃到頁面下半部分，點(diǎn)擊 Deep Learning Workbench：

https://www.intel.com/content/www/us/en/developer/tools/devcloud/edge/build/overview.html

（復(fù)制鏈接到瀏覽器打開）

圖2-1 DL Workbench啟動(dòng)一

2運(yùn)行第一個(gè) Cell 里的代碼，之后會(huì)出現(xiàn)“Start Application”，點(diǎn)擊“Start Application”并等待初始化完成，進(jìn)入點(diǎn)擊“Launch DL Workbench”啟動(dòng) DL Workbench( 以下簡(jiǎn)稱 DLWB)：

圖2-2 DL Workbench 啟動(dòng)二

3. 使用DL Workbench評(píng)估模型性能

DLWB 的主界面如下圖所示，點(diǎn)擊 “Create Project” 進(jìn)行模型評(píng)估：

圖3-1 創(chuàng)建 Project

步驟一

模型選擇

首先點(diǎn)擊“import model”，導(dǎo)入需要評(píng)估的模型。Open Model Zoo 是我們提供的一個(gè)在線模型庫，你可以直接從庫中下載需評(píng)估的模型，當(dāng)然，你也可以上傳你的本地的模型文件，既可以是 IR 格式，也可以是原生的模型格式：

圖3-2 選擇模型

步驟二

設(shè)備選擇

單擊選定模型完成之后，請(qǐng)點(diǎn)擊“Select an Environment”，這里可以選定你部署的設(shè)備節(jié)點(diǎn)，Intel DevCloud 平臺(tái)的設(shè)備都可以進(jìn)行實(shí)驗(yàn)：

圖3-3 選擇設(shè)備一

你可以在”Device” 下拉菜單里選擇該模型運(yùn)行在 CPU 上還是集成 GPU 上：

圖3-3 選擇設(shè)備二

步驟三

數(shù)據(jù)集選擇

點(diǎn)擊“Next Step”之后進(jìn)入數(shù)據(jù)集選擇頁面，點(diǎn)擊“import Dataset”，你可以選擇使用 DLWB 提供的圖像創(chuàng)建一個(gè)數(shù)據(jù)集，或者通過本地上傳已有的數(shù)據(jù)集，例如 COCO，VOC，ImageNET 等格式的數(shù)據(jù)集：

圖3-4 選擇數(shù)據(jù)集

步驟四

推理性能測(cè)試

點(diǎn)擊“Create Project”之后，開始運(yùn)行推理，等待推理完成之后，可以直觀的看到模型的 FPS 指標(biāo)，以 FPS 值來判斷這個(gè)模型的性能水平：

圖3-5 推理性能測(cè)試

4. DL Workbench 模型調(diào)試

4.1模型單層運(yùn)行時(shí)間統(tǒng)計(jì)

在模型網(wǎng)絡(luò)分析板塊，DLWB 可以計(jì)算出模型中每一層的消耗時(shí)間，可以以此進(jìn)行網(wǎng)絡(luò)分析，從而決定下一步的優(yōu)化策略。

圖4-1 模型單層運(yùn)行時(shí)間統(tǒng)計(jì)

4.2模型層各精度占比統(tǒng)計(jì)

根據(jù)這個(gè)圖表，你可以很直觀的看到該模型層中每種精度的占比情況。若你覺得你可以降低 FP32 精度層的占比，你可以根據(jù)自己的需求，對(duì)高精度層實(shí)行量化操作，使其精度下降，并確保模型準(zhǔn)確度下降在可接受的范圍內(nèi)，這樣可以使得模型推理速度更為快速。

圖4-2 模型層各精度占比統(tǒng)計(jì)

4.3模型網(wǎng)絡(luò)拓?fù)湔故?/strong>