這個樣例的預處理流水線將一個原始RDD通過一系列的轉換，轉成一個Batch的RDD。其中，ByteToMat把Byte圖片轉換成OpenCV的Mat存儲格式，Resize將圖片的調整為300x300的大小，MatToFloats將Mat里的像素存成Float數組的格式，并減去對應通道的均值。最后，RoiImageToBatch把數據組成Batch，作為模型的輸入，用于預測或訓練。

加載模型

用戶可以方便地使用BigDL加載預訓練好的模型，在Spark程序中直接使用。給定BigDL模型文件，即可調用Module.load得到模型。

另外，BigDL也支持第三方深度學習框架模型的導入，如Caffe，Torch，TensorFlow。

用戶可以很方便地加載已經訓練好的模型，用于數據預測，特征提取，模型微調等。以Caffe為例，Caffe的模型由兩個文件組成，模型prototxt定義文件和模型參數文件。如下所示，用戶可以很容易地將預訓練好的Caffe模型加載到Spark和BigDL程序中。

性能

我們對基于Caffe的GPU集群解決方案和基于BigDL的Xeon集群解決方案進行了性能基準測試，測試均運行在京東的內部集群環(huán)境里。

測試標準

端到端的圖片處理和分析流水線，包括：

從分布式的開源數據庫中讀取圖片（從圖片源下載圖片到內存）

輸入到目標檢測模型和特征提取模型進行特征抽取

將結果（圖片路徑和特征）保存到文件系統

注：下載因素成為端到端總體吞吐率的重要影響因素，在這個案例里面，這部分耗時占處理總耗時（下載+檢測+特征）約一半。GPU服務器對下載這部分的處理是無法利用GPU加速的。

測試環(huán)境

GPU: NVIDIA Tesla K40，20張卡并發(fā)執(zhí)行
CPU: Intel(R) Xeon(R) CPU E5-2650 v4 @ 2.20GHz，共1200個邏輯核 （每臺服務器有24個物理核，啟用超線程，配置成YARN的50個邏輯核）

測試結果

Figure 2顯示了Caffe在20個K40并發(fā)處理圖片的吞吐量約為540圖片/秒，而BigDL在1200個邏輯核的YARN（Xeon）集群上對應的吞吐量約為2070圖片/秒。BigDL在Xeon集群上吞吐量上約是GPU集群的3.83倍，極大地縮短了大規(guī)模圖片的處理時間。

測試結果表明，BigDL在大規(guī)模圖片特征提取應用中提供了更好的支持。BigDL的高擴展性，高性能和易用性，幫助京東更輕松地應對海量，爆炸式增長的圖片規(guī)模。基于這樣的測試結果，京東正在將基于GPU集群的Caffe圖片特征提取實現，升級為基于Xeon集群的BigDL方案部署到Spark集群生產環(huán)境中。

Figure 2比較 K40和Xeon在圖片特征提取流水線的吞吐量 結論

BigDL的高擴展性，高性能和易用性，幫助京東更容易地使用深度學習技術處理海量圖片。京東會繼續(xù)將BigDL應用到更廣泛的深度學習應用中，如分布式模型訓練等。

引用

[1]. Liu, Wei, et al. “SSD: Single Shot Multibox Detector.” European conference on computer vision. Springer, Cham, 2016.
[2]. Lin, Kevin, et al. “Learning compact binary descriptors with unsupervised deep neural networks.” Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition, 2016.
[3]. https://github.com/intel-analytics/BigDL
[4]. https://github.com/intel-analytics/analytics-zoo/tree/master/transform/vision
[5].