“分析”是一個非常普通的術(shù)語，用于關(guān)聯(lián)和消化原始數(shù)據(jù)以產(chǎn)生更有用的結(jié)果。分析算法可以簡單到就像數(shù)據(jù)規(guī)約或?qū)σ贿B串傳感器讀數(shù)求平均值，也可以復(fù)雜到就像最錯綜復(fù)雜的人工智能或機器學(xué)習(xí) (AI/ML) 系統(tǒng)。如今，分析通常在云端執(zhí)行，因為它是最具可擴展性和成本效益的解決方案。但在未來，分析將越來越多地分散到云、邊緣計算和端點設(shè)備上，以利用它們改進的延遲、網(wǎng)絡(luò)帶寬、安全性和可靠性。在這里，我們將討論把分析功能分布到傳統(tǒng)的云邊界之外所涉及的一些架構(gòu)和權(quán)衡。

分布式分析如何增值

簡單的分析包括數(shù)據(jù)規(guī)約、關(guān)聯(lián)和求平均值，結(jié)果是輸出一串比輸入數(shù)據(jù)小得多的數(shù)據(jù)。例如，一座大樓的淡水供應(yīng)系統(tǒng)。為了優(yōu)化水泵和監(jiān)測消耗，了解系統(tǒng)中各點的壓力和流量可能很有價值。這會涉及到分布在輸配管道周圍的壓力和流量傳感器陣列。軟件定期詢問傳感器，調(diào)整泵的設(shè)置，并為大樓管理人員生成用水報告。但是，傳感器的原始讀數(shù)可能具有誤導(dǎo)性—例如，沖洗固定裝置時的瞬時壓降。分析算法可以對指定傳感器一段時間內(nèi)的讀數(shù)求平均值，并結(jié)合和關(guān)聯(lián)多個傳感器的讀數(shù)，以生成更準確、有用的管道狀況圖。所有這些讀數(shù)都可以發(fā)送到位于云端的分析系統(tǒng)，但如果傳感器自己做一些平均計算，讓本地邊緣計算機進行關(guān)聯(lián)和報告，這將是一個更高效的架構(gòu)。這就是分布式分析，可以改善許多分析系統(tǒng)的效率、準確性和成本。

當(dāng)采用人工智能/機器學(xué)習(xí) (AI/ML) 技術(shù)時，分析會變得更加復(fù)雜。人工智能/機器學(xué)習(xí)通常分為兩個階段：

一個是建模階段。在這個階段，大量的數(shù)據(jù)被提取出來，為AI/ML系統(tǒng)生成一個模型

一個是推斷階段。在這個階段，將模型應(yīng)用于系統(tǒng)中的數(shù)據(jù)流，以生成期望的結(jié)果（通常是實時的）

在當(dāng)今的系統(tǒng)中，這些模型幾乎總是建在大型服務(wù)器場或云端，通常是離線部署。然后，將生成的AI/ML模型打包并發(fā)送到不同的系統(tǒng)，這些系統(tǒng)使用實時數(shù)據(jù)運行模型的推斷階段，生成所需的結(jié)果。推斷階段可以在云端運行，但最近一直在向邊緣轉(zhuǎn)移，以改善延遲、網(wǎng)絡(luò)帶寬、可靠性和安全性。在決定每個階段使用哪個級別的計算資源時，需要認真考慮各個權(quán)衡因素。

AI/ML的推斷階段

AI/ML的推斷階段相對容易分布在多個同級處理器上，或者沿處理層的層次結(jié)構(gòu)上下分布。如果模型經(jīng)過預(yù)先計算，那么AI/ML算法使用的數(shù)據(jù)就可以在多個處理器之間進行劃分且并行計算。在多個同級處理器之間劃分工作負載帶來了容量、性能和規(guī)模優(yōu)勢，因為隨著工作負載的增加，可以調(diào)動更多的計算資源去承擔(dān)。它還可以提高系統(tǒng)的可靠性，因為如果一個處理器出現(xiàn)故障，鄰近的處理器仍然可以完成工作。推斷操作也可以在一個層次結(jié)構(gòu)的多個層次之間進行劃分，也許算法的不同部分會在處理器的不同層次上運行。這讓AI/ML算法能夠以合乎邏輯的方式進行劃分，允許層次結(jié)構(gòu)的每一級執(zhí)行最高效的算法子集。 例如，在視頻分析AI/ML系統(tǒng)中，攝像頭中的智能功能可以執(zhí)行自適應(yīng)對比度增強，將這些數(shù)據(jù)交給邊緣計算機執(zhí)行特征提取，將其發(fā)送到鄰近的數(shù)據(jù)中心進行對象識別，最后，云端可以執(zhí)行高級功能，如威脅檢測或熱圖生成。這可以是一種高效的分區(qū)。

AI/ML算法的學(xué)習(xí)階段

對AI/ML算法的學(xué)習(xí)階段進行分布難度更大。問題是上下文的大小。為了準備模型，AI/ML系統(tǒng)需要大批量的訓(xùn)練數(shù)據(jù)，并用各種復(fù)雜的學(xué)習(xí)階段算法對其進行消化，從而生成一個在推斷階段相對容易執(zhí)行的模型。如果在一個給定的計算節(jié)點上只有一部分訓(xùn)練數(shù)據(jù)可用，算法在推廣模型時會遇到困難。這就是為何訓(xùn)練通常在云端進行。在云端，內(nèi)存和存儲空間幾乎是無限的。但是，某些場景需要將訓(xùn)練算法分布在多個同級計算節(jié)點上，或者在云-到邊緣的層次結(jié)構(gòu)中上下分布。特別是，邊緣學(xué)習(xí)能夠從附近的傳感器收集大量的訓(xùn)練數(shù)據(jù)，并在沒有云參與的情況下利用數(shù)據(jù)，這樣可以改善延遲、可靠性、安全性和網(wǎng)絡(luò)帶寬。為了解決這些挑戰(zhàn)，目前正在開發(fā)先進的分布式學(xué)習(xí)算法。

結(jié)論

AI/ML是幾乎所有電子系統(tǒng)未來必須具備的重要能力。這些系統(tǒng)的推斷和訓(xùn)練能力如何在計算資源的層次結(jié)構(gòu)中進行劃分？存在哪些選項？了解這些選項是我們未來成功的關(guān)鍵。

審核編輯：郭婷