互聯(lián)網(wǎng)已經(jīng)深入滲透到我們生活的方方面面,從溝通交流到購物消費(fèi),再到工作生產(chǎn),其影響無處不在。然而,隨著互聯(lián)網(wǎng)不斷向網(wǎng)絡(luò)邊緣拓展,出于對延遲、隱私及成本效益的綜合考量,“物聯(lián)網(wǎng)”概念應(yīng)運(yùn)而生,為現(xiàn)代生活提供了全新的可能性。

在人工智能技術(shù)的助力下,互聯(lián)網(wǎng)服務(wù)已經(jīng)開始趨向便捷化、個性化和智能化。然而,目前的人工智能技術(shù)仍然高度依賴云端大型服務(wù)器和高性能計算能力,這在一定程度上限制了其應(yīng)用場景。正因如此,像Hailo這樣的企業(yè)正著眼于解決延遲、隱私和成本效益等問題,積極研發(fā)邊緣人工智能技術(shù),以期推動更為廣泛的應(yīng)用。

生成式人工智能無疑是下一個引領(lǐng)時代的大趨勢,它在各行各業(yè)均顯露出無可估量的潛能。對于創(chuàng)作者群體——諸如律師、文字創(chuàng)作者、平面設(shè)計師等,生成式人工智能不僅可為他們簡化工作流程,更能大幅提升工作效率。在醫(yī)療領(lǐng)域,生成式人工智能有助于研發(fā)新型治療藥物,甚至輔助醫(yī)療程序。此外,通過視頻、音頻、圖像等的智能合成技術(shù),生成式人工智能還能促進(jìn)工業(yè)自動化、推動新軟件代碼的開發(fā),并顯著提升交通運(yùn)輸?shù)陌踩浴?/p>

然而,目前生成式人工智能的發(fā)展仍受到技術(shù)層面的限制。這主要是因?yàn)槠溥\(yùn)算過程主要發(fā)生在云端——即遠(yuǎn)離用戶的大型數(shù)據(jù)中心。這些數(shù)據(jù)中心依賴昂貴且能耗高的計算機(jī)處理器來維持運(yùn)行。每當(dāng)用戶向ChatGPT這類生成式人工智能工具或新型人工智能視頻會議解決方案發(fā)出指令時,請求都需要通過互聯(lián)網(wǎng)傳輸至云端進(jìn)行處理,處理完的結(jié)果再通過網(wǎng)絡(luò)返回給用戶。數(shù)據(jù)中心作為主要的能耗場所,隨著人工智能的廣泛應(yīng)用,全球能耗預(yù)計將急劇上升。這對于那些需要在創(chuàng)新解決方案與降低運(yùn)營成本及環(huán)境影響之間尋求平衡的公司來說,無疑是一個日益嚴(yán)重的問題。

隨著企業(yè)不斷開發(fā)出新的生成式人工智能應(yīng)用,并將其部署到各種類型的設(shè)備上——包括攝像機(jī)、安全系統(tǒng)、工業(yè)和私人機(jī)器人、筆記本電腦乃至汽車,云端在帶寬、成本、安全性以及連接性等方面的局限性愈發(fā)凸顯,成為了一個亟待解決的瓶頸問題。

在駕駛輔助、個人電腦軟件、視頻會議和安全等領(lǐng)域的應(yīng)用中,頻繁地在網(wǎng)絡(luò)上傳輸數(shù)據(jù)可能會引發(fā)潛在的隱私泄露風(fēng)險。而基于邊緣計算的生成式人工智能技術(shù)則有望為眾多新興應(yīng)用帶來巨大的益處,不僅能夠提升處理效率,還能更好地保護(hù)用戶隱私。

生成式人工智能正在崛起

近年來,視頻會議已成為我們大多數(shù)人的日常。軟件公司已經(jīng)開始將多種形式的人工智能技術(shù)融入視頻會議解決方案中,其目的或許是為了實(shí)時優(yōu)化音視頻質(zhì)量,抑或是將與會者置于同一虛擬空間。如今,借助生成式人工智能的視頻會議系統(tǒng)能夠自動創(chuàng)建會議記錄,并在討論不同主題時,實(shí)時從資源庫中調(diào)取相關(guān)信息。

然而,若智能汽車、視頻會議系統(tǒng)或其他邊緣設(shè)備無法與云端建立連接,生成式人工智能的體驗(yàn)便無法實(shí)現(xiàn)。那么,如果這些設(shè)備無需連接云端又能如何呢?盡管考慮到云端人工智能的強(qiáng)大處理能力,這看似是一項(xiàng)艱巨的挑戰(zhàn),但如今這一愿景正逐步變?yōu)楝F(xiàn)實(shí)。

邊緣生成式人工智能

目前市場上已存在一些生成式人工智能工具,這些工具能自動創(chuàng)建內(nèi)容豐富、引人入勝的演示文稿。然而,用戶期望即便是在沒有互聯(lián)網(wǎng)連接的情況下這些工具也能正常工作。

同樣值得關(guān)注的是,我們已見證了一種基于生成式人工智能的新型“副駕駛”助手的誕生。這類助手通過自動化眾多常規(guī)任務(wù)(例如生成報告或數(shù)據(jù)可視化),將深刻改變我們與計算設(shè)備的交互方式。設(shè)想一下,當(dāng)你打開筆記本電腦時,其攝像頭能夠識別你的身份,并依據(jù)你經(jīng)常使用的工具(如Outlook、Teams、Slack、Trello等)自動為你生成當(dāng)天、當(dāng)周乃至當(dāng)月的計劃。但為了確保數(shù)據(jù)隱私并提升用戶體驗(yàn),用戶須有權(quán)選擇在本地運(yùn)行生成式人工智能,以避免數(shù)據(jù)的遠(yuǎn)程傳輸和處理。

除了能夠應(yīng)對不穩(wěn)定的網(wǎng)絡(luò)連接和數(shù)據(jù)隱私問題,邊緣人工智能還具備降低帶寬需求并提升應(yīng)用程序性能的顯著優(yōu)勢。舉例來說,若一個生成式人工智能應(yīng)用程序正在云端創(chuàng)建數(shù)據(jù)豐富的內(nèi)容,比如虛擬會議空間,此過程可能會受到可用帶寬(且價格昂貴)的限制而導(dǎo)致延遲。而對于某些類型的生成式人工智能應(yīng)用,如安全監(jiān)控、機(jī)器人技術(shù)或醫(yī)療保健,它們對高性能、低延遲的響應(yīng)有著很高的要求,這是云端連接所無法滿足的。

在視頻安防領(lǐng)域,當(dāng)目標(biāo)人物在多個攝像頭間移動,特別是在網(wǎng)絡(luò)無法覆蓋的區(qū)域,就需要在攝像頭內(nèi)部集成數(shù)據(jù)模型和人工智能處理能力。在這種情境下,生成式人工智能能夠通過簡單的查詢指令(例如,“查找穿著紅色T恤、戴著棒球帽的8歲孩子”)來自動描述攝像頭捕捉到的內(nèi)容。

這便是邊緣生成式人工智能。

邊緣人工智能的發(fā)展

通過運(yùn)用新型人工智能處理器,研發(fā)更為精簡、高效且性能強(qiáng)大的生成式人工智能數(shù)據(jù)模型,可以設(shè)計出即便在無法或不適宜使用云連接的情況下,也能實(shí)現(xiàn)智能運(yùn)行的邊緣設(shè)備。

當(dāng)然,云處理在生成式人工智能領(lǐng)域仍占據(jù)重要地位。例如,人工智能模型的訓(xùn)練環(huán)節(jié)依舊依賴于云端。然而,將用戶輸入應(yīng)用于這些模型的行為卻可以在邊緣端完成。

當(dāng)前,業(yè)界正在積極研發(fā)更為精簡、小巧且高效的人工智能模型,這些模型可被輕松加載至邊緣設(shè)備上。諸如Hailo之類的企業(yè)專注于生產(chǎn)專用于執(zhí)行神經(jīng)網(wǎng)絡(luò)處理的人工智能處理器。這類神經(jīng)網(wǎng)絡(luò)處理器不僅處理人工智能模型的速度極快,而且功耗更低,從而顯著提升了能源利用效率,使其廣泛適用于從智能手機(jī)到攝像頭的各類邊緣設(shè)備。

在邊緣運(yùn)用生成式人工智能,可以有效地平衡不斷增長的工作負(fù)載,使應(yīng)用程序能夠?qū)崿F(xiàn)更為穩(wěn)定的擴(kuò)展,降低云數(shù)據(jù)中心的昂貴處理成本,并有助于減少對環(huán)境的影響。生成式人工智能正處于再次改變計算領(lǐng)域的邊緣。未來,筆記本電腦上的大型語言模型可能會像如今的操作系統(tǒng)一樣實(shí)現(xiàn)自動更新,并以相似的方式運(yùn)行。然而,為了實(shí)現(xiàn)這一目標(biāo),我們需要在網(wǎng)絡(luò)邊緣啟用生成式人工智能處理。這一舉措有望帶來性能提升、能源利用效率提高、安全性與隱私性增強(qiáng)的多重效益。所有這些因素都將共同推動人工智能應(yīng)用程序像生成式人工智能技術(shù)本身一樣,重塑我們的世界。

面對科技行業(yè)的持續(xù)變革,Hailo正積極探索并研發(fā)邊緣人工智能技術(shù),致力于挖掘生成式人工智能與新興邊緣應(yīng)用的結(jié)合所帶來的無限潛能。隨著邊緣生成式人工智能技術(shù)的不斷進(jìn)步,一個更加智能、高效且環(huán)保的計算新時代將展現(xiàn)在我們面前。2024年臺北國際電腦展(Computex Taipei)將于6月4日至7日在臺北南港展覽館隆重舉行,屆時,Hailo將展示其領(lǐng)先的生成式人工智能解決方案。Hailo誠邀業(yè)界同仁、技術(shù)愛好者以及尋求創(chuàng)新解決方案的企業(yè)代表蒞臨參觀。

審核編輯 黃宇