大模型的能力邊界在不斷拓寬，主流云端大模型普遍具備了多模態(tài)推理能力。技術(shù)路線上，也不再局限于算力堆疊，而是探索強(qiáng)化學(xué)習(xí)、符號推理、類腦計算等新路徑。并且，投入更小、更垂直的小模型涌現(xiàn)，為特定領(lǐng)域的應(yīng)用提供了更高效的解決方案。與此同時，我國大模型領(lǐng)域仍然存在多方面痛點(diǎn)，例如：云端訓(xùn)練成本高、高端算力存在“卡脖子”風(fēng)險、優(yōu)質(zhì)數(shù)據(jù)匱乏、人才缺口、AI算法開源生態(tài)仍需強(qiáng)化、數(shù)據(jù)安全和隱私問題等等，仍是市場進(jìn)一步發(fā)展和應(yīng)用落地的不確定因素。芯片側(cè)也掀起范式之爭。盡管GPU仍是基于Transformer框架及多種AI工作負(fù)載的不二之選，不過，近來先有博通AI芯片收入飆升220%、市值首破萬億美元大關(guān)，接著寒武紀(jì)市值一度突破3000億、問鼎“AI股王”，業(yè)界關(guān)于“GPU到ASIC范式大轉(zhuǎn)變”的聲音開始不絕于耳。

種種跡象顯示，2025年的AI應(yīng)用市場正處在關(guān)鍵轉(zhuǎn)折點(diǎn)上，商業(yè)變現(xiàn)的可能性與不確定性并存。

AI變現(xiàn)，哪些背景和預(yù)期？

Arm中國區(qū)業(yè)務(wù)全球副總裁鄒挺認(rèn)為，AI工作負(fù)載大幅增加，對計算資源的需求同步激增。同時，AI模型的復(fù)雜性和應(yīng)用場景的多樣化導(dǎo)致了能源消耗的增加，特別是AI訓(xùn)練和推理中，需要使用大量能源和電力。因此，整個產(chǎn)業(yè)對能效問題表現(xiàn)出了前所未有的關(guān)注，行業(yè)正在尋求更高性能、更低功耗的解決方案，以應(yīng)對這些挑戰(zhàn)。

Imagination公司產(chǎn)品管理副總裁Dennis Laudick表示，2024 年是邊緣AI成為主流的一年。在過去的 18 個月里，圍繞基于Transformer框架的模型數(shù)量激增，徹底改變了自然語言處理等AI應(yīng)用的能力。正因如此，使得實時翻譯和對話式個人助手等應(yīng)用能夠在消費(fèi)類設(shè)備上運(yùn)行，而非依靠云端。中存算董事長陳巍比較關(guān)注視頻大模型應(yīng)用的崛起和下沉。在他看來，視頻是人類自然交互的主流模式，視頻大模型也是通向未來世界模型的必經(jīng)之路。相對傳統(tǒng)的文本類大模型和Chatbot，視頻大模型對計算芯片有更高的要求，對傳統(tǒng)的GPGPU架構(gòu)提出了新的巨大挑戰(zhàn)。他認(rèn)為，視頻大模型的需求爆發(fā)很可能會重構(gòu)算力芯片產(chǎn)業(yè)的格局，博通DSA（ASIC）芯片的需求上漲可能只是前奏。

安謀科技產(chǎn)品總監(jiān)鮑敏祺則談到，2024年可以被視作端側(cè)AI元年，目前這一趨勢已成為行業(yè)普遍共識，并逐步成為芯片、終端制造、操作系統(tǒng)、大模型、AI應(yīng)用等各大廠商爭相投入的重點(diǎn)領(lǐng)域。同時，全球科技巨頭也紛紛在AI手機(jī)、AIPC、智駕智艙等新興應(yīng)用場景進(jìn)行“重兵部署”，極大地帶動了端側(cè)AI創(chuàng)新浪潮的高速演進(jìn)。

2025年，AI應(yīng)用變現(xiàn)的關(guān)鍵轉(zhuǎn)折？

隨著多模態(tài)AI、推理AI等發(fā)展，以及大模型能力的普及，2025年會是AI應(yīng)用變現(xiàn)的關(guān)鍵轉(zhuǎn)折點(diǎn)嗎？陳巍認(rèn)為，2025年會出現(xiàn)明顯的剪刀差。一方面是AI應(yīng)用大規(guī)模滲透到編程、政企辦公、教育、工業(yè)場景帶來的增量，另一方面是全球的需求變緩和區(qū)域沖突帶來的緊縮，這也就意味著機(jī)遇和風(fēng)險并存，對企業(yè)決策層的市場感知能力和趨勢預(yù)見能力提出很高的要求。不過，樂觀的方面在于，中國大陸依然具備全世界最完備的產(chǎn)業(yè)鏈，相對全球可以具備更好的成本優(yōu)勢。挑戰(zhàn)在于，中國產(chǎn)業(yè)界需要進(jìn)一步提升在AI生態(tài)的話語權(quán)。Dennis Laudick談到了AI商業(yè)化變現(xiàn)途徑的多元化，他認(rèn)為會因行業(yè)而異，比如在移動領(lǐng)域，AI正被用作提升設(shè)備銷量的品牌差異化策略，以推動銷量增長并增強(qiáng)用戶忠誠度。在汽車等其他市場，軟件定義汽車使得汽車制造商（OEM）能夠根據(jù)消費(fèi)者偏好的價格點(diǎn)來提供不同級別的新功能，例如自動駕駛功能，并且能夠通過OTA更新，升級AI功能來拓展商業(yè)化路徑。鮑敏祺認(rèn)為，2025年有望成為端側(cè)AI商業(yè)化落地的關(guān)鍵節(jié)點(diǎn)，更多端側(cè)AI芯片解決方案將陸續(xù)面世，支撐端側(cè)AI應(yīng)用的快速演化與落地，期待涌現(xiàn)更多成熟、商業(yè)化路徑清晰的AI解決方案。但挑戰(zhàn)依然嚴(yán)峻，主要問題在于不同技術(shù)架構(gòu)下AI算法開發(fā)的理念存在差異，傳統(tǒng)CNN模式下的能效比思維慣性已難以適用于當(dāng)前快速迭代、部署的新要求，進(jìn)而影響算法使用者能否快速將算法部署到端側(cè)。因此，聚焦前沿AI算法演進(jìn)趨勢，并實現(xiàn)快速響應(yīng)，將成為端側(cè)AI研發(fā)工作的關(guān)鍵。

后摩智能聯(lián)合創(chuàng)始人、產(chǎn)品副總裁信曉旭對2025年AI應(yīng)用變現(xiàn)持相對樂觀態(tài)度，認(rèn)為AI技術(shù)進(jìn)步、市場需求增長，提供了商業(yè)化的基礎(chǔ)和空間。特別是在端側(cè)AI方面，有望迎來爆發(fā)，比如AI PC等應(yīng)用的擴(kuò)展，需要支持端側(cè)AI大模型運(yùn)行的芯片提供強(qiáng)大算力支持。同時，落地傳統(tǒng)行業(yè)，需要AI解決方案提供商需具備技術(shù)能力和行業(yè)知識，這對許多技術(shù)公司是挑戰(zhàn)。

AI變現(xiàn)，哪些機(jī)遇和挑戰(zhàn)？

正如多位受訪人對<與非網(wǎng)>所說，端側(cè)和邊緣AI落地已經(jīng)成為業(yè)界關(guān)注的焦點(diǎn)。綜合各方觀點(diǎn)來看，變現(xiàn)挑戰(zhàn)主要在于以下兩方面：第一，成本控制、算法快速迭代與實時性要求；第二，AI生態(tài)與技術(shù)協(xié)同。

成本、算法與實時性

Dennis Laudick認(rèn)為，軟件開發(fā)成本是目前企業(yè)實施AI的一大障礙，特別是邊緣AI系統(tǒng)中專用AI加速器的軟件難度更大，它雖能實現(xiàn)高TOPS性能，但面臨兩大挑戰(zhàn)：第一，可能不適用于汽車等產(chǎn)品生命周期內(nèi)的AI算法；第二，缺乏通用軟件棧和工具，代碼移植困難。Imagination在這方面的AI策略是，基于成熟GPU和并行計算架構(gòu)，提供高性能、靈活、易編程的計算平臺，支持高度并行的AI加速，并配備了基于開放標(biāo)準(zhǔn)和廣泛支持框架的計算軟件棧。在陳巍看來，目前AI落地的大挑戰(zhàn)主要有兩個，一個是AI應(yīng)用的準(zhǔn)確度，或者說是相對人類智力的水平；另一個是AI應(yīng)用的性價比，也就是能不能比人工更便宜。事實上，后者是目前阻礙AI應(yīng)用落地的最大因素，例如GPT-o3的解題成本據(jù)說高達(dá)3000美元，這使得標(biāo)準(zhǔn)o3的落地受到成本擠壓的閑置。

在降成本方面，中存算目前借助自研的大模型來輔助芯片設(shè)計，以降低研發(fā)成本；另一方面，使用存算一體和先進(jìn)封裝集成技術(shù)降低AI芯片的單位Token成本。鮑敏祺則認(rèn)為，大模型在端側(cè)部署的一大挑戰(zhàn)在于如何實現(xiàn)算法的快速迭代。在當(dāng)前以Transformer架構(gòu)為主流的大模型時代，算法更加多樣、迭代更加快速。此前，端側(cè)AI算法的設(shè)計思路側(cè)重于極盡所能去優(yōu)化功耗、性能和面積，例如將計算精度限定于int8甚至更低，導(dǎo)致算法遷移成本攀升。尤其是將云端開發(fā)好的算法部署到端側(cè)時，需要進(jìn)行大量的剪枝、量化等處理，所需周期會非常長，嚴(yán)重影響了實時性。安謀科技正在研發(fā)的下一代“周易”NPU通過增加高精度fp16算力并支持包括int8/int16/fp16等在內(nèi)的多精度計算，以及W4A16硬件加速、帶寬壓縮加速技術(shù)和多核高性能協(xié)同等一系列調(diào)優(yōu)措施，能更好地兼容傳統(tǒng)視覺及語音模型的輕算力場景和大模型的中算力場景。信曉旭認(rèn)為，AI應(yīng)用的下一個爆發(fā)點(diǎn)極有可能在端側(cè)出現(xiàn)。當(dāng)前，AI落地和傳統(tǒng)行業(yè)轉(zhuǎn)型的最大挑戰(zhàn)在于滿足端邊側(cè)大模型部署的“三高三低”要求：即對硬件的高算力、高帶寬、高精度需求，以及對低功耗、低延時、低成本的追求。傳統(tǒng)的CPU和GPU在這些方面存在局限，尤其是在成本和功耗方面，端邊側(cè)大模型需要更高性能、更高效率的AI芯片來支持。后摩智能利用存算一體技術(shù)打造的AI芯片，在保持低功耗的同時，能夠?qū)崿F(xiàn)與傳統(tǒng)GPU相當(dāng)?shù)乃懔?，并且無需占用系統(tǒng)內(nèi)存，在成本和性能上都具有優(yōu)勢。

AI生態(tài)與技術(shù)協(xié)同

鄒挺表示，行業(yè)對于算力、性能、能效以及縮短上市時間的需求都在不斷攀升。因此，構(gòu)建計算的方式需要隨之演變，芯片不再是一個由離散模塊或組件以模塊化的方式構(gòu)建的簡單集合，需要從整體解決方案的角度進(jìn)行設(shè)計，也需要更深度的集成，更多的功能需要協(xié)作共存，以實現(xiàn)更低的延遲、更高的帶寬，以及更高的能效。為充分釋放AI的潛力，Arm從系統(tǒng)層面思考問題，將硬件、軟件和生態(tài)無縫集成到一個全面的解決方案，通過Arm計算子系統(tǒng)(CSS)和軟件生態(tài)系統(tǒng)來推動行業(yè)發(fā)展。他指出，由于專用AI處理器開發(fā)周期較長，高能效CPU在AI初期成為推理核心；隨著技術(shù)發(fā)展和場景多樣化，定制化專用AI加速器興起，CPU與GPU、NPU等異構(gòu)單元協(xié)同工作，平衡推理性能、成本和功耗。在AI推理及應(yīng)用的各個階段，高能效CPU都發(fā)揮著關(guān)鍵作用。

阿里巴巴達(dá)摩院資深技術(shù)專家李春強(qiáng)認(rèn)為，AI技術(shù)落地催生的模型推理需求，對硬件提出了更高要求，他強(qiáng)調(diào)RISC-V作為新興芯片架構(gòu)，其開放性和可定制性具有獨(dú)特優(yōu)勢。達(dá)摩院玄鐵團(tuán)隊針對AI模型定制的Matrix擴(kuò)展指令集，提升基于RISC-V芯片的端側(cè)AI能效，已首次應(yīng)用于玄鐵C907處理器；并且針對當(dāng)前的主流網(wǎng)絡(luò)特征，進(jìn)行了端到端推理優(yōu)化，通過創(chuàng)新硬件架構(gòu)提升算力利用效率。軟硬件一體的玄鐵AI平臺解決方案，可以為芯片廠家提供通用的、高效的AI算力基礎(chǔ)設(shè)施，已應(yīng)用于云端視頻轉(zhuǎn)碼卡、AI邊緣計算盒子、RISC-V筆記本電腦等終端產(chǎn)品。

變現(xiàn)去！國產(chǎn)AI芯片與大模型如何互為促進(jìn)？

縱觀大模型的商業(yè)落地，高度集成的軟硬件一體化方案在滿足特定需求方面有優(yōu)勢。那么，國產(chǎn)AI芯片與大模型在商業(yè)落地方面如何互為促進(jìn)？有哪些新趨勢？李春強(qiáng)表示，AI芯片與大模型互為促進(jìn)，具體表現(xiàn)為：大模型需求驅(qū)動芯片創(chuàng)新，推動芯片開發(fā)高效硬件架構(gòu)，如支持并行計算的NPU、多模態(tài)協(xié)同處理的IP設(shè)計；同時，AI芯片加速大模型訓(xùn)練和推理，提供本地化、高性價比算力，降低硬件成本，縮短研發(fā)周期。三大趨勢正在發(fā)生：第一，大模型專用加速芯片興起，支持稀疏矩陣運(yùn)算、低精度計算等，優(yōu)化Transformer模型訓(xùn)練和推理效率，提升GPT、BERT等模型性能；第二，AI芯片從通用算力走向定制算力，滿足不同場景大模型應(yīng)用的多樣化算力需求；第三，芯片-模型-算法的三位一體優(yōu)化，通過硬件加速深度學(xué)習(xí)模型的注意力機(jī)制、動態(tài)路由技術(shù)等，實現(xiàn)芯片算力最優(yōu)利用。鮑敏祺則看到，高度集成的軟硬件一體化方案過去多用于智能眼鏡、低功耗手機(jī)攝像頭等ISP相關(guān)場景，追求極致成本控制，投入產(chǎn)出比并不理想。而端側(cè)AI領(lǐng)域，正在從專適專用芯片或IP設(shè)計方法，逐步轉(zhuǎn)變?yōu)榫邆涓ㄓ么竽Ｐ椭С帜芰Φ姆绞?。大模型時代，AI算法加速迭代，這就需要快速部署、找到用戶高頻使用熱點(diǎn)并獲取反饋以調(diào)優(yōu)算法。并且，云端到端側(cè)部署更看重快速迭代能力而非極致成本控制，只有快速部署、抓住用戶才是實現(xiàn)良好商業(yè)落地的關(guān)鍵。

陳巍談到，目前看到的大部分情況是大模型需要遷就國產(chǎn)AI芯片，進(jìn)行相對復(fù)雜的適配，但國產(chǎn)AI芯片確實在規(guī)避算力禁運(yùn)方面起到了非常大的作用。盡管大部分國產(chǎn)AI芯片和大模型還處于各自為戰(zhàn)的情況，預(yù)計未來會有更多的國產(chǎn)AI芯片與大模型進(jìn)行深度適配和架構(gòu)優(yōu)化，降低大模型的部署成本。

寫在最后

對AI應(yīng)用變現(xiàn)的預(yù)期，是多年來技術(shù)發(fā)展與市場需求共振的結(jié)果，顯示出市場對AI應(yīng)用價值的認(rèn)可和期待。盡管AI領(lǐng)域的競爭比任何時候都更為激烈，但技術(shù)迭代的速度在加快，大模型賦能的AI應(yīng)用正在多種場景迅速普及，AI的實際滲透率在逐步增長，這也預(yù)示著AI應(yīng)用變現(xiàn)的潛力和廣闊前景。

文章來源于與非網(wǎng)eefocus，作者張慧娟