安霸在CES 2024上發(fā)布了全新的N1系列生成式AI芯片，這是一款專門為前端設(shè)備設(shè)計(jì)的芯片，支持本地運(yùn)行大型語言模型（LLM）應(yīng)用。其單顆SoC能夠支持1至340億參數(shù)的多模態(tài)大模型（Multi-Modal LLM）推理，從而實(shí)現(xiàn)低功耗的生成式AI功能。

在展會(huì)期間，安霸展示了在其新款N1系列SoC上運(yùn)行多模態(tài)大模型的強(qiáng)大能力。令人印象深刻的是，與當(dāng)前市場上的通用GPU解決方案相比，該芯片每次推理的功耗顯著降低。這顯示出安霸在提高AI處理效率和降低功耗方面的領(lǐng)先技術(shù)。

安霸計(jì)劃在中高端SoC上提供已優(yōu)化的生成式AI處理，以滿足不同應(yīng)用場景的需求。這些AI SoC包括了功耗低于5瓦的CV72芯片以及最新的N1芯片，后者可應(yīng)用于服務(wù)器端，功耗低于50瓦。這樣的設(shè)計(jì)使得安霸的解決方案更具競爭力，尤其是在需要高效能、低功耗的邊緣計(jì)算領(lǐng)域。

相比其他AI加速器，如GPU，安霸提供的完整SoC解決方案具有顯著的優(yōu)勢(shì)。其每生成一個(gè)token的能效比最高可提高3倍，這意味著在相同的性能下，安霸的解決方案能夠顯著降低能耗，從而延長設(shè)備的續(xù)航時(shí)間。此外，安霸的解決方案還具有快速、低成本的部署優(yōu)勢(shì)，使得終端產(chǎn)品能夠更快地進(jìn)入市場并降低總體成本。

總而言之，安霸的N1系列生成式AI芯片為前端設(shè)備提供了強(qiáng)大的AI處理能力，同時(shí)實(shí)現(xiàn)了低功耗和高能效比。這將有助于推動(dòng)生成式AI在各種終端設(shè)備中的應(yīng)用，包括智能手機(jī)、智能家居、智能汽車等領(lǐng)域的創(chuàng)新和發(fā)展。隨著技術(shù)的不斷進(jìn)步和應(yīng)用的不斷擴(kuò)展，安霸有望成為AI芯片市場的領(lǐng)導(dǎo)者之一。