聯(lián)發(fā)科天璣9300最高可運(yùn)行330億參數(shù)AI大模型

聯(lián)發(fā)科這個(gè)是要把AI大模型帶到手機(jī)端的節(jié)奏嗎？聯(lián)發(fā)科正式發(fā)布了天璣9300旗艦5G生成式AI移動芯片，天璣9300號稱最高可運(yùn)行330億參數(shù)AI大模型。

MediaTe天璣9300采取了全大核的CPU架構(gòu)，包含4個(gè)Cortex-X4超大核，最高頻率可達(dá)3.25GHz，以及4個(gè)主頻為2.0GHz的Cortex-A720大核，天璣9300的峰值性能相較上一代提升40%，功耗則可以節(jié)省33%。而且天璣9300集成MediaTek第七代AI處理器APU 790，APU 790內(nèi)置了硬件級的生成式AI引擎，這個(gè)內(nèi)置生成式AI引擎，能夠支持終端運(yùn)行10億、70億、130億、最高可達(dá)330億參數(shù)的AI大語言模型。

為了運(yùn)行億級參數(shù)大語言模型，MediaTek開發(fā)了混合精度 INT4量化技術(shù)，再結(jié)合MediaTek特有的內(nèi)存硬件壓縮技術(shù)NeuroPilot Compression，和APU 790支持的“技能擴(kuò)充”技術(shù)NeuroPilot Fusion從而使得天璣9300能力強(qiáng)悍。

同時(shí)，聯(lián)發(fā)科AI開發(fā)平臺NeuroPilot能夠支持Meta LIama 2、百度文心一言大模型、百川智能百川大模型等前沿主流AI大模型。

天璣9300采用的是臺積電第三代4nm制程，天璣9300還采用了新一代旗艦12核GPU Immortalis-G720和ISP影像處理器Imagiq 990。

天璣9300支持LPDDR5T 9600Mbps內(nèi)存，天璣9300還支持Wi-Fi 7，支持60FPS的光線追蹤，集成了OIS光學(xué)防抖專核。年底或者我們就可以看到搭載天璣9300的手機(jī)了，大家期待嗎？

此外我們也看到在第六屆中國國際進(jìn)口博覽會上，高通中國區(qū)董事長孟樸在出席演講時(shí)候表示：生成式AI將使手機(jī)成為真正的數(shù)字化助手?；蛘呶磥碓谑謾C(jī)本地運(yùn)行AI大模型是大勢所趨。