2024年,在數(shù)字化時(shí)代浪潮中,人工智能正成為推動(dòng)社會(huì)進(jìn)步的關(guān)鍵力量。澎峰科技在人工智能領(lǐng)域持續(xù)深耕,不斷開(kāi)拓創(chuàng)新,書寫著屬于自己的輝煌篇章,為行業(yè)發(fā)展注入了源源不斷的動(dòng)力。
技術(shù)創(chuàng)新與產(chǎn)品突破
1PerfXCloud 大模型服務(wù)平臺(tái)
2024年7月16日,在長(zhǎng)沙聯(lián)合中科曙光發(fā)布PerfXCloud 大模型開(kāi)發(fā)與服務(wù)平臺(tái),目前已經(jīng)完成與國(guó)內(nèi)頭部各智算平臺(tái)的適配(海光、華為、沐曦、天數(shù)智芯、景嘉微等)和聯(lián)合測(cè)試,實(shí)現(xiàn)了全面兼容,為國(guó)產(chǎn)化算力融合提供堅(jiān)實(shí)保障。平臺(tái)已支持超80種大模型的推理、微調(diào)(包括Qwen2.5 系列、Yi-Coder系列、DeepSeek系列、Llama系列、ChatGLM系列等),并不斷豐富模型倉(cāng)庫(kù),以滿足多樣化的應(yīng)用需求,為用戶提供更優(yōu)質(zhì)和便捷的模型服務(wù),幫助智算中心升級(jí)進(jìn)化為超級(jí)AI Foundry。
部署案例:太行實(shí)驗(yàn)室、湘江實(shí)驗(yàn)室、長(zhǎng)沙智算、天津超算、深圳先進(jìn)院、等等。
2PerfXLM高性能大模型推理引擎
2024年5月1日,發(fā)布PerfXLM高性能大模型推理引擎,采用云邊端一體架構(gòu),支持云端和本地推理,完成對(duì)X86、RISC-V、ARM等主流CPU指令集的適配,完成對(duì)NVIDIA、Imagination、CUDA兼容GPU、以及多款NPU的適配,對(duì)計(jì)算硬件平臺(tái)的兼容性、穩(wěn)定性和可靠性上遠(yuǎn)超vLLM。PerfXLM通過(guò)分層架構(gòu)(模型轉(zhuǎn)換層、推理引擎層、性能層),實(shí)現(xiàn)功能的深度優(yōu)化,同時(shí)憑借高性能定制優(yōu)化算子,極大提升推理效率與性能。特別是對(duì)于部分大模型,PerfXLM 展現(xiàn)了無(wú)與倫比的優(yōu)化成果,實(shí)現(xiàn)了平均吞吐量最高達(dá)到 vLLM 的300%的提升,為大模型的高效運(yùn)行筑牢根基。
3PerfXAPI異構(gòu)計(jì)算軟件棧
自2021年4月23日,澎峰科技發(fā)布的PerfXAPI異構(gòu)計(jì)算軟件棧獲得“數(shù)字中國(guó)集成電路賽道|特等獎(jiǎng)”,是我國(guó)發(fā)布的首個(gè)“異構(gòu)計(jì)算軟件?!?/strong>。2024年,發(fā)布PerfXAPI 2.0,支持多卡并行,支持Python等高層編程接口等新特性,扎實(shí)做強(qiáng)我國(guó)自研的PerfXAPI異構(gòu)計(jì)算軟件棧,并已經(jīng)成為國(guó)內(nèi)商業(yè)化程度最好、性能最優(yōu)、支持最全面的國(guó)產(chǎn)異構(gòu)計(jì)算軟件棧,包括且不限于x86/c86 CPU+XPU/DCU、ARM CPU+XPU等。PerfXAPI針對(duì)各類計(jì)算硬件全面支持了BLAS、FTT、VML、VRAND、LAPACK、AI-inference、Custom等庫(kù)函數(shù),為開(kāi)發(fā)者提供一個(gè)開(kāi)放、基于開(kāi)源標(biāo)準(zhǔn)的跨架構(gòu)API編程模型,進(jìn)而簡(jiǎn)化開(kāi)發(fā)工作,加速科學(xué)工程計(jì)算和人工智能計(jì)算領(lǐng)域應(yīng)用落地。在信號(hào)處理領(lǐng)域、CAE/CFD 領(lǐng)域、EDA領(lǐng)域、AI計(jì)算等領(lǐng)域取得了豐碩的成果。
案例:助力中國(guó)移動(dòng)發(fā)布智算“芯合”算力原生基礎(chǔ)軟件棧2.0
4軟硬件融合智能計(jì)算一體機(jī)
4.1大模型AI實(shí)訓(xùn)一體機(jī)
2024年11月12日,澎峰科技聯(lián)合湖南中科曙光發(fā)布“PerfXCloud智算服務(wù)一體機(jī)”,助力教育行業(yè)邁向AI新紀(jì)元。產(chǎn)品發(fā)布后,即獲得國(guó)內(nèi)35所高等院校和科研機(jī)構(gòu)的一致好評(píng),為大模型人工智能的教學(xué)提供充沛的高性能算力和強(qiáng)大的實(shí)訓(xùn)平臺(tái)支撐。一體機(jī)圍繞大模型推理、AI自動(dòng)編程、提示詞優(yōu)化、智能體構(gòu)建、課程資料體系五個(gè)核心維度展開(kāi)實(shí)訓(xùn)教學(xué)。不僅可以增強(qiáng)學(xué)生的實(shí)際操作能力,還通過(guò)豐富的課程和實(shí)踐項(xiàng)目,能夠全面提升學(xué)生在大模型人工智能領(lǐng)域的知識(shí)和技能,為未來(lái)的技術(shù)發(fā)展和職業(yè)需求打下堅(jiān)實(shí)的基礎(chǔ)。
4.2大模型AI資訊一體機(jī)
2024年12月29日,澎峰科技面向合作伙伴發(fā)布“大模型AI資訊一體機(jī)”,為組織機(jī)構(gòu)強(qiáng)力打造資訊官“超級(jí)員工”和第二大腦。系統(tǒng)內(nèi)置AI Search、多模態(tài)數(shù)據(jù)爬蟲、個(gè)性化訂閱、知識(shí)管理、智能寫作、以及合同審批等契合用戶需求的AI Agent。產(chǎn)品適用于金融、媒體、法律、教育、營(yíng)銷和政府等多個(gè)行業(yè),旨在提升信息處理效率、內(nèi)容創(chuàng)作質(zhì)量以及決策支持能力,助力客戶在數(shù)字化轉(zhuǎn)型中保持領(lǐng)先。
4.3 大模型AI畫師微服務(wù)
2024年11月18日,澎峰科技發(fā)布“大模型AI畫師微服務(wù)”解決方案,通過(guò)AI技術(shù)使得繪畫創(chuàng)作、IP打造、用戶互動(dòng)以及多媒體內(nèi)容生成更加高效,促進(jìn)文化價(jià)值的傳播和廣告業(yè)態(tài)的價(jià)值升級(jí)。AI畫師微服務(wù)賦能APP、微信小程序、廣告機(jī)等產(chǎn)品通過(guò)AI大模型實(shí)現(xiàn)了升級(jí)迭代。大模型微服務(wù)一系列解決方案推動(dòng)了大模型AI技術(shù)的應(yīng)用落地,為AI創(chuàng)新應(yīng)用建立了示范。?
城市AI創(chuàng)新中心解決方案
澎峰科技正在打造一套全方位的城市AI創(chuàng)新中心解決方案,以助力城市在人工智能領(lǐng)域的創(chuàng)新與高質(zhì)量發(fā)展,獲得了多個(gè)城市合作邀約。???
1構(gòu)建AI創(chuàng)新服務(wù)平臺(tái)
為算力中心搭建一個(gè)功能完備的AI創(chuàng)新服務(wù)平臺(tái),對(duì)AI應(yīng)用生態(tài)提供全流程的技術(shù)支撐,加速本地AI應(yīng)用人才培養(yǎng),建設(shè)強(qiáng)大的AI應(yīng)用生態(tài),打造大模型創(chuàng)新高地提供基礎(chǔ)。
2定制多場(chǎng)景AI解決方案
依托AI創(chuàng)新服務(wù)平臺(tái)的強(qiáng)大能力,深度結(jié)合本地豐富的數(shù)據(jù)資源以及各領(lǐng)域的具體需求,聯(lián)合軟件生態(tài)伙伴賦能文旅、交通、金融、企服、政務(wù)等領(lǐng)域,推動(dòng)新質(zhì)生產(chǎn)力發(fā)展。
3打造AI生態(tài)運(yùn)營(yíng)服務(wù)體系
為城市建立一套開(kāi)放、共享、可持續(xù)發(fā)展的AI生態(tài)運(yùn)營(yíng)服務(wù)體系,為城市AI創(chuàng)新提供持久動(dòng)力。該體系涵蓋展廳運(yùn)營(yíng)、解決方案運(yùn)營(yíng)以及垂類領(lǐng)域場(chǎng)景服務(wù)的新模式。展廳運(yùn)營(yíng)將全方位展示AI創(chuàng)新成果與應(yīng)用場(chǎng)景,吸引各方關(guān)注與參與;解決方案運(yùn)營(yíng)則確保各定制化AI解決方案的高效落地與持續(xù)優(yōu)化;垂類領(lǐng)域場(chǎng)景服務(wù)新模式,將為教育、文旅、政務(wù)等各領(lǐng)域提供針對(duì)性、全方位的技術(shù)支持與專業(yè)服務(wù),共同構(gòu)建城市AI創(chuàng)新發(fā)展的良好生態(tài)。
產(chǎn)學(xué)研合作共進(jìn)
1持續(xù)推進(jìn)澎峰校園行活動(dòng)
2024年,澎峰云校園行活動(dòng)走進(jìn)多所高校,包括西安交通大學(xué)、深圳理工大學(xué)、華北理工大學(xué)、湖南工商大學(xué)、湖南農(nóng)業(yè)大學(xué)、湖南開(kāi)放大學(xué)、湖南第一師范學(xué)院、湖南科技職業(yè)學(xué)院等?;顒?dòng)通過(guò)技術(shù)分享會(huì)、專題講座等形式,為師生們帶來(lái)了前沿的大模型技術(shù)知識(shí),激發(fā)了學(xué)生們對(duì) AI 技術(shù)的熱情和創(chuàng)新思維。
2首屆澎峰云創(chuàng)賽激情開(kāi)賽
2024年9月30日,澎峰科技聯(lián)合中科曙光聯(lián)合主辦的第一屆 “澎峰云?大模型 AI 校園應(yīng)用創(chuàng)新賽”,吸引了湖南工商大學(xué)、重慶理工大學(xué)、中南大學(xué)、青島大學(xué)、第一師范等數(shù)十所高校學(xué)子踴躍參與,報(bào)名參賽隊(duì)伍超100支,提交AI創(chuàng)意應(yīng)用作品超80個(gè)。
該賽事為學(xué)生提供了展示創(chuàng)新能力的舞臺(tái),促進(jìn)了大模型技術(shù)在校園中的應(yīng)用和創(chuàng)新實(shí)踐,為培養(yǎng)未來(lái)的創(chuàng)新領(lǐng)軍人才奠定堅(jiān)實(shí)基礎(chǔ)。
3校企合作,深度融合
澎峰科技與湖南工商大學(xué)等高校攜手簽署校外實(shí)習(xí)基地合作協(xié)議,共同開(kāi)啟 “訂單式” 人才培養(yǎng)的新篇章。雙方將在人才培養(yǎng)、實(shí)踐教學(xué)、科研創(chuàng)新等方面深度合作,為學(xué)生提供更多實(shí)踐機(jī)會(huì),同時(shí)為企業(yè)輸送高素質(zhì)人才,實(shí)現(xiàn)校企雙贏,共同推動(dòng)行業(yè)發(fā)展。
行業(yè)影響力與榮譽(yù)
1盛會(huì)高光
澎峰科技攜手光合組織盛大舉辦 “立體計(jì)算開(kāi)啟智能新征程 ——PerfXCloud 大模型人工智能生態(tài)技術(shù)大會(huì)”,并受邀參與 2024 世界計(jì)算大會(huì)、2024 中國(guó)算力大會(huì)、CCF HPC China 2024 等行業(yè)頂級(jí)盛會(huì)。吸引了政府、學(xué)術(shù)界和企業(yè)界的眾多目光,充分展示了澎峰科技在技術(shù)創(chuàng)新和應(yīng)用實(shí)踐方面的強(qiáng)大實(shí)力。 1.1 成功舉辦首屆PerfXCloud生態(tài)大會(huì)
2024年7月16日,澎峰科技攜手光合組織,在湖南省長(zhǎng)沙市岳麓科創(chuàng)港隆重舉辦了"立體計(jì)算"開(kāi)啟智能新征程——PerfXCloud大模型人工智能生態(tài)技術(shù)大會(huì)。本次會(huì)議匯聚了政府領(lǐng)導(dǎo)、行業(yè)專家及企業(yè)代表共300+人,見(jiàn)證PerfXCloud平臺(tái)的創(chuàng)新技術(shù),共同探討人工智能的未來(lái)趨勢(shì)。
1.2 在CCF HPC China 2024峰會(huì),澎峰科技成功主持第四屆異構(gòu)計(jì)算軟件棧與應(yīng)用論壇
2024年9月24日,在第二十屆全國(guó)高性能計(jì)算學(xué)術(shù)年會(huì)(CCF HPC China 2024)期間,澎峰科技成功主持第四屆異構(gòu)計(jì)算軟件棧與應(yīng)用論壇,并攜最新研發(fā)成果參展。會(huì)議期間,澎峰科技受到中國(guó)工程院院士孫凝暉老師的親切指導(dǎo),第十四屆全國(guó)政協(xié)委員、中國(guó)科學(xué)院計(jì)算技術(shù)研究所研究員張?jiān)迫?,湖南大學(xué)常委副校長(zhǎng)李肯立,CCF高專委秘書長(zhǎng)、中國(guó)科學(xué)院計(jì)算技術(shù)研究所研究員譚光明等專家與領(lǐng)導(dǎo)先后蒞臨澎峰科技展臺(tái)參觀并指導(dǎo)工作。
1.3 2024世界計(jì)算機(jī)大會(huì)
2024年9月24日—25日,澎峰科技作為國(guó)內(nèi)領(lǐng)先的AI Infra企業(yè),在長(zhǎng)沙盛大舉行的2024年世界計(jì)算大會(huì)上驚艷亮相。澎峰科技展出大模型領(lǐng)域的創(chuàng)新成果——PerfXCloud大模型開(kāi)發(fā)與服務(wù)平臺(tái),備受政府、學(xué)術(shù)界和企業(yè)界的高度關(guān)注,榮獲“2024世界計(jì)算大會(huì)專題展優(yōu)秀成果獎(jiǎng)”
1.4 2024中國(guó)算力大會(huì)
2024年9月27日,中國(guó)算力大會(huì)在河南鄭州舉行。澎峰科技 CEO 張先軼博士發(fā)表了重要演講,詳細(xì)闡釋了自主研發(fā)的三大國(guó)際領(lǐng)先的計(jì)算軟件棧(PerfMPL高性能數(shù)學(xué)計(jì)算庫(kù),PerfXAPI異構(gòu)計(jì)算軟件棧,PerfXLM大模型推理引擎),兩大AI平臺(tái)(PerfXCloud.cn跨域算力調(diào)度的大模型開(kāi)發(fā)與部署平臺(tái),LLMWorld.net 大模型應(yīng)用創(chuàng)新生態(tài)門戶),為國(guó)產(chǎn)融合算力和AIGC應(yīng)用創(chuàng)新生態(tài)發(fā)展指明了前進(jìn)方向,并在本次大會(huì)榮獲 “算力之星” 優(yōu)秀創(chuàng)業(yè)團(tuán)隊(duì)獎(jiǎng)。
1.5 2024中國(guó)超級(jí)算力大會(huì)
2024年11月15日,第六屆中國(guó)超級(jí)算力大會(huì)ChinaSC2024暨中國(guó)智能計(jì)算產(chǎn)業(yè)聯(lián)盟理事會(huì)在北京盛大召開(kāi)。大會(huì)以“智算力,大模型,新經(jīng)濟(jì)”為主題,就算力經(jīng)濟(jì)時(shí)代的技術(shù)創(chuàng)新、生態(tài)協(xié)同、大模型應(yīng)用等話題進(jìn)行深入探討,共同探索大模型涌現(xiàn)時(shí)刻的算力生態(tài)演進(jìn)發(fā)展,為新質(zhì)生產(chǎn)力點(diǎn)燃新引擎。
澎峰科技創(chuàng)始人兼CEO張先軼博士受邀出席此次盛會(huì),并發(fā)表《基于國(guó)產(chǎn)異構(gòu)算力PerfXCloud大模型應(yīng)用創(chuàng)新解決方案》的主題演講。張博士提出以算力為核心,以AI應(yīng)用為抓手,助力城市打造AI應(yīng)用創(chuàng)新中心。澎峰科技依托PerfXCloud支持異構(gòu)計(jì)算的優(yōu)勢(shì),充分釋放各地算力中心的價(jià)值,賦能城市典型應(yīng)用場(chǎng)景。
澎峰科技憑借卓越的技術(shù)實(shí)力和突出的市場(chǎng)表現(xiàn),榮獲了“2024中國(guó)算力卓越企業(yè)”獎(jiǎng)。
2榮譽(yù)獎(jiǎng)項(xiàng)
公司創(chuàng)始人張先軼博士受聘為主權(quán)級(jí)大模型創(chuàng)新聯(lián)合體學(xué)術(shù)委員會(huì)委員。
公司創(chuàng)始人張先軼博士榮獲北京市科學(xué)技術(shù)獎(jiǎng)自然科學(xué)獎(jiǎng)二等獎(jiǎng)。
公司創(chuàng)始人張先軼博士當(dāng)選為CCF高性能計(jì)算專業(yè)委員會(huì) 常委。????
基于異構(gòu)國(guó)產(chǎn)算力的 PerfXCloud 大模型開(kāi)發(fā)與服務(wù)平臺(tái)榮獲2024 年度國(guó)家新一代自主安全計(jì)算系統(tǒng)產(chǎn)業(yè)集群“信創(chuàng)優(yōu)秀案例”。
基于異構(gòu)國(guó)產(chǎn)算力的 PerfXCloud 大模型開(kāi)發(fā)與服務(wù)平臺(tái)榮獲“2024世界計(jì)算大會(huì)專題展優(yōu)秀成果獎(jiǎng)”。
榮獲“國(guó)家先進(jìn)制造業(yè)集群成員企業(yè)”稱號(hào)。
榮獲“2024中國(guó)算力卓越企業(yè)”獎(jiǎng)。
榮獲2024中國(guó)算力大會(huì)“算力之星”優(yōu)秀創(chuàng)業(yè)團(tuán)隊(duì)獎(jiǎng)。
生態(tài)合作與貢獻(xiàn)
1產(chǎn)業(yè)協(xié)同,合作共贏
2024年,中國(guó)移動(dòng)研究院攜手澎峰科技等產(chǎn)業(yè)合作伙伴重磅發(fā)布智算 “芯合” 算力原生基礎(chǔ)軟件棧 2.0。
2024年4月22日,澎峰科技與并行科技(股票代碼:839493)達(dá)成戰(zhàn)略合作,整合雙方優(yōu)勢(shì)資源,共同拓展 AI 大模型技術(shù)在各行業(yè)的創(chuàng)新應(yīng)用服務(wù),實(shí)現(xiàn)了產(chǎn)業(yè)協(xié)同發(fā)展的良好局面。
2024年7月1日,澎峰科技在網(wǎng)易有道 Qanything 與燧原 i20 的適配中發(fā)揮了關(guān)鍵的技術(shù)支持和橋梁作用,推動(dòng)了國(guó)產(chǎn)軟硬件生態(tài)發(fā)展及園區(qū)智慧辦公轉(zhuǎn)型。
2開(kāi)源貢獻(xiàn),推動(dòng)進(jìn)步
2024年,澎峰科技積極參與行業(yè)標(biāo)準(zhǔn)制定,參編多項(xiàng)重要標(biāo)準(zhǔn),為行業(yè)的規(guī)范化和健康發(fā)展貢獻(xiàn)了自己的力量。依托于張先軼博士發(fā)起的國(guó)際知名開(kāi)源項(xiàng)目OpenBLAS,我們進(jìn)一步創(chuàng)立了OpenMathlib組織,并發(fā)布的OpenMPL-Runtime項(xiàng)目。在開(kāi)源生態(tài)建設(shè)方面,助力 Agently 開(kāi)源生態(tài),推動(dòng)大模型 Agent 原生應(yīng)用的快速發(fā)展;與 Dify 合作,為用戶提供了更加便捷、高效的大模型應(yīng)用開(kāi)發(fā)途徑。
最后,感謝合作伙伴、同仁、朋友在過(guò)去一年里對(duì)澎峰科技的關(guān)注與支持。期待在2025年,大家一起為我國(guó)數(shù)字化進(jìn)程砥礪前行,共創(chuàng)輝煌!
-
集成電路
+關(guān)注
關(guān)注
5392文章
11630瀏覽量
363286 -
人工智能
+關(guān)注
關(guān)注
1796文章
47734瀏覽量
240400 -
大模型
+關(guān)注
關(guān)注
2文章
2567瀏覽量
3189
原文標(biāo)題:2024年工作匯報(bào)|勇立潮頭,創(chuàng)新領(lǐng)航
文章出處:【微信號(hào):perfxlab,微信公眾號(hào):perfxlab】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
評(píng)論