近日,2024 CCF 大數(shù)據(jù)與計算智能大賽(簡稱CCF BDCI)在重慶郵電大學舉行了專場技術分享會。本次活動由中國計算機學會主辦,重慶郵電大學計算機學院/人工智能學院承辦,與算能、螞蟻技術研究院聯(lián)合開展。
算能等多位技術專家圍繞大賽相關的計算機領域熱點議題進行了主題分享,吸引了70余名學生積極參與。
重慶郵電大學計算機科學與技術學院/人工智能學院 數(shù)據(jù)科學系主任鄧欣發(fā)表了開場致辭,并鼓勵同學們積極參加CCF BDCI大賽。
華北理工大學數(shù)據(jù)科學實驗中心的主任陳學斌教授,就《數(shù)據(jù)安全與隱私保護技術的一些思考》這一主題進行了精彩的在線分享。他深入剖析了當前數(shù)據(jù)安全領域所面臨的多重考驗,并提出了現(xiàn)有的數(shù)據(jù)安全和隱私保護解決方案,激發(fā)了大家對數(shù)據(jù)安全未來發(fā)展的思考。
算能算法工程師在技術研討會上進行了《TPU-MLIR:端側設備中的大模型部署》的主題演講。報告首先從當前深度學習大模型的商業(yè)落地入手,引入TPU-MLIR編譯器的開發(fā)需求和使用場景,介紹了多級中間表達的設計思路。隨后深入探討了模型量化、公共序列復用以及后處理加速等核心技術,展示了如何利用TPU-MLIR在端側設備上實現(xiàn)大模型的高效部署。此外,他還分享了Qwen、Llama等模型量化前后性能對比情況,并對未來端側智能模型部署技術的發(fā)展方向進行了前瞻,探索了智能編譯器技術的新趨勢。
分享結束后,嘉賓與在場的學生們進行了積極的互動,圍繞算子優(yōu)化思路、量化方法、工具鏈的使用以及賽事的具體內(nèi)容和規(guī)則等話題展開了深入的討論。在交流過程中,可以明顯感受到同學們對算子優(yōu)化問題表現(xiàn)出濃厚的興趣。
近期,CCF BDCI算能賽題B榜已圓滿結束,我們收到了許多優(yōu)秀的作品,展現(xiàn)了豐富的OCR模型在Milk-V Duo開發(fā)板上的模型移植方法與優(yōu)化思路。我們期待參賽選手在即將到來的決賽中有出色的表現(xiàn),并祝愿每位選手取得優(yōu)異的成績。
-
編程
+關注
關注
88文章
3640瀏覽量
94036 -
人工智能
+關注
關注
1796文章
47791瀏覽量
240578 -
TPU
+關注
關注
0文章
145瀏覽量
20790
發(fā)布評論請先 登錄
相關推薦
評論