欧美性猛交xxxx免费看_牛牛在线视频国产免费_天堂草原电视剧在线观看免费_国产粉嫩高清在线观看_国产欧美日本亚洲精品一5区

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

大模型在端側(cè)迅速落地,面臨哪些挑戰(zhàn)

Carol Li ? 來(lái)源:電子發(fā)燒友 ? 作者:李彎彎 ? 2024-05-15 01:16 ? 次閱讀

電子發(fā)燒友網(wǎng)報(bào)道(文/李彎彎)大模型技術(shù)正在快速發(fā)展,并在不同領(lǐng)域取得顯著進(jìn)展。如在設(shè)計(jì)領(lǐng)域,近日消息,騰訊混元大模型文生圖已經(jīng)深度應(yīng)用在B端和C端,此外,騰訊混元大模型還可以做圖生視頻、視頻生視頻等,為設(shè)計(jì)領(lǐng)域帶來(lái)了更多可能性。

大模型技術(shù)正在向更多行業(yè)滲透。例如,在金融、消費(fèi)、互聯(lián)網(wǎng)等領(lǐng)域,大模型技術(shù)已經(jīng)開(kāi)始被應(yīng)用于數(shù)據(jù)分析、客戶服務(wù)、產(chǎn)品推薦等方面。通過(guò)利用大模型技術(shù),企業(yè)可以更加精準(zhǔn)地了解客戶需求,提高服務(wù)質(zhì)量和效率。

大模型在設(shè)計(jì)領(lǐng)域進(jìn)展迅速

“大模型加速產(chǎn)業(yè)進(jìn)入全新智能時(shí)代,正成為推動(dòng)科技創(chuàng)新、產(chǎn)業(yè)升級(jí)、生產(chǎn)力躍遷的重要驅(qū)動(dòng)力量?!彬v訊設(shè)計(jì)杰出專家、騰訊混元產(chǎn)品負(fù)責(zé)人陳妍妍近日談到。

在她看來(lái),從大模型的能力來(lái)看,各行業(yè)對(duì)大模型有著三大共性需求,包括內(nèi)容生成與創(chuàng)意設(shè)計(jì)、信息提煉與專業(yè)輔助、任務(wù)調(diào)度與智能交互及情感陪伴等。她認(rèn)為,設(shè)計(jì)行業(yè)的應(yīng)用就是大模型落地的一個(gè)代表性的領(lǐng)域。從文生圖、文生視頻到文生3D,多模態(tài)探索是騰訊混元大模型等國(guó)產(chǎn)大模型的重要發(fā)展方向。

大模型在設(shè)計(jì)領(lǐng)域的應(yīng)用進(jìn)展十分迅速。騰訊的混元大模型在設(shè)計(jì)領(lǐng)域就展示了其強(qiáng)大的能力。在文生圖方面,騰訊的混元大模型尤其注重本土化,能夠在很多應(yīng)用場(chǎng)景中利用中國(guó)的歷史和文化元素,這在國(guó)際市場(chǎng)上具有獨(dú)特的優(yōu)勢(shì)。同時(shí),騰訊的混元大模型已經(jīng)深度應(yīng)用于B端和C端,如創(chuàng)意廣告、人像風(fēng)格化等領(lǐng)域。

在文生視頻方面,騰訊的混元大模型已經(jīng)能夠?qū)崿F(xiàn)將視頻拉長(zhǎng)的功能,從之前的4秒擴(kuò)展到現(xiàn)在的16秒,這展示了其在視頻生成和處理方面的能力。此外,該模型還可以進(jìn)行圖生視頻、視頻生視頻等應(yīng)用,為設(shè)計(jì)領(lǐng)域提供了更多的可能性。

雖然文生3D在現(xiàn)階段的應(yīng)用還不夠廣泛,但騰訊已經(jīng)提前進(jìn)行了一些研究。這種技術(shù)生成的模型具有可編輯性,可以導(dǎo)入到3D編輯工具中進(jìn)行重新調(diào)整,這為未來(lái)的3D人物應(yīng)用提供了基礎(chǔ)。

從技術(shù)升級(jí)與開(kāi)放方面來(lái)看,騰訊的混元大模型不斷進(jìn)行技術(shù)升級(jí),目前已擴(kuò)展至萬(wàn)億級(jí)參數(shù)規(guī)模。為了推動(dòng)技術(shù)的發(fā)展和應(yīng)用,騰訊計(jì)劃將文生圖能力進(jìn)行開(kāi)源,這將有助于降低技術(shù)門檻,促進(jìn)更多的開(kāi)發(fā)者和藝術(shù)家利用大模型進(jìn)行設(shè)計(jì)創(chuàng)作。

大模型落地端側(cè)成布局重要方向

過(guò)去一年多時(shí)間,大模型技術(shù)快速發(fā)展,其在端側(cè)的應(yīng)用落地也進(jìn)展迅速。如在智能語(yǔ)音助手方面,大模型可以集成到智能語(yǔ)音助手中,使其能夠更好地理解和處理自然語(yǔ)言。這使得用戶可以通過(guò)語(yǔ)音與設(shè)備進(jìn)行更自然和便捷的交互。智能語(yǔ)音助手已經(jīng)成為手機(jī)、智能家居設(shè)備等端側(cè)設(shè)備的標(biāo)配功能,為用戶提供了更加智能化的服務(wù)體驗(yàn)。

在圖像識(shí)別與處理當(dāng)面,端側(cè)設(shè)備可以利用大模型進(jìn)行圖像識(shí)別和處理。例如,在移動(dòng)設(shè)備上進(jìn)行實(shí)時(shí)的人臉識(shí)別、物體識(shí)別或圖像增強(qiáng)等操作。這種技術(shù)已經(jīng)廣泛應(yīng)用于手機(jī)相機(jī)、安防監(jiān)控、自動(dòng)駕駛等領(lǐng)域,為用戶提供了更加便捷和高效的圖像處理體驗(yàn)。

基于大模型的個(gè)性化推薦系統(tǒng)也可以在端側(cè)應(yīng)用中實(shí)現(xiàn)。通過(guò)分析用戶的興趣和行為,系統(tǒng)可以為用戶推薦符合其喜好的內(nèi)容、商品或服務(wù)。這種技術(shù)在電商、社交、新聞等領(lǐng)域得到了廣泛應(yīng)用,提高了用戶滿意度和轉(zhuǎn)化率。

大模型還可以用于實(shí)時(shí)語(yǔ)音翻譯或文本翻譯,使得用戶能夠在不同語(yǔ)言之間進(jìn)行無(wú)縫交流。這種技術(shù)在跨國(guó)交流、在線教育、旅游等領(lǐng)域具有廣泛應(yīng)用前景,為用戶提供了更加便捷的溝通方式。

在硬件和計(jì)算技術(shù)方面,為了支持大模型在端側(cè)的應(yīng)用,出現(xiàn)了許多新的解決方案。例如,使用邊緣計(jì)算技術(shù)將計(jì)算任務(wù)從中心服務(wù)器下沉到設(shè)備的邊緣,使設(shè)備能夠更快速地處理數(shù)據(jù)和計(jì)算任務(wù)。這有助于減輕端側(cè)設(shè)備的計(jì)算負(fù)擔(dān)和能源消耗,提高響應(yīng)速度和用戶體驗(yàn)。

此外,還有一些研究工作致力于優(yōu)化大模型的訓(xùn)練和推理過(guò)程。例如,使用增量學(xué)習(xí)、遷移學(xué)習(xí)等技術(shù)對(duì)大模型進(jìn)行微調(diào),使其更適合特定任務(wù)和場(chǎng)景。這些技術(shù)能夠降低模型的復(fù)雜度和參數(shù)數(shù)量,提高模型的精度和效率,從而更好地適應(yīng)端側(cè)設(shè)備的性能限制。

當(dāng)然,大模型在端側(cè)的應(yīng)用也面臨一些挑戰(zhàn),如在性能和精度平衡方面,端側(cè)設(shè)備通常具有有限的計(jì)算資源和存儲(chǔ)空間,無(wú)法直接運(yùn)行大模型。因此,需要對(duì)大模型進(jìn)行壓縮、剪枝、量化等技術(shù)處理,以減小模型的大小和計(jì)算復(fù)雜度,使其適應(yīng)端側(cè)設(shè)備的性能要求。然而,這些技術(shù)處理可能會(huì)降低大模型的性能和精度。如何在保持模型精度的同時(shí)降低其復(fù)雜度和大小,是端側(cè)應(yīng)用面臨的一個(gè)重要問(wèn)題。

還有,端側(cè)設(shè)備的電池容量有限,長(zhǎng)時(shí)間的模型推理會(huì)消耗大量的能源,縮短設(shè)備的續(xù)航時(shí)間。如何在保證模型性能的同時(shí)降低能源消耗,是另一個(gè)需要解決的問(wèn)題。

另外,與云端模型不同,端側(cè)模型的部署和升級(jí)更為復(fù)雜。一旦模型出現(xiàn)問(wèn)題,不像云端那樣可以通過(guò)簡(jiǎn)單的部署和代碼更新來(lái)解決。端側(cè)模型的維護(hù)和升級(jí)成本相對(duì)較高,需要更多的技術(shù)支持和人力投入。

寫在最后

如何推進(jìn)大模型落地應(yīng)用已經(jīng)成為當(dāng)下重點(diǎn)關(guān)注的話題,如今,無(wú)論是終端公司、算法公司,還是芯片公司等都在積極為大模型在終端側(cè)的落地應(yīng)用而努力。

從上文可以看到,雖然仍然存在一些挑戰(zhàn),不過(guò)不難看出,大模型在斷側(cè)的應(yīng)用前景十分廣闊,相信隨著技術(shù)的不斷發(fā)展和應(yīng)用場(chǎng)景的不斷拓展,大模型將在端側(cè)應(yīng)用中發(fā)揮越來(lái)越重要的作用,為人們帶來(lái)更加智能化、便捷化和個(gè)性化的服務(wù)。





聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 算法
    +關(guān)注

    關(guān)注

    23

    文章

    4631

    瀏覽量

    93423
  • 大模型
    +關(guān)注

    關(guān)注

    2

    文章

    2602

    瀏覽量

    3214
收藏 人收藏

    評(píng)論

    相關(guān)推薦

    廣和通開(kāi)啟側(cè)AI新時(shí)代

    AI發(fā)展正酣,隨著終端芯片算力越來(lái)越高、側(cè)模型能力越來(lái)越強(qiáng)、實(shí)時(shí)響應(yīng)及隱私保護(hù)的側(cè)應(yīng)用需求增加,
    的頭像 發(fā)表于 12-12 10:35 ?344次閱讀

    訊飛星火側(cè)模型發(fā)布

    參數(shù)量小、內(nèi)存占比小的側(cè)模型,正成為“兵家必爭(zhēng)之地”。
    的頭像 發(fā)表于 12-04 16:07 ?893次閱讀

    智譜推出四個(gè)全新側(cè)模型 攜英特爾按下AI普及加速鍵

    隨著AI的發(fā)展,側(cè)AI模型越來(lái)越受到廣大客戶及廠商的關(guān)注,業(yè)界領(lǐng)先的大模型公司智譜于近日推出了四個(gè)全新的
    的頭像 發(fā)表于 12-02 17:13 ?270次閱讀
    智譜推出四個(gè)全新<b class='flag-5'>端</b><b class='flag-5'>側(cè)</b><b class='flag-5'>模型</b> 攜英特爾按下AI普及加速鍵

    把握關(guān)鍵節(jié)點(diǎn),美格智能持續(xù)推動(dòng)側(cè)AI規(guī)?;卣?/a>

    當(dāng)前,AI大模型走向側(cè)已經(jīng)是大勢(shì)所趨,側(cè)AI的發(fā)展將推動(dòng)人工智能成為影響世界的第四次工業(yè)革命。與傳統(tǒng)的云端大
    的頭像 發(fā)表于 11-26 01:00 ?255次閱讀
    把握關(guān)鍵節(jié)點(diǎn),美格智能持續(xù)推動(dòng)<b class='flag-5'>端</b><b class='flag-5'>側(cè)</b>AI規(guī)?;卣? />    </a>
</div>                            <div   id=

    把握關(guān)鍵節(jié)點(diǎn),美格智能持續(xù)推動(dòng)側(cè)AI規(guī)模化拓展

    將成為和系統(tǒng)同樣重要的存在,如果說(shuō)電路是連接身體的“血管”,那么AI就將成為終端的智慧“大腦”。 ?加速演進(jìn),大模型加速走向側(cè) 從手機(jī)移動(dòng)開(kāi)始,
    的頭像 發(fā)表于 11-25 16:45 ?379次閱讀
    把握關(guān)鍵節(jié)點(diǎn),美格智能持續(xù)推動(dòng)<b class='flag-5'>端</b><b class='flag-5'>側(cè)</b>AI規(guī)?;卣? />    </a>
</div>                            <div   id=

    側(cè)AI浪潮已來(lái)!炬芯科技發(fā)布新一代側(cè)AI音頻芯片,能效比和AI算力大幅度提升

    側(cè)AI音頻芯片。 ? 2028 年中小型模型側(cè)AI市場(chǎng)迅速增長(zhǎng),技術(shù)上有三大
    的頭像 發(fā)表于 11-06 09:11 ?2964次閱讀
    <b class='flag-5'>端</b><b class='flag-5'>側(cè)</b>AI浪潮已來(lái)!炬芯科技發(fā)布新一代<b class='flag-5'>端</b><b class='flag-5'>側(cè)</b>AI音頻芯片,能效比和AI算力大幅度提升

    能效比較GPGPU高一個(gè)數(shù)量級(jí),國(guó)產(chǎn)AI芯片讓側(cè)AI大模型高質(zhì)量落地

    的方案越來(lái)越多。也就是說(shuō),AI大模型不僅完成了從“能用”到“好用”的蛻變,也從高高在上的云端,走到更靠近應(yīng)用場(chǎng)景的邊側(cè)側(cè),這給作為方案核心的推理芯片提出了非常高的要求。
    的頭像 發(fā)表于 07-10 16:28 ?2055次閱讀
    能效比較GPGPU高一個(gè)數(shù)量級(jí),國(guó)產(chǎn)AI芯片讓<b class='flag-5'>端</b><b class='flag-5'>側(cè)</b>AI大<b class='flag-5'>模型</b>高質(zhì)量<b class='flag-5'>落地</b>

    云天勵(lì)飛加速推動(dòng)大模型行業(yè)落地

    陳寧博士受邀發(fā)表主題演講,首次展示云天勵(lì)飛邊緣AI的戰(zhàn)略全貌。 ? 大模型落地的多重挑戰(zhàn) 邊緣AI提供解法? 今年WAIC上,“大模型+行業(yè)”的應(yīng)用
    的頭像 發(fā)表于 07-08 17:16 ?669次閱讀

    基于AX650N/AX630C部署側(cè)大語(yǔ)言模型Qwen2

    本文將分享如何將最新的側(cè)大語(yǔ)言模型部署到超高性價(jià)比SoC上,向業(yè)界對(duì)側(cè)模型部署的開(kāi)發(fā)者提供
    的頭像 發(fā)表于 07-06 17:43 ?3839次閱讀
    基于AX650N/AX630C部署<b class='flag-5'>端</b><b class='flag-5'>側(cè)</b>大語(yǔ)言<b class='flag-5'>模型</b>Qwen2

    后摩智能引領(lǐng)AI芯片革命,推出邊模型AI芯片M30

    人工智能(AI)技術(shù)飛速發(fā)展的今天,AI大模型的部署需求正迅速從云端向側(cè)和邊緣側(cè)設(shè)備遷移。這
    的頭像 發(fā)表于 06-28 15:13 ?769次閱讀

    產(chǎn)品應(yīng)用 | 小盒子跑大模型!英碼科技基于算能BM1684X平臺(tái)實(shí)現(xiàn)大模型私有化部署

    當(dāng)前,人工智能領(lǐng)域,大模型豐富人工智能應(yīng)用場(chǎng)景中扮演著重要的角色,經(jīng)過(guò)不斷的探索,大模型進(jìn)入到落地的階段。而大
    的頭像 發(fā)表于 06-14 16:29 ?833次閱讀
    產(chǎn)品應(yīng)用 | 小盒子跑大<b class='flag-5'>模型</b>!英碼科技基于算能BM1684X平臺(tái)實(shí)現(xiàn)大<b class='flag-5'>模型</b>私有化部署

    商湯發(fā)布業(yè)內(nèi)最快推理速度「日日新 5.0 側(cè)模型

    現(xiàn)在,就是AI大模型側(cè)應(yīng)用的春天!
    的頭像 發(fā)表于 04-29 10:32 ?661次閱讀
    商湯發(fā)布業(yè)內(nèi)最快推理速度「日日新 5.0 <b class='flag-5'>端</b><b class='flag-5'>側(cè)</b>大<b class='flag-5'>模型</b>」

    商湯科技發(fā)布日新5.0大模型,對(duì)標(biāo)GPT-4 Turbo,預(yù)計(jì)2024年落地側(cè)

    據(jù)了解,4月23日,商湯科技在上海舉行了技術(shù)交流日活動(dòng),公布了“云、、邊”全棧大模型產(chǎn)品矩陣,并對(duì)“日日新SenseNova 5.0”大模型進(jìn)行了全面升級(jí)。
    的頭像 發(fā)表于 04-25 09:30 ?625次閱讀

    家電行業(yè)探索大模型應(yīng)用,落地面臨挑戰(zhàn)

    電子發(fā)燒友網(wǎng)報(bào)道(文/李彎彎)過(guò)去一年,各個(gè)行業(yè)都在探索大模型的應(yīng)用。家電行業(yè)也不例外,近日舉行的AWE2024上,海信、長(zhǎng)虹等不少品牌都展示出了與大模型結(jié)合的產(chǎn)品。大模型在家電行業(yè)
    的頭像 發(fā)表于 03-21 01:32 ?3109次閱讀

    榮耀引領(lǐng)側(cè)AI新時(shí)代

    今年的MWC盛會(huì)上,榮耀宣布與高通、Meta攜手,將70億參數(shù)大模型引入側(cè),這一創(chuàng)新舉措預(yù)示著側(cè)
    的頭像 發(fā)表于 03-01 10:28 ?712次閱讀