AI,特別是生成式AI已經(jīng)成為科技圈最熱門的話題之一。ChatGPT、Midjourney、NewBing、Stable Diffusion、Firefly AI、文心一言、360智腦、通義千問……你就算沒有用過這些熱門的AI工具,至少也在朋友圈、微博以及其它互聯(lián)網(wǎng)平臺看到過關(guān)于它們的資訊。目前生成式AI已經(jīng)在全球范圍內(nèi)引起了廣泛且熱烈的關(guān)注和討論,各行各業(yè)的未來,幾乎都在向著AI領(lǐng)域前進(jìn)。
對于x86陣營的筆記本電腦來說,AMD今年率先推出Ryzen AI引擎,也率先帶領(lǐng)銳龍筆記本電腦進(jìn)入AI時代。那么問題來了,和普通筆記本相比,AI筆記本能帶來怎樣的體驗?zāi)兀?/p>
Ryzen AI:AI筆記本的性能基石
從廣義上來講,AI涵蓋了機器學(xué)習(xí)、深度學(xué)習(xí)、自然語言處理、計算機視覺等多個領(lǐng)域,實現(xiàn)它們的手段主要是依靠機器學(xué)習(xí)訓(xùn)練和推理。一般來講,很多機器學(xué)習(xí)引擎和模型都能在CPU和GPU上運行,但對于筆記本平臺來說,如果讓CPU或者GPU來處理機器學(xué)習(xí)訓(xùn)練和推理任務(wù),那么CPU或者GPU就會長期處于高負(fù)載狀態(tài),這樣一來筆記本將更費電,而且效率也很低。因此把機器學(xué)習(xí)訓(xùn)練和推理交給更專業(yè)的“角色”來做會是一個更合理的解決方案,而這個“角色”就是獨立的AI引擎。
AMD率先邁出第一步,它在今年1月份就為x86處理器首次帶來了Ryzen AI,這個集成在銳龍7040系列移動處理器中的AI引擎專為AI運算而生。英特爾要在第14代筆記本酷睿Meteor Lake處理器中才會內(nèi)置一個神經(jīng)網(wǎng)絡(luò)計算引擎NPU,也就是要等到下一代才會有類似的設(shè)計。
Ryzen AI基于專門設(shè)計的AMD XDNA AI架構(gòu),其核心是多個獨立的AIE單元,而且與傳統(tǒng)的CPU多核運算相比,XDNA AI架構(gòu)有多個獨立的內(nèi)存電壓單元、對應(yīng)的內(nèi)存控制器并擁有獨立的高速互連通道,所以它在進(jìn)行AI推理時更加靈活,效率更高,性能也更強。
Ryzen AI支持不同的AI神經(jīng)網(wǎng)絡(luò),比如CNN(卷積神經(jīng)網(wǎng)絡(luò))、RNN(循環(huán)神經(jīng)網(wǎng))、LSTM(長短時記憶)等。此外,它還支持Int8/16/32、BFloat16等各種高級數(shù)據(jù)類型,同時它還具備實時多任務(wù)能力,可處理最多4條并發(fā)空間流,這意味著它能夠同時處理多個AI任務(wù),提供更高的處理效率。
Ryzen AI是AMD銳龍筆記本的AI性能基石,它在筆記本平臺主要負(fù)責(zé)輕量級的AI推理工作負(fù)載,包括音頻、視頻和圖像處理等任務(wù),能夠比CPU或GPU更高效地執(zhí)行這些任務(wù),并顯著降低延遲。要知道目前很多AI計算和應(yīng)用都是通過云端AI服務(wù)器或者本地GPU來實現(xiàn)的,而現(xiàn)在有了x86處理器專屬的Ryzen AI,意味著很多AI計算可以在非獨顯筆記本的端側(cè)就能完成。對于筆記本平臺來說,Ryzen AI有著出色的能效比和高算力,它能夠為CPU或者GPU分憂,發(fā)揮自己高能效的優(yōu)勢。
輕薄本AI應(yīng)用體驗對比
在筆記本中加入Ryzen AI有什么用?實際上Ryzen AI主要的任務(wù)是處理AI推理與運算,所以在不少專用的場景以及常見的應(yīng)用場景中,它能夠發(fā)揮自己的優(yōu)勢。比如,Ryzen AI能夠進(jìn)行自然語言處理,使筆記本能夠解讀、處理和理解人類語言。在圖像和視頻處理方面,Ryzen AI也能快速高效地處理圖像和視頻數(shù)據(jù),完成諸如更換背景、消除噪音、人臉識別、圖像分類、圖像修復(fù)等任務(wù)。
目前,AMD已經(jīng)和微軟進(jìn)行合作,借助Windows Studio Effects來提升Windows系統(tǒng)中關(guān)于攝像頭的體驗。具體來說,Windows Studio Effects可讓用戶將某些濾鏡和效果應(yīng)用到系統(tǒng)底層的攝像頭和麥克風(fēng)上,以改善用戶在視頻通話期間的外觀和聲音,它們需要神經(jīng)處理單元提供支持。
▲Ryzen AI筆記本支持Windows Studio Effects(左)和不支持該效果的普通筆記本(右)。
在支持Ryzen AI的筆記本上,我們可以快速啟用Windows Studio Effects。最簡單的方法就是單擊通知區(qū)域圖標(biāo)組打開快捷設(shè)置,選擇“工作室效果”。在默認(rèn)情況下,你會先看到相機效果。此時你可以方便地對相機效果(背景虛化、眼神交流、自動取景)進(jìn)行設(shè)置。當(dāng)然,你也可以直接在系統(tǒng)的相機設(shè)置中啟用Windows Studio Effects,這里的設(shè)置項目更加豐富、細(xì)致。我們對比一下其他沒有配備Ryzen AI的筆記本就能看到,它的相機設(shè)置中沒有背景虛化、眼神交流、自動取景等功能,這類筆記本如果要使用這些功能,或許只有借助第三方軟件才行——而這無疑會增加系統(tǒng)負(fù)載,并影響續(xù)航。
有了系統(tǒng)底層上的功能支持,就算原生不支持任何視頻效果的軟件(比如TIM)也能在系統(tǒng)開啟相應(yīng)功能之后,得到背景模糊、眼神接觸、自動取景等效果。這些基于Windows的高級功能可以在搭載AMD銳龍7040系列處理器和Ryzen AI的筆記本電腦上直接使用,但目前的酷睿筆記本上則不能使用。
輕薄本AI性能對比測試
除了AI應(yīng)用上的不同體驗之外,普通筆記本和具有Ryzen AI功能的筆記本在AI性能上有多大的差距呢?我們通過兩臺集顯輕薄本來簡單對比一下。AMD平臺方面,我們選擇聯(lián)想YOGA Air 14s 2023來測試,這臺機器搭載聯(lián)想定制的AMD銳龍7 7840S處理器。這款處理器基于Zen 4架構(gòu),采用4nm先進(jìn)制造工藝,配備8核心16線程,最大加速頻率達(dá)到5.1GHz,內(nèi)置Ryzen AI。同時,這款處理器還內(nèi)置采用RDNA 3架構(gòu)的Radeon 780M顯卡。
聯(lián)想YOGA Air 14s 2023是一款14.5英寸的輕盈本,機身采用輕薄化設(shè)計,薄約13.9mm,輕至1.28kg。這臺機器采用2944×1840分辨率的PureSight超感OLED屏幕(支持觸控),屏幕刷新率達(dá)到90Hz,并支持100% DCI-P3色域。此外,這臺機器還配備70Wh電池,電池續(xù)航支持全天候辦公9.5小時。接口方面,這臺機器也十分齊全,它配備兩個全能的USB4接口、一個全功能USB-C 3.2接口以及一個3.5mm二合一音頻接口,不管是外接多臺顯示器還是鼠標(biāo)鍵盤,都能滿足用戶的需求。
對比的英特爾平臺,我們選擇一款搭載酷睿i7-13700H的14英寸輕薄本,酷睿i7-13700H處理器采用混合架構(gòu),采用Intel 7生產(chǎn)工藝,配備14核心20線程,最大睿頻頻率達(dá)到5.0GHz,這款處理器內(nèi)置頻率為1.5GHz的英特爾銳炬Xe核顯,其配備96個EU執(zhí)行單元。酷睿i7-13700H與銳龍7 7840S處理器最大的不同在于酷睿處理器沒有專門的AI引擎。此外,對比的兩個平臺都采用32GB雙通道內(nèi)存以及1TB PCIe 4.0 SSD。
理論AI性能方面,我們主要通過UL AI Inference Benchmark來測試,該軟件囊括了Mobile Net V3、Inception V4、YOLO V3、DeepLab V3、Real-ESRGAN和ResNet 50等神經(jīng)網(wǎng)絡(luò)模型,支持Microsoft Windows ML、Qualcomm SNPE、英特爾OpenVINO和NVIDIA TensorRT等4種SDK,非常權(quán)威和專業(yè)。
從測試成績統(tǒng)計圖可以看到,在Microsoft Windows ML測試場景下,Ryzen AI加持的銳龍7 7840S平臺在Float32精度下的CPU測試分?jǐn)?shù)為107分,相對于酷睿i7-13700H平臺的99分,領(lǐng)先大約8%。我們知道GPU也能進(jìn)行AI推理和運算,所以再來看看這兩款處理器內(nèi)置的集顯的表現(xiàn)。用集顯來進(jìn)行測試的話,可以看到銳龍7 7840S內(nèi)置的Radeon 780M顯卡得到227分,這樣的成績領(lǐng)先酷睿i7-13700H內(nèi)置的銳炬Xe集顯大約104%,Radeon 780M顯卡在AI推理和運算中的表現(xiàn)可以說非常出色。從這個測試其實也能看到,無論是CPU還是集顯,有著Ryzen AI加成的銳龍7 7840S的AI性能都全面領(lǐng)先于酷睿i7-13700H。
最后再來看看兩個平臺在實際應(yīng)用中的表現(xiàn)。知名AI應(yīng)用廠商Topaz Labs旗下的 Topaz Photo AI、Topaz Video AI等軟件已經(jīng)加入了對Ryzen AI的支持,我們本次通過Topaz Photo AI來測試,Topaz Photo AI主要使用AI技術(shù)來分析和增強圖像,它可以消除照片噪點、放大照片并提高整體質(zhì)量。
Topaz Photo AI軟件已經(jīng)加入了對Ryzen AI的支持,不過由于Ryzen AI集成在CPU中,不會被軟件單獨識別出來,所以本次對比測試時我們統(tǒng)一在軟件中設(shè)置為使用CPU加速,然后將一張3840×2466分辨率的圖片進(jìn)行放大6倍并用AI來清除照片噪點,最后來看兩個平臺進(jìn)行這兩項操作的總耗時,耗時越短表明其越高效。
可以說最終的測試結(jié)果令人大吃一驚。將一張3840×2466分辨率的圖片放大6倍并清除照片噪點,有著Ryzen AI加成的銳龍7 7840S平臺僅耗時10秒就完成了操作,速度非常之快。要知道原始圖片僅1.65MB大小,放大之后的圖片達(dá)到40.9MB,分辨率達(dá)到23040×14796。對于如此龐大的工作量,銳龍7 7840S平臺幾乎眨眼間就完成了。相反,沒有任何AI引擎加成的酷睿i7-13700H平臺,完成這個操作需要98秒,妥妥的是純CPU在干活,效率非常低。
Stable Diffusion WebUI繪圖測試
要說目前最火的AI應(yīng)用,除了各種在線的大模型生成式對話工具之外,以Stable Diffusion為代表的生成式AIGC工具更是受到大家的廣泛追捧。與各類在線AI出圖的工具相比,Stable Diffusion擁有出色的高自由度,同時也擁有大量免費的資源,部署在筆記本本地的話,在安全性、私密性、便捷性上也有保障。在Stable Diffusion本地AI出圖加速方面,GPU相比CPU有著更大的優(yōu)勢,對于搭載集顯的輕薄本而言,這主要考驗不同平臺的集顯性能。那么對于Stable Diffusion本地AI出圖,銳龍7 7840S輕薄本和酷睿i7-13700H輕薄本誰的效率更高呢?我們來實戰(zhàn)比拼一下。
AUTOMATIC1111的Stable Diffusion WebUI支持通過DirectML調(diào)用集顯來加速,因此我們用秋葉aaaki的Stable Diffusion 4.4整合包來測試。在整合包的啟動器中,我們可以單獨選擇Radeon 780M和銳炬Xe顯卡進(jìn)行加速。在測試中,我們采用墨幽1050 2G模型,具體設(shè)置為迭代步數(shù):20、采樣器:DPM++ 2M Karras、CFG scale:7、圖片分辨率:512×512。
▲Radeon 780M只用57秒就完成了一個批次單圖的生成。
從測試結(jié)果來看,銳龍7 7840S處理器內(nèi)置的Radeon 780M顯卡有著出色的表現(xiàn),用它進(jìn)行加速,Stable Diffusion WebUI完成一批次單張圖片的生成只用了57秒,而酷睿i7-13700H處理器內(nèi)置的銳炬Xe顯卡則需要3分鐘9秒才能完成,差距非常大,大大出乎我們的預(yù)料。由此可見Radeon 780M在Stable Diffusion WebUI中的表現(xiàn)十分出色。另外,如果我們設(shè)置為一個批次連續(xù)生成5張圖的話,Radeon 780M僅耗時4分鐘51秒就完成了任務(wù),而銳炬Xe平臺則根本無法完成任務(wù),因為測試時程序直接報錯崩潰了。由此可見,在Stable Diffusion本地出圖應(yīng)用中,Radeon 780M的效率遠(yuǎn)高于銳炬Xe,而且它還有更好的穩(wěn)定性和可靠性。對于集顯輕薄本用戶來說,如果你在平時或者工作中需要使用Stable Diffusion,又或者想要嘗嘗鮮,那么銳龍本才是更好的選擇。
雙管齊下 輕薄本的AI體驗還得看銳龍
今年以來,大模型和生成式AI已經(jīng)成為科技領(lǐng)域最新的風(fēng)口!科技公司如果不談AI,就像落后了幾個時代?;氐絇C領(lǐng)域,此前可能很多人認(rèn)為筆記本,特別是輕薄本無法勝任AI方面的工作。
▲Topaz Photo AI軟件支持調(diào)用Ryzen AI引擎來完成AI工作
隨著Ryzen AI的到來,AMD為我們打開了AI筆記本新世界的大門。在Ryzen AI的加成下,銳龍AI筆記本已經(jīng)能在視頻會議方面帶來更出色的體驗,也能在Topaz Photo AI、Topaz Video AI等AI應(yīng)用中帶來更高的效率,相信在未來也會有越來越多的應(yīng)用加入AI功能,并加入對Ryzen AI的支持。
另一方面,從我們的Stable Diffusion WebUI測試也能看到,銳龍7040系列移動處理器內(nèi)置的RDNA 3顯卡同樣能提供出色的本地AI加速性能,它在Stable Diffusion WebUI中的出圖效率遠(yuǎn)遠(yuǎn)領(lǐng)先于銳炬Xe顯卡,而且連續(xù)出圖的穩(wěn)定性和可靠性也更好。這就是說除了專用于AI加速的Ryzen AI,AMD在輕薄本上還有性能強大的RDNA 3 GPU。這個組合讓銳龍輕薄本具備了全面AI加速的能力。
如果說AI是筆記本發(fā)展的未來,那么從兼容下一代軟件的角度以及AI實際體驗的角度來看,雙管齊下的銳龍AI筆記本已經(jīng)擁有很好的先發(fā)優(yōu)勢,這是競爭對手目前還無法與之相比的??梢哉f,現(xiàn)階段的輕薄本AI體驗,還得看銳龍!
-
amd
+關(guān)注
關(guān)注
25文章
5503瀏覽量
134683 -
cpu
+關(guān)注
關(guān)注
68文章
10908瀏覽量
213111 -
筆記本電腦
+關(guān)注
關(guān)注
9文章
1418瀏覽量
48791
原文標(biāo)題:輕薄本AI應(yīng)用深度測試,銳龍7 7840S大戰(zhàn)酷睿i7-13700H
文章出處:【微信號:Microcomputer,微信公眾號:Microcomputer】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
相關(guān)推薦
機械革命無界X系列輕薄本將預(yù)裝文心一言
英特爾酷睿Ultra 7處理器助力聯(lián)想YOGA Air 15 Aura AI元啟版樹立輕薄本新標(biāo)桿
高通推出第三代驍龍7s移動平臺
英特爾發(fā)布酷睿Ultra 200S系列臺式機處理器
AMD銳龍9000系列處理器將于7月31日發(fā)售
聯(lián)想小新Pro 16 AI元啟版筆記本開啟預(yù)約,搭載銳龍7-8845H AMD處理器
惠普戰(zhàn)66七代商務(wù)輕薄銳龍版電商平臺上線,搭載AMD Ryzen 703
聯(lián)想小新Pro 2024 AI銳龍版支持7500MHz內(nèi)存與核顯性能提升
AMD發(fā)布銳龍7 8700F、銳龍5 8400F無核顯入門級游戲處理器
全新AMD銳龍8000F系列處理器整機正式發(fā)售 配備神經(jīng)處理單元(NPU)
![全新AMD<b class='flag-5'>銳</b><b class='flag-5'>龍</b>8000F系列處理器整機正式發(fā)售 配備神經(jīng)處理單元(NPU)](https://file1.elecfans.com/web2/M00/CC/76/wKgZomYgjpmAAnjIAAAhfPrEykk745.png)
評論