12月15日下午，在2023年英特爾新品發(fā)布會(huì)上，英特爾正式揭開了第五代至強(qiáng)可擴(kuò)展處理器（代號(hào)Emerald Rapids）的神秘面紗。在會(huì)上，英特爾的合作伙伴京東云、阿里云和火山引擎也分享了其自身使用第五代至強(qiáng)開發(fā)新品服務(wù)器和大模型訓(xùn)練的案例。

這款產(chǎn)品是英特爾最強(qiáng)AI性能的CPU，采用了Intel7工藝，該處理器擁有多達(dá)64 核，具備8 條 DDR5 通道，支持高達(dá)5,600 MT/s的傳輸速率，三級(jí)緩存是上一代產(chǎn)品的近 3 倍，且采用英特爾超級(jí)通道互聯(lián)2.0 以增加跨插槽內(nèi)帶寬，提供高達(dá)20 GT/s的傳輸。
據(jù)悉，第五代至強(qiáng)可擴(kuò)展處理器比較上一代產(chǎn)品，可以處理更多的AI工作負(fù)載，其迭代性能相較于上一代產(chǎn)品提升了21%，而在AI推理性能上，則擁有高達(dá)42%的提升，其內(nèi)存帶寬也提升了16%。

相較上一代產(chǎn)品，第五代英特爾至強(qiáng)可擴(kuò)展處理器可在進(jìn)行通用計(jì)算時(shí)將整體性能提升高達(dá)21%，并在一系列客戶工作負(fù)載中將每瓦性能提升高達(dá)36%。對(duì)于遵循典型的五年更新周期并從更前一代處理器進(jìn)行升級(jí)的客戶而言，總體擁有成本最多降低77%。

京東云服務(wù)器搭載第五代至強(qiáng)，整機(jī)提升123%，大模型推理能力提升51%！

京東科技京東云事業(yè)部硬件架構(gòu)總監(jiān)董可新表示，基于英特爾新一代處理器的京東云自研服務(wù)器全面支持京東雙十一大促。評(píng)測(cè)結(jié)果顯示，新一代至強(qiáng)可擴(kuò)展服務(wù)器平臺(tái)比上一代整體提升了23%，一方面得益于新一代處理器更高的內(nèi)存頻率，以及更大的L3 Cache等新的技術(shù)特性，另一方面得益于我們?cè)诤陀⑻貭柭?lián)合定制的新一代CPU中，針對(duì)京東各個(gè)業(yè)務(wù)場(chǎng)景的性能需求進(jìn)行了針對(duì)性的性能優(yōu)化。

在AI應(yīng)用方面，京東云服務(wù)器在通用的AI視覺類模型ResNet50推理性能測(cè)試中，比上一代平臺(tái)整體性能提升了38%。在通用的大語言模型Llama2-13B模型推理性能測(cè)試中，與上一代相比，提升高達(dá)51%，擁有出色的整體優(yōu)化效果。

在剛剛過去的雙十一中，京東商城上超過60個(gè)品牌的營(yíng)銷額突破了10億。在大促期間，每秒用戶訪問峰值同比提升了170%，京東智能客服為超過14億次的用戶提供了累計(jì)智能咨詢的服務(wù)。他指出，特別在智能營(yíng)銷方面，京東實(shí)現(xiàn)了能夠根據(jù)產(chǎn)業(yè)洞察及帶貨思維進(jìn)行服務(wù)的數(shù)字人，以及其他成本降低達(dá)90%的生成式AI應(yīng)用。

英特爾和多家合作伙伴打造第五代Xeon生態(tài)合作圈

數(shù)據(jù)中心與人工智能集團(tuán)副總裁兼中國區(qū)總經(jīng)理陳葆立介紹了英特爾和百度云合作的最新成果。在針對(duì)大規(guī)模推理的早期測(cè)試，雙方使用700億參數(shù)的Llama 2開源大模型進(jìn)行推理，采用了4臺(tái)內(nèi)含第五代至強(qiáng)的服務(wù)器，并通過100G的高速網(wǎng)絡(luò)聯(lián)合在一起。結(jié)果是，相比單臺(tái)的服務(wù)器，其性能提升了2.85倍。從整個(gè)性能上看，在處理Llama 2 700億模型推理時(shí)，時(shí)間可以控制在87毫秒以內(nèi)。

阿里云則展示了基于英特爾第五代至強(qiáng)可擴(kuò)展處理器，推出新一代云實(shí)例?；谟⑻貭柕谖宕翉?qiáng)芯片，阿里云第八代計(jì)算實(shí)例迎來了全面的計(jì)算升級(jí)。英特爾CPU在L3 Cache的3倍性能提升和內(nèi)存帶寬16%的提升，在媒體處理、網(wǎng)站應(yīng)用和AI應(yīng)用等場(chǎng)景性能提升20%以上。

通義千問720億大模型近期在開源社區(qū)Hugging Face大模型排行榜上問鼎。阿里云非常重視云上用戶的數(shù)據(jù)安全，結(jié)合英特爾TDX技術(shù)，阿里云第八代機(jī)密計(jì)算實(shí)例可以保障用戶在整個(gè)AI推理過程中，模型和數(shù)據(jù)全流程的數(shù)據(jù)安全。用戶可以在英特爾AMX技術(shù)的加持下，在阿里云第八代實(shí)例上輕松部署通義千問。

陳葆立總結(jié)說：“以ChatGPT為例的生成式人工智能帶來了一個(gè)全新的火爆趨勢(shì)。我們看到非常多的中國本土企業(yè)，包括眾多軟、硬件公司正在加速推進(jìn)AI在各行各業(yè)的應(yīng)用和落地。目前在國內(nèi)，已有超過20家的硬件伙伴，超過7家云服務(wù)商基于第五代英特爾至強(qiáng)可擴(kuò)展處理器，準(zhǔn)備好了全新的服務(wù)器和云服務(wù)。對(duì)中國的終端用戶來說，無論是對(duì)類型、規(guī)模以及應(yīng)用有著如何多樣化的需求，都將擁有豐富的選擇。英特爾可靠的產(chǎn)業(yè)伙伴們，將會(huì)為用戶提供全面的產(chǎn)品以及服務(wù)?！?br />