從客戶支持到實時轉(zhuǎn)錄，全新應用框架助力構(gòu)建實現(xiàn)各類定制化語言型AI服務

加利福尼亞州圣克拉拉市 - GTC 2020大會 - 2020年5月14日 – NVIDIA于今日發(fā)布推出GPU加速的應用框架——NVIDIA Jarvis。該框架使企業(yè)能夠根據(jù)自身所處行業(yè)、產(chǎn)品和客戶的特點，使用視頻和語音數(shù)據(jù)構(gòu)建最為先進的定制化對話式AI服務。

隨著居家辦公、遠程醫(yī)療和遠程學習的快速興起，對于能夠保持人們工作效率和聯(lián)系的客戶支持、實時轉(zhuǎn)錄、視頻通話摘要等定制化語言型AI服務的需求也隨之激增。

首批采用Jarvis為客戶提供對話式AI產(chǎn)品和服務的公司包括Voca、Kensho和Square。Voca是一家為呼叫中心提供AI代理的公司；Kensho致力于為金融和商務行業(yè)提供自動語音轉(zhuǎn)錄服務；此外，還有Square，其開發(fā)了虛擬預約助理。

NVIDIA創(chuàng)始人兼首席執(zhí)行官黃仁勛表示：“隨著應用程序具備了通過感知細微差別和上下文來理解和交流的能力，對話式AI將成為未來許多行業(yè)的關鍵核心。NVIDIA Jarvis能夠幫助醫(yī)療、金融服務、教育和零售行業(yè)以快速和準確的方式為他們的客戶提供自動化的支持服務?！?/p>

基于Jarvis構(gòu)建的應用程序可以應用全新NVIDIA A100 Tensor Core GPU中的各項創(chuàng)新技術進行AI計算，并使用NVIDIA TensorRT?的最新優(yōu)化進行推理。現(xiàn)在，使用最強大的視覺和語音模型運行整個多模態(tài)應用已成為可能，而且其速度比實時交互所需的300毫秒閾值還要快。

Jarvis提供了一整套GPU加速軟件堆棧和工具，使開發(fā)者能夠輕松地創(chuàng)建、部署和運行端到端的實時AI應用程序，并且能夠準確理解各企業(yè)及其客戶溝通時所用的各種專業(yè)術語。

IDC AI軟件平臺研究總監(jiān)David Schubmehl表示：“ 根據(jù)IDC的統(tǒng)計，對話式AI市場持續(xù)保持著快速增長的速度，這主要是因為各大小規(guī)模的企業(yè)機構(gòu)都已開始意識到，使用經(jīng)過訓練的虛擬助手和聊天機器人能夠幫助他們?yōu)榭蛻籼峁┓?，拓展業(yè)務價值。IDC預計，全球范圍內(nèi)，自動客戶服務代理和數(shù)字助理等對話式AI用例的支出投入將從2019年的58億美元增長至2023年的138億美元，復合年增長率將達24%?！?/p>

為了能夠為客戶提供個性化的交互式體驗，企業(yè)需要使用針對自身產(chǎn)品和客戶需求的數(shù)據(jù)訓練其語言型應用。但從頭開始構(gòu)建一項服務需要深厚的AI專業(yè)知識、大量數(shù)據(jù)和計算資源來訓練模型，以及能夠使用新數(shù)據(jù)對模型進行定期更新的軟件。

Jarvis通過為對話式AI提供端到端的深度學習方案來解決這些難題。該產(chǎn)品包括先進的深度學習模型，例如用于自然語言理解的NVIDIA Megatron BERT等。企業(yè)可以使用NVIDIA NeMo，基于他們自己的數(shù)據(jù)對這些模型進行進一步的微調(diào)，使用TensorRT進行推理優(yōu)化，并且使用NGC（NVIDIA GPU優(yōu)化的軟件目錄）上的Helm圖表在云和邊緣進行部署。

早期采用者— Voca，Kensho和 Square

全球各地的公司都在使用NVIDIA的對話式AI平臺改進自身的服務。

Voca是東芝、美國電話電報公司（AT&T）和其他多家全球領先的公司的AI虛擬代理公司，其依靠NVIDIA實現(xiàn)了速度更快、互動性更強的類人交互。Voca利用AI技術來理解客戶在口頭交流和講話時所要表達的全部意圖，這使得其AI虛擬代理可以自動識別不同的語調(diào)和語音線索，從而辨別出客戶所說的內(nèi)容，以及其想要表達的意思。此外，這些代理利用NVIDIA AI平臺內(nèi)置的可擴展性功能，大大縮短了客戶的等待時間。

Voca公司聯(lián)合創(chuàng)始人兼首席技術官Alan Bekker表示：“低延遲對于呼叫中心至關重要。憑借NVIDIA GPU，我們的代理能夠在一秒內(nèi)完成收聽、理解并作出最準確的響應?，F(xiàn)在，我們的虛擬代理能夠成功處理70-80%的呼叫，其中包括一般性的客戶服務請求、付款交易和技術支持等?！?/p>

位于馬薩諸塞州劍橋市的S&P Global創(chuàng)新中心Kensho部署了可擴展的機器學習和分析系統(tǒng)，其已使用NVIDIA的對話式AI開發(fā)了針對金融行業(yè)和商業(yè)的Scribe語音識別解決方案。借助于NVIDIA的解決方案，Scribe在處理財報會議和類似財務音頻方面的準確度，相較于其它的商業(yè)解決方案高出了20%。

Kensho AI研究主管Georg Kucsko表示：“我們正在與NVIDIA展開密切的合作，使用深度學習技術進一步推進端到端自動語音識別技術的發(fā)展。與不使用AI的傳統(tǒng)方法相比，使用NVIDIA的解決方案訓練新模型時，其在轉(zhuǎn)錄金融行業(yè)專業(yè)術語時的準確度得到了明顯提高，這讓我們無需幾天的時間，只需幾分鐘就能向我們的客戶提供及時信息?！?/p>

Square開發(fā)了一個AI虛擬助手，利用 AI技術，它能夠幫助Square的銷售人員們自動確認、取消或更改與客戶的約會，并讓他們能夠自由地安排日程，與更具戰(zhàn)略性的客戶接洽。

Square公司的對話式AI主管Gabor Angeli表示：“Square助手可以理解75%的客戶提出的問題，并為他們提供幫助。同時能確保將大家的參會率提升10%。通過GPU，我們能夠以10倍于CPU的速度訓練模型，以提供更準確、更人性化的交互，并最終幫助客戶發(fā)展業(yè)務?！?/p>

供應情況

現(xiàn)在您可申請參加NVIDIA Jarvis搶先體驗活動。