谷歌最近重新推出Duplex，向餐廳主人和沙龍工作人員明確透露，他們正在與 Google 智能助理對(duì)話并正在錄制。

人工智能助理

人們?cè)絹?lái)越期望，當(dāng)你向企業(yè)發(fā)送消息時(shí)，你可能會(huì)與人工智能聊天機(jī)器人進(jìn)行交互。但是當(dāng)你真正聽(tīng)到人類(lèi)說(shuō)話時(shí)，你通常會(huì)認(rèn)為這是一個(gè)真實(shí)的人。

我們正處于人們與AI定期進(jìn)行有意義的互動(dòng)的初期，而且該領(lǐng)域的進(jìn)展已經(jīng)引起了人們的恐懼，即黑客可能會(huì)利用AI代理進(jìn)行惡意攻擊。

在最佳情況下，具有惡意意圖的AI機(jī)器人可能會(huì)冒犯人，我們可能面臨更多可怕的威脅。例如，人工智能可以學(xué)習(xí)特定的語(yǔ)言模式，使技術(shù)更容易適應(yīng)操縱人，模仿受害者，以及階段性釣魚(yú)（語(yǔ)音網(wǎng)絡(luò)釣魚(yú)）攻擊和類(lèi)似活動(dòng)。

許多專(zhuān)家認(rèn)為威脅是真實(shí)的。在CIO專(zhuān)欄中，Steven Brykman闡述了可以利用Duplex這樣的技術(shù)的不同方式：“至少在人類(lèi)呼喚人類(lèi)的情況下，仍有一個(gè)限制因素 - 人類(lèi)每天每小時(shí)只能撥打這么多電話。人類(lèi)必須得到報(bào)酬，休息等等。但人工智能聊天機(jī)器人可以通過(guò)無(wú)限多種方式向無(wú)限數(shù)量的人撥打無(wú)限數(shù)量的電話！“

在這個(gè)階段，我們聽(tīng)到的大部分內(nèi)容都是猜測(cè); 我們?nèi)匀徊恢勒Z(yǔ)音助手出現(xiàn)時(shí)可能出現(xiàn)的威脅程度和嚴(yán)重程度。但是，如果提供技術(shù)的公司在與AI代理交互時(shí)明確地與用戶(hù)通信，那么涉及基于語(yǔ)音的助理的許多潛在攻擊都可以被解除。

隱私問(wèn)題

圍繞使用Duplex等技術(shù)的另一個(gè)問(wèn)題是潛在的隱私風(fēng)險(xiǎn)。人工智能系統(tǒng)需要用戶(hù)數(shù)據(jù)來(lái)訓(xùn)練和改進(jìn)他們的算法，雙工也不例外。它如何存儲(chǔ)，保護(hù)和使用這些數(shù)據(jù)非常重要。

新的法規(guī)正在出現(xiàn)，要求公司在想要收集信息時(shí)獲得用戶(hù)的明確同意，但它們主要用于涵蓋用戶(hù)有意發(fā)起互動(dòng)的技術(shù)。這對(duì)于用戶(hù)激活的像Siri和Alexa這樣的AI助手來(lái)說(shuō)很有意義。但目前尚不清楚新規(guī)則如何適用于未經(jīng)觸發(fā)而觸及用戶(hù)的AI助手。

在他的文章中，Brykman強(qiáng)調(diào)有必要建立監(jiān)管保障措施，例如要求公司宣布存在AI代理人的法律 - 或者當(dāng)您詢(xún)問(wèn)聊天機(jī)器人是否是聊天機(jī)器人時(shí)，需要說(shuō)，“是的，我是聊天機(jī)器人?！?這些措施將使人類(lèi)對(duì)話者有機(jī)會(huì)脫離或至少?zèng)Q定他們是否想要與記錄他們的聲音的AI系統(tǒng)進(jìn)行交互。

即使有這樣的法律，隱私問(wèn)題也不會(huì)消失。“我預(yù)見(jiàn)的技術(shù)目前最大的風(fēng)險(xiǎn)是，它將為企業(yè)提供更多關(guān)于我們尚未擁有的私人生活的數(shù)據(jù)。到目前為止，他們只知道我們的在線交流;他們現(xiàn)在將獲得真正的洞察力我們真實(shí)的對(duì)話。

最近涉及國(guó)外大型科技公司的隱私丑聞，他們以可疑的方式利用用戶(hù)數(shù)據(jù)來(lái)獲取自己的收益，這讓人們產(chǎn)生了一種不信任的感覺(jué)，即給他們更多的窗戶(hù)進(jìn)入我們的生活?！叭藗兤毡檎J(rèn)為，大型硅谷公司將其視為庫(kù)存而非客戶(hù)，并且對(duì)他們所做的幾乎任何事情都有很大程度的不信任，無(wú)論它最終會(huì)如何開(kāi)創(chuàng)性和改變生活”。

功能失敗

盡管具有自然的聲音和音調(diào)以及使用類(lèi)似人類(lèi)的聲音，例如“mmhm”和“ummm”，Duplex與其他當(dāng)代AI技術(shù)沒(méi)有什么不同，并且受到相同的限制。

無(wú)論是語(yǔ)音還是文本都用作界面，AI代理都善于解決特定問(wèn)題。這就是為什么我們稱(chēng)它們?yōu)椤?狹窄的人工智能 ”（與“一般人工智能”相對(duì)的 - 這種人工智能可以像人類(lèi)思維一樣進(jìn)行一般的問(wèn)題解決）。雖然狹窄的AI可以非常好地執(zhí)行它所編程的任務(wù)，但是當(dāng)它給出一個(gè)偏離其問(wèn)題域的場(chǎng)景時(shí)，它可能會(huì)非常失敗。

如果消費(fèi)者認(rèn)為他們正在與人交談，他們可能會(huì)問(wèn)一些不在AI正常腳本之外的東西，然后當(dāng)機(jī)器人不理解時(shí)會(huì)得到令人沮喪的反應(yīng)。

相比之下，當(dāng)一個(gè)人知道他們正在與一個(gè)經(jīng)過(guò)培訓(xùn)以便在餐廳預(yù)訂餐桌的人工智能交談時(shí)，他們會(huì)盡量避免使用會(huì)混淆人工智能并使其以意想不到的方式行事的語(yǔ)言，特別是如果它帶來(lái)的話他們是客戶(hù)。

接受雙工呼叫的工作人員也應(yīng)該得到一個(gè)簡(jiǎn)單的介紹，即這不是一個(gè)真實(shí)的人。這將有助于工作人員和AI之間的溝通更加保守和清晰。

出于這個(gè)原因，直到（以及如果）開(kāi)發(fā)出能夠與人類(lèi)智能相提并論的人工智能，企業(yè)本身的利益是對(duì)他們使用人工智能保持透明。