簡(jiǎn)介

AI研究人員開(kāi)始將AI安全工程設(shè)計(jì)面臨的主要挑戰(zhàn)列為過(guò)去60年AI失敗的主要原因，例如價(jià)值觀對(duì)接問(wèn)題。同時(shí)，另一個(gè)現(xiàn)實(shí)問(wèn)題也暴露出來(lái)：機(jī)器越智能，人們預(yù)測(cè)、解釋和理解其影響的能力就越差。

不可預(yù)測(cè)性

AI的不可預(yù)測(cè)性是指我們無(wú)法準(zhǔn)確、連貫地預(yù)測(cè)系統(tǒng)將采取哪些具體措施來(lái)實(shí)現(xiàn)其目標(biāo)。例如，在一場(chǎng)智能?chē)?guó)際象棋比賽中，我們可以預(yù)測(cè)AI將獲勝（如果這是它的目標(biāo)），但是我們無(wú)法預(yù)測(cè)AI為了取勝具體會(huì)怎樣走棋。這種情況的后果還無(wú)關(guān)緊要，但隨著目標(biāo)的智能性和復(fù)雜性增加，不可預(yù)測(cè)性也會(huì)隨之放大。如第2部分所述，假設(shè)通過(guò)AI來(lái)幫助治療癌癥，理論上講，它可以把殺死人類(lèi)算作把病治好了。

這些中間步驟取決于幾個(gè)因素，包括AI在整個(gè)過(guò)程中的互動(dòng)。在第3部分中介紹過(guò)Microsoft的聊天機(jī)器人Tay，因?yàn)榕c人們的在線互動(dòng)而被“教壞”，成了一個(gè)狂飆臟話的種族主義者。而且，較低的智能系統(tǒng)無(wú)法學(xué)會(huì)預(yù)測(cè)較高智能系統(tǒng)做出的決策。先進(jìn)的AI可以理論化所有可能的選擇、決策或策略，而人類(lèi)則沒(méi)有這種能力。有的細(xì)分應(yīng)用系統(tǒng)雖然總體上相對(duì)人類(lèi)力不能及，但在某些領(lǐng)域具有比人類(lèi)更勝一籌的智能，這些系統(tǒng)可能會(huì)出現(xiàn)類(lèi)似情況。

不可解釋性

不可解釋性是指無(wú)法以一種可理解的準(zhǔn)確方式來(lái)解釋智能系統(tǒng)做出的決策。例如，應(yīng)用于按揭貸款審批的AI可能會(huì)通過(guò)數(shù)百萬(wàn)甚至數(shù)十億的加權(quán)因子進(jìn)行決策。但是當(dāng)申請(qǐng)人被拒絕時(shí)，會(huì)用一兩個(gè)因素來(lái)解釋?zhuān)纭安涣夹庞谩被颉肮べY不夠”。但是，這種解釋充其量只是其簡(jiǎn)化過(guò)的決策結(jié)論。這類(lèi)似于低質(zhì)量的圖像壓縮，在壓縮過(guò)程中，即使生成的圖像在很大程度上代表了原始圖像，但數(shù)據(jù)還是在壓縮過(guò)程中丟失了。同理，把拒絕按揭的原因解釋為“不良信用”，也就忽略了其他因素可能產(chǎn)生的影響。由此給出的解釋是不完整的，因此也不是100%準(zhǔn)確。

其他因素是否也應(yīng)列為拒絕的主要原因？有可能。以美國(guó)為例，不可以根據(jù)是否屬于受保護(hù)階層來(lái)作出涉及貸款、住房、醫(yī)療保健等方面的決定。用于審批按揭貸款的AI不能在決策過(guò)程中使用年齡或性別等因素，但此類(lèi)數(shù)據(jù)卻可能會(huì)成為決策因素。例如，如果按揭公司曾拒絕向在舊金山生活的18-25歲沒(méi)有大學(xué)學(xué)歷的拉丁裔女性提供貸款，那么AI可能會(huì)認(rèn)為符合這些條件的申請(qǐng)人的違約風(fēng)險(xiǎn)更高，而不考慮申請(qǐng)人其他的有利條件。在這里又冒出了不可預(yù)測(cè)性，但這是一個(gè)很好的例子，說(shuō)明了決策需要能夠被準(zhǔn)確、完整地解釋的重要性。

不可理解性

如果對(duì)拒絕按揭貸款申請(qǐng)的原因進(jìn)行了完整而準(zhǔn)確的解釋?zhuān)敲催@種解釋是否可以理解呢？可理解性或多或少與個(gè)人有關(guān)，具有金融學(xué)位或多年按揭貸款行業(yè)經(jīng)驗(yàn)的人比沒(méi)有類(lèi)似領(lǐng)域知識(shí)的人會(huì)對(duì)準(zhǔn)確而完整的解釋有更透徹的理解，或理解起來(lái)更加輕松。

盡管如此，一個(gè)將百萬(wàn)個(gè)不同加權(quán)因子納入考量的系統(tǒng)所作出的具體響應(yīng)仍然可能不被人類(lèi)所理解，因?yàn)槲覀儧](méi)有理解如此多相互關(guān)聯(lián)變量的存儲(chǔ)容量、記憶力和能力。

AI安全性的意義

不可預(yù)測(cè)性、不可解釋性和不可理解性使實(shí)現(xiàn)100%安全的AI成為妄想，因?yàn)榧词故且训玫焦J(rèn)的標(biāo)準(zhǔn)、法律和工具也無(wú)法恰如其分地鼓勵(lì)或阻止不良影響。即使有能力預(yù)測(cè)AI行為，我們也無(wú)法在不限制智能或系統(tǒng)價(jià)值的情況下有效地控制行為。當(dāng)然，評(píng)估和調(diào)試AI故障需要可理解的解釋?zhuān)S著機(jī)器智能的提高，做到這一點(diǎn)的可能性越來(lái)越小。

原文標(biāo)題：人類(lèi)必須勒緊AI和機(jī)器的韁繩

文章出處：【微信公眾號(hào)：貿(mào)澤電子】歡迎添加關(guān)注！文章轉(zhuǎn)載請(qǐng)注明出處。

責(zé)任編輯：haq