隨著人工智能的應(yīng)用越來越普遍，越來越多的IT領(lǐng)導(dǎo)者開始關(guān)注人工智能的道德含義。事實上，由SnapLogic公司贊助，由Vanson Bourne公司進行的2019年調(diào)查報告發(fā)現(xiàn)，在接受調(diào)查的1000名美國和英國IT決策者中， 94%的受訪者認為人們應(yīng)該更加關(guān)注人工智能開發(fā)中的企業(yè)責(zé)任和道德規(guī)范。

人們?yōu)榇烁械綋?dān)憂是有理由的。一些著名的科技公司已經(jīng)卷入相關(guān)丑聞，因為他們創(chuàng)建的人工智能系統(tǒng)沒有按預(yù)期行事。例如，在2015年，很多用戶抱怨谷歌公司的圖像識別軟件將黑人標(biāo)記為“大猩猩”，雖然這家科技巨頭承諾要解決這個問題，但在三年之后，谷歌公司提供的唯一解決方案就是取消人工智能識別大猩猩的能力。而微軟公司的基于人工智能的Twitterbot-tay上在使用了幾個小時后，就變成了種族主義者，這讓微軟公司不得不取消了這個業(yè)務(wù)。

此外據(jù)悉，舊金山日前成為美國第一個禁止市場機構(gòu)使用面部識別軟件的主要城市，其部分原因是該技術(shù)存在潛在的偏見。幾個規(guī)模較小的城市已經(jīng)通過或正在考慮類似的禁令。

雖然有關(guān)人工智能失誤的報道屢見不鮮，但許多人擔(dān)心，在沒有公眾知識的情況下，更普遍、更陰險的人工智能犯罪可能發(fā)生在幕后。客戶可能永遠不會知道他們是否因為道德上可疑的人工智能算法而被拒絕貸款或面臨欺詐嫌疑。

紐約大學(xué)的AI Now研究所和美國南部浸禮會派這樣的組織都在呼吁開發(fā)人工智能的公司讓其技術(shù)變得更加透明，并同意遵守相應(yīng)的道德原則。作為回應(yīng)，包括谷歌公司和微軟公司在內(nèi)的一些企業(yè)已經(jīng)發(fā)布了有關(guān)人工智能使用的內(nèi)部指南。

然而，許多人認為這還遠遠不夠。相反，他們希望政府機構(gòu)參與并頒布法規(guī)。在Vanson Bourne公司的研究中，87%的商業(yè)IT領(lǐng)導(dǎo)者表示應(yīng)該對人工智能開發(fā)進行監(jiān)管。

IT領(lǐng)導(dǎo)者具有這種愿望的部分原因是，在缺乏相關(guān)法律的情況下，企業(yè)沒有辦法知道他們是否做了足夠的工作來確保其開發(fā)的人工智能是合乎道德的。監(jiān)管法律可能使他們有能力向客戶保證人工智能的應(yīng)用，因為可以表示他們遵守了所有相關(guān)法律。如果沒有這些法律，獲得和保持客戶信任可能會更加困難。

但即使沒有監(jiān)管法律，企業(yè)也可以而且應(yīng)該采取措施確保他們使用人工智能是道德的。以下提供了企業(yè)可以改善其在人工智能方面的道德立場采取的9項措施：

1.遵守法規(guī)

組織至少需要確保其人工智能應(yīng)用程序符合數(shù)據(jù)隱私法規(guī)。大多數(shù)人工智能軟件(尤其是機器學(xué)習(xí))都依賴于大量的數(shù)據(jù)來進行操作，企業(yè)有責(zé)任確保他們對這些數(shù)據(jù)的處理符合相關(guān)法律。在美國，組織可能需要遵守健康保險便攜性和責(zé)任法案(HIPAA)、兒童在線隱私保護法案(COPPA)或其他聯(lián)邦或州法律。

如果組織在歐洲擁有客戶或員工，他們還必須遵守歐盟的通用數(shù)據(jù)保護法規(guī)(GDPR)。除其他事項外，這項全面的立法要求組織盡可能以最短的時間存儲數(shù)據(jù)，并為個人提供查看和刪除其個人數(shù)據(jù)的方法。就人工智能而言，最重要的是，GDPR法規(guī)還指出，“個人不應(yīng)僅僅依據(jù)自動處理(例如算法)做出決定，而且具有法律約束力或?qū)ζ洚a(chǎn)生重大影響?！?/p>

2. 遵守數(shù)據(jù)科學(xué)最佳實踐

除了遵守政府部門的規(guī)定外，組織還應(yīng)該提供數(shù)據(jù)科學(xué)最佳實踐。Forrester公司在其名為“人工智能的倫理：如何避免有害的偏見和歧視” 報告中建議，“為了防止模型中的算法偏見，組織需要堅持數(shù)據(jù)挖掘的基本原則，確保組織培訓(xùn)數(shù)據(jù)代表其計劃使用模型的人群?！?/p>

還有一些人建議，數(shù)據(jù)科學(xué)家需要反復(fù)測試和驗證他們的模型，并保持跟蹤數(shù)據(jù)沿襲的方法。雖然很少有企業(yè)高管了解機器學(xué)習(xí)的復(fù)雜性，但他們有義務(wù)確保他們的數(shù)據(jù)科學(xué)家遵守行業(yè)最佳實踐。

3.安全設(shè)計

幾十年來，科幻作家一直在警告人工智能可能具有世界末日的危險。如今人工智能變得越來越普遍，重要的是不要忽視人工智能傷害人類的可能性，因為它不只是在書籍和電影中出現(xiàn)的事物。自動駕駛汽車和基于人工智能的武器系統(tǒng)等相關(guān)應(yīng)用顯然會影響人類的安全，設(shè)計師應(yīng)確保這些系統(tǒng)盡可能安全。雖然其他機器學(xué)習(xí)系統(tǒng)可能不會直接影響人類的人身安全，但它們可能會對他們的隱私和在線安全產(chǎn)生重大影響。

4.使人工智能技術(shù)更加透明

企業(yè)在人工智能道德方面可以采取的最重要步驟之一是確保他們完全理解使用的任何人工智能系統(tǒng)的運作。人工智能供應(yīng)商Kyndi公司首席執(zhí)行官Ryan Welsh在一次采訪中指出，“要發(fā)揮人工智能的全部潛力，信任至關(guān)重要。而信任來自人們的理解，并且能夠證明系統(tǒng)結(jié)論和結(jié)果背后的推理。人工智能不可能是一個黑盒，因為它經(jīng)常出現(xiàn)。要想讓人工智能蓬勃發(fā)展，就必須更加透明?！?/p>

AI Now研究所表示，“為了實現(xiàn)有意義的問責(zé)制，我們需要更好地理解和跟蹤人工智能系統(tǒng)的組成部分及其所依賴的完整供應(yīng)鏈：這意味著要考慮培訓(xùn)數(shù)據(jù)、測試數(shù)據(jù)、模型的來源和使用、產(chǎn)品生命周期中的應(yīng)用程序接口(API)和其他基礎(chǔ)設(shè)施組件?！?/p>

5.清理數(shù)據(jù)

機器學(xué)習(xí)系統(tǒng)的行業(yè)與它們所依賴的數(shù)據(jù)一樣好。對于許多組織而言，數(shù)據(jù)質(zhì)量仍然是一個主要問題。在最壞的情況下，糟糕的數(shù)據(jù)可能導(dǎo)致組織做出不準(zhǔn)確甚至道德上受到損害的決策。

另一方面，擁有準(zhǔn)確、最新的數(shù)據(jù)會增加人工智能應(yīng)用程序產(chǎn)生積極經(jīng)濟利益的可能性。Information Builders數(shù)據(jù)管理卓越中心的國際主管James Cotton在一次采訪中表示，“當(dāng)分析應(yīng)用于管理良好的數(shù)據(jù)時，其回報要大得多。可以清楚地了解組織擁有什么，來自何處以及如何使用它會帶來更大的回報?！?/p>

6.檢查模型是否存在偏差跡象

數(shù)據(jù)科學(xué)家不僅需要確保他們的數(shù)據(jù)是干凈的，而且他們還需要確保他們的數(shù)據(jù)和數(shù)據(jù)模型不包含任何偏差。這個問題可能會以幾種不同的方式無意中進入到機器學(xué)習(xí)模型中。

首先，組織可能有不完整的訓(xùn)練數(shù)據(jù)。例如，如果企業(yè)只使用歐洲面孔訓(xùn)練其面部識別系統(tǒng)，那么當(dāng)系統(tǒng)難以識別非洲或亞洲面孔時，人們不應(yīng)對此感到驚訝。

其次，許多數(shù)據(jù)集包括歷史偏差。例如，一些職業(yè)(例如護理或工程)在傳統(tǒng)上一直是由性別主導(dǎo)的。如果組織根據(jù)這些歷史數(shù)據(jù)訓(xùn)練基于人工智能的人力資源系統(tǒng)選擇面試候選人，可能會意外地出現(xiàn)偏見，甚至可能觸犯反歧視法規(guī)。

7.監(jiān)控調(diào)查結(jié)果和反饋

而數(shù)據(jù)科學(xué)家通常表示，沒有數(shù)據(jù)模型是完美的。他們所能期望最好的情況就是隨著時間的推移而改進。這意味著人類需要監(jiān)控系統(tǒng)來尋找潛在的道德問題。許多已發(fā)布人工智能指南的組織表示，所有人工智能技術(shù)都需要對人類負責(zé)。但一些人卻表示，只是問責(zé)是不夠的;人類監(jiān)管者需要積極跟蹤人工智能的行為和與人類的互動，并在必要時作出調(diào)整，以確保人工智能技術(shù)不會跨越任何道德界限。

8.確?？梢猿废斯ぶ悄芩龅娜魏螞Q定

在相關(guān)的說明中，組織需要能夠撤消人工智能所做出的任何決定。Forrester公司建議，組織開發(fā)的人工智能系統(tǒng)從根本上需要是健全的、可評估的、包容、可逆的，這意味需要設(shè)計可更改的人工智能系統(tǒng)，而且可能還需要為信貸決策等事項設(shè)立人工智能上訴委員會。

AI Now研究所進一步指出，““技術(shù)工作者的組織和抵制已經(jīng)成為一種責(zé)任和道德決策的力量。技術(shù)公司需要保護工人的組織能力、揭發(fā)信息的能力，并在他們從事的項目上做出道德選擇。這應(yīng)包括明確的政策，以適應(yīng)和保護有責(zé)任心的反對者，確保工作人員有權(quán)知道他們在做什么，并有能力在沒有報復(fù)或懲罰的情況下放棄此類工作。”

9.成立人工智能道德咨詢委員會

包括谷歌公司在內(nèi)的多家科技公司已成立人工智能道德咨詢委員會，以幫助指導(dǎo)他們使用人工智能。雖然讓一群局外人監(jiān)督組織的人工智能工作可能有助于建立公眾信任，但也可能適得其反。一些組織因任命人工智能道德委員會成員而受到批評，有些人對此表示反對。

雖然成立人工智能道德委員會可能存在一些問題，但在缺乏監(jiān)管法規(guī)或行業(yè)標(biāo)準(zhǔn)的情況下，它們可能是組織說服公眾的最佳機會，即通過沒有既得利益的人員監(jiān)督人工智能的發(fā)展。