在過去的幾年中,來自全球的科技公司、各路資本和政府等在 AI 技術(shù)上的投入讓相關(guān)領(lǐng)域取得了飛速發(fā)展。
當(dāng)這 AI 技術(shù)在不斷成熟并逐漸開始進入人們的生活中時,一些由新技術(shù)帶來的安全、平等問題開始更加被人們重視。
有意思的是,在 2018 年開始,除了繼續(xù)推動技術(shù)發(fā)展,各大科技公司紛紛開始對 AI 技術(shù)的應(yīng)用進行不同程度的限制。
以谷歌為例,美國防部 2017 年宣布成立“Maven 計劃”(Project Maven),這一計劃也被視為是將 AI 技術(shù)引入戰(zhàn)常2018 年 4 月,在得知谷歌也參與了這一計劃后,谷歌員工在內(nèi)部掀起抗議浪潮,盡管谷歌一再強調(diào)公司所提供的技術(shù)"不具有攻擊性",但依然有 4500 名員工提出要求退出這一項目。
2018 年 6 月,谷歌終作出決定,承諾在完成已有合同之后,不會再續(xù)約。同時,谷歌還發(fā)布了一系列 AI 技術(shù)使用規(guī)范,包括包括不會提供用于武器和會導(dǎo)致人員傷亡的 AI 系統(tǒng)。
而除了與軍方相關(guān)的項目,一些看似"人畜無害"的項目也引起了不小爭議。
2018 年 5 月,谷歌 I/O 大會上,谷歌 CEO Sundar Pichai 演示了能打電話訂餐廳的語音助手 Duplex,高度智能和擬真的表現(xiàn)讓其被評價為今年 I/O 大會上最亮眼的一個新功能。
但谷歌在會后即遭到多方質(zhì)疑,他們認(rèn)為在未事先聲明的情況下,電話的另一端與 Duplex 對話的人并不能清楚意識到自己正在與一個軟件進行對話。隨后谷歌宣布程序進行更新,Duplex 會在對話開始前強調(diào)自己的身份,以消除這一問題。
除此之外,算法帶來的偏見和歧視問題已經(jīng)由來已久,這一問題在 AI 算法上依然存在。據(jù) 2018 年 2 月 Wired 的一則報道,MIT 媒體實驗室研究員 Joy Buolamwini 和在微軟擔(dān)任研究員的 Timnit Gebru 曾進行過一個測試,他們找來上千張來自不同地區(qū)、膚色不同的人照片讓 IBM、微軟的視覺識別系統(tǒng)進行識別,結(jié)果顯示,系統(tǒng)在對男性面部進行識別時的準(zhǔn)確率比女性高,同時,對膚色較淺的人的識別結(jié)果也比膚色較深的人更加準(zhǔn)確。
隨后,微軟和 IBM 都表示將會對這一問題進行改進。但報道同時指出,由于這種技術(shù)已經(jīng)被廣泛運用,因此這一系統(tǒng)帶來的偏見可能已經(jīng)造成了廣泛的影響。
在歧視問題上,社交媒體巨頭 Facebook 則在公司內(nèi)部成立團隊并開發(fā)了一個名為 Fairness Flow 的工具,旨在幫助工程師檢查其程序在面對不同的人、群體時的表現(xiàn)是否一致和公平。
圍繞 AI 的道德問題在今年不斷出現(xiàn),一定程度上反映出了 AI 技術(shù)在過去一段時間里取得了飛速的發(fā)展。
目前,AI 技術(shù)已經(jīng)滲透到更多的領(lǐng)域中,包括視覺、語音識別、自動駕駛以及機器人等領(lǐng)域。AI 技術(shù)的加持的確能夠推動這些領(lǐng)域的發(fā)展和盡快實現(xiàn)落地應(yīng)用,但是 AI 帶來的安全和道德爭議讓開發(fā)者在引入這項技術(shù)時也變得更加謹(jǐn)慎。
除了上文提到的谷歌和 Facebook 的例子,12 月初微軟總裁兼首席法務(wù)官 Brad Smith 呼吁各國政府規(guī)范其面部視覺技術(shù)的使用。不久之后,谷歌也表示不會向云客戶提供通用的面部識別技術(shù),這些都反應(yīng)出科技公司在 AI 技術(shù)的使用上似乎比以往多了些許克制。
而除了開發(fā)者和科技公司,各地的監(jiān)管機構(gòu)也將可能逐漸地開始介入和制定 AI 技術(shù)的使用規(guī)范。
今年 5 月,歐洲通用數(shù)據(jù)保護條例(GDPR)正式實行,這一條例的實行有助于幫助用戶更好的使用和保護自己的數(shù)據(jù)信息,極度依賴數(shù)據(jù)驅(qū)動的 AI 技術(shù)當(dāng)然也會受到這一法規(guī)的影響。
但同時需要注意的是,規(guī)范的制定不意味實在限制 AI 技術(shù)的未來發(fā)展空間。相反,新技術(shù)的出現(xiàn)常常會倒推相關(guān)法律和規(guī)范逐漸完善,這從側(cè)面也反應(yīng)出 AI 技術(shù)正在逐步完善當(dāng)中。
在 AI 技術(shù)逐漸滲入大眾生活的今天,對 AI 技術(shù)的謹(jǐn)慎態(tài)度將有助于相關(guān)技術(shù)更安全地為我們提供服務(wù)和更多便利。
評論