人工智能不僅學(xué)習(xí)人類的語(yǔ)言、下棋方式和圖像識(shí)別模式，也學(xué)會(huì)了人類的歧視和偏見。人工智能“女王”李飛飛指出，AI 的決策已經(jīng)開始影響人類社會(huì)，我們必須盡快對(duì)人工智能進(jìn)行修正。這也將成為李飛飛離開谷歌之后的工作重點(diǎn)。

人工智能的“偏見”危機(jī)

今年 6 月 26 日，李飛飛走進(jìn)美國(guó)眾議院科學(xué)、空間與技術(shù)委員會(huì)（the US House Committee on Science, Space, and Technology）的會(huì)議室，出席一場(chǎng)聽證會(huì)，主題為“人工智能——力量與責(zé)任并存（Artificial Intelligence—With Great Power Comes Great Responsibility）”。她演講的內(nèi)容是人工智能帶來的危機(jī)。

李飛飛是桌邊唯一的女性。她參與構(gòu)建的ImageNet數(shù)據(jù)庫(kù)能夠幫助計(jì)算機(jī)識(shí)別圖像。有了這樣的人工智能軟件，計(jì)算機(jī)可以學(xué)會(huì)做某個(gè)特定的任務(wù)，用時(shí)要比人工短得多。而且，隨著人工智能的復(fù)雜化，它可以代表人類對(duì)數(shù)據(jù)進(jìn)行過濾、分類和分析，最后做出影響社會(huì)乃至全球的決策。現(xiàn)如今，人工智能可以判斷該對(duì)病人處以何種治療、誰(shuí)能獲得人壽保險(xiǎn)、犯人的監(jiān)禁時(shí)間要判處多長(zhǎng)、哪些求職者能進(jìn)入面試等等。

當(dāng)然，如果操作不當(dāng)，這些力量也可能是危險(xiǎn)的。亞馬遜的人工智能招聘軟件學(xué)會(huì)了剔除那些含有“女性”字眼的簡(jiǎn)歷，因此強(qiáng)制被停用；2015 年谷歌的照片識(shí)別軟件錯(cuò)把黑人當(dāng)成大猩猩，這一事件成為廣為人知的事故；微軟的社交聊天機(jī)器人發(fā)出的推文帶有種族歧視，為大家所唾棄。如今我們還能找出問題出在哪，從而進(jìn)行修正，但李飛飛認(rèn)為，隨著人工智能技術(shù)被廣泛、快速納入應(yīng)用，我們?cè)诓痪玫膶砭蜁?huì)到達(dá)一個(gè)時(shí)間點(diǎn)，無(wú)法進(jìn)行自我修正。

這個(gè)領(lǐng)域當(dāng)中絕大多數(shù)有權(quán)威的杰出男性領(lǐng)導(dǎo)者不止一次發(fā)出警告，認(rèn)為人工智能驅(qū)動(dòng)的技術(shù)有朝一日會(huì)對(duì)人來產(chǎn)生威脅。但李飛飛認(rèn)為大家還不必對(duì)這些擔(dān)憂太過重視。她所關(guān)心的問題沒有那么宏大，卻更為重要：人工智能會(huì)對(duì)人們的工作、生活方式產(chǎn)生怎樣的影響。這項(xiàng)技術(shù)肯定會(huì)改變?nèi)祟惖纳铙w驗(yàn)，然而并不一定是向更好的方向。

李飛飛堅(jiān)信人工智能領(lǐng)域需要一次“校正”，她說：“我們還有時(shí)間，但行動(dòng)要趁早?！比绻覀儗?duì)人工智能的編程方式和背后的程序員進(jìn)行根本上的改變，這項(xiàng)技術(shù)就可以極大地提高我們的生活質(zhì)量。若非如此，我們中的大部分都跟不上變革的腳步。

李飛飛在聽證會(huì)上最后一個(gè)發(fā)言?！叭斯ぶ悄懿⒉弧斯ぁ彼穆曇粼絹碓胶榱?，“它受到人類的啟發(fā)，由人類所創(chuàng)造，而且最重要的是人類會(huì)受其影響。它是一種強(qiáng)大的工具，我們對(duì)它的理解還處在初始階段，掌握它是我們深遠(yuǎn)的責(zé)任。”與會(huì)者們聽得聚精會(huì)神。

“不可能”的數(shù)據(jù)庫(kù)

李飛飛在成都長(zhǎng)大，這是中國(guó)南方的一座工業(yè)化城市。她不愛說話，頭腦聰明，還很喜歡讀書。她的家庭也有點(diǎn)不同尋常：當(dāng)時(shí)很少有人養(yǎng)寵物，她爸爸卻給她買了只小狗。媽媽出身書香門第，鼓勵(lì)她閱讀《簡(jiǎn)·愛》。

李飛飛 12 歲的時(shí)候，爸爸移民到了新澤西州的帕西帕尼（Parsippany），16 歲時(shí)她和母親也一起移民。李飛飛只用了兩年時(shí)間就掌握了英語(yǔ)，在學(xué)校的表現(xiàn)也很好，1995 年拿到了普林斯頓大學(xué)的獎(jiǎng)學(xué)金。大學(xué)期間她興趣十分廣泛，主修物理，輔修了計(jì)算器科學(xué)與工程。2000年，她到在位于帕薩迪納（Pasadena）的加州理工學(xué)院攻讀博士學(xué)位，研究神經(jīng)科學(xué)和計(jì)算機(jī)科學(xué)的交叉學(xué)科。

李飛飛能找到看似不相關(guān)的領(lǐng)域之間的聯(lián)系，并且加強(qiáng)這種聯(lián)系，正是這種能力帶給了她設(shè)計(jì) ImageNet 的靈感。同樣研究計(jì)算機(jī)視覺的人在研究幫助計(jì)算機(jī)感知和解碼圖像的模型，但模型應(yīng)用范圍有限：要識(shí)別狗得寫一套程序，要識(shí)別貓還得另寫一套。李飛飛開始懷疑問題出在數(shù)據(jù)而不是模型上。她認(rèn)為，如果小孩可以通過觀察生活中數(shù)不勝數(shù)的物體和場(chǎng)景，體驗(yàn)視覺世界，獲得“看見”的能力，那么計(jì)算機(jī)或許也能通過分析各種圖像及其聯(lián)系，以類似的方式學(xué)習(xí)。這是李飛飛一個(gè)重要的發(fā)現(xiàn)。她認(rèn)為：“這種方式可以組織整個(gè)世界的視覺概念?！?/p>

李飛飛 2007 年回到普林斯頓擔(dān)任助理教授，這期間她提出了構(gòu)建 ImageNet 的想法，但很難找到愿意幫忙的教師。她無(wú)法說服同事們，讓他們相信用一個(gè)數(shù)據(jù)庫(kù)來完成對(duì)每張圖片、每種物體進(jìn)行標(biāo)記的龐大任務(wù)是可以完成的。尤其是李飛飛還決定，為了能將想法付諸實(shí)踐，這些標(biāo)記不能是概括性的描述（如“哺乳動(dòng)物”），而必須具有高度特異性（如“星鼻鼴鼠”）。最后，一位研究計(jì)算機(jī)架構(gòu)的教授終于同意與她合作。

李飛飛面臨的下一個(gè)挑戰(zhàn)就是把這個(gè)龐然大物構(gòu)建出來，這就意味著得找許多人花大量的時(shí)間來給圖片做標(biāo)記。李飛飛曾經(jīng)嘗試以 10 美元一小時(shí)的報(bào)酬找普林斯頓的學(xué)生幫忙，但進(jìn)展依舊十分緩慢。后來有學(xué)生向她推薦了亞馬遜土耳其機(jī)器人（Mechanical Turk，亞馬遜的一家網(wǎng)絡(luò)集市，允許企業(yè)在這一平臺(tái)上雇傭員工，執(zhí)行簡(jiǎn)單的工作，比如在照片中識(shí)別某人的身份等）。這下她就能用很低的成本來吸引到很多工人了。

ImageNet 的誕生

2009 年，李飛飛的團(tuán)隊(duì)已經(jīng)獲得了 320 萬(wàn)張標(biāo)記好了的圖片，他們認(rèn)為這么大的數(shù)量涉及內(nèi)容很全面，已經(jīng)足夠使用了，于是他們用圖片和編好的數(shù)據(jù)庫(kù)一起發(fā)表了一篇論文（后來圖片數(shù)量增長(zhǎng)到 1500 萬(wàn)）。隨后她的團(tuán)隊(duì)又提出了新想法：他們聯(lián)系上了來年歐洲計(jì)算機(jī)視覺競(jìng)賽的組織者，希望能允許參賽選手使用 ImageNet 數(shù)據(jù)庫(kù)訓(xùn)練他們的算法。ImageNet 大規(guī)模視覺識(shí)別挑戰(zhàn)賽（the ImageNet Large Scale Visual Recognition Challenge）就此誕生。同年，李飛飛加入斯坦福大學(xué)擔(dān)任助理教授，與機(jī)器人學(xué)家西爾維奧·薩瓦里斯（Silvio Savarese）結(jié)婚。

2012 年，多倫多大學(xué)研究員杰弗里·辛頓（Geoffrey Hinton）參加了 ImageNet 比賽，利用該數(shù)據(jù)庫(kù)訓(xùn)練了一種叫做深度神經(jīng)網(wǎng)絡(luò)（deep neural network）的人工智能，比之前所有的成果都準(zhǔn)確得多，他因此獲得了比賽的冠軍。李飛飛本來沒打算去看辛頓的比賽：她正在休產(chǎn)假，而頒獎(jiǎng)典禮在意大利佛羅倫薩舉行。但她意識(shí)到這是歷史性的一刻，所以在最后時(shí)刻買了機(jī)票，在飛機(jī)的中間座位上擠了一夜。

辛頓獲獎(jiǎng)后不久，李飛飛開始反思自己的團(tuán)隊(duì)中幾乎沒有女性。那時(shí)她敏銳地感覺到，這種差異會(huì)越來越成問題。絕大多數(shù)寫人工智能算法的科學(xué)家都是男性，而且往往是具有相似背景的男性。他們大多看著《終結(jié)者》和《銀翼殺手》長(zhǎng)大，完成的項(xiàng)目、甚至設(shè)想的危險(xiǎn)中無(wú)不反映著一種特殊的世界觀。李飛飛認(rèn)為擔(dān)心這些沒什么不妥，但這些擔(dān)憂與人工智能可能存在威脅的狹隘觀點(diǎn)相悖。

正如李飛飛所說，深度學(xué)習(xí)系統(tǒng)的“輸入和輸出都有偏見”。她發(fā)現(xiàn)雖然人工智能背后的算法有可能是公正的，輸入的數(shù)據(jù)和結(jié)果的應(yīng)用卻并非如此。人工智能的構(gòu)建者和構(gòu)建的原因很重要。在國(guó)會(huì)山的會(huì)議上，李飛飛指出，如果沒有多元化的工程師團(tuán)隊(duì)，我們就可能會(huì)用看似公正的算法通過不公正的貸款申請(qǐng)，或者只用白人面孔的數(shù)據(jù)訓(xùn)練神經(jīng)網(wǎng)絡(luò)，得到可能對(duì)黑人并不適用的模型。她說：“我認(rèn)為我們?nèi)羰?20 年后醒來，看到我們的技術(shù)、領(lǐng)導(dǎo)者和從業(yè)者都缺乏多樣性，那將是世界末日的情形?！?/p>

李飛飛越來越覺得利用人工智能的發(fā)展改善人類的生活體驗(yàn)十分重要。她在斯坦福有個(gè)項(xiàng)目就是和醫(yī)學(xué)院合作，將人工智能帶進(jìn)重癥監(jiān)護(hù)室，減少醫(yī)院獲得性感染。項(xiàng)目包括開發(fā)一種可以監(jiān)控洗手臺(tái)的攝像系統(tǒng)，在醫(yī)護(hù)人員忘記正確洗手時(shí)加以提醒。類似這樣的跨學(xué)科的合作很少見。斯坦福大學(xué)臨床卓越研究中心的醫(yī)學(xué)教授阿諾德·米爾斯坦（Arnold Milstein）說：“沒有其他計(jì)算機(jī)科學(xué)系的老師找過我合作?！?/p>

這項(xiàng)工作讓李飛飛對(duì)人工智能的改進(jìn)方向有了靈感：它可以作為人類技能的補(bǔ)充品，而非替代品。如果工程師能和其它學(xué)科（甚至非學(xué)術(shù)界）的人多溝通，就能創(chuàng)造一些延伸人力的工具，比如自動(dòng)完成某些耗費(fèi)時(shí)間的任務(wù)，讓重癥監(jiān)護(hù)室的護(hù)士有更多時(shí)間陪伴病人，而不是創(chuàng)建自助購(gòu)物程序搶收銀員的飯碗。

辛頓用 ImageNet 支持的神經(jīng)網(wǎng)絡(luò)做出了翻天覆地的改變。到 2017 年，也就是上一次 ImageNet 大規(guī)模視覺識(shí)別挑戰(zhàn)賽為止，計(jì)算機(jī)識(shí)別圖像中物體的錯(cuò)誤率已經(jīng)從 2012 年的 15% 下降到不足 3%。至少?gòu)倪@個(gè)方面來看，計(jì)算機(jī)的識(shí)別能力比人類更好?？紤]到人工智能正在飛速發(fā)展，李飛飛認(rèn)為她需要盡快給團(tuán)隊(duì)來一次換血。

根據(jù)美國(guó)國(guó)家科學(xué)基金會(huì)（National Science Foundation）的統(tǒng)計(jì)，在 2000 年獲得計(jì)算機(jī)科學(xué)學(xué)士學(xué)位的學(xué)生中，僅有 28% 是女性。2015 年這一比例為 18％。

在自己的實(shí)驗(yàn)室里，李飛飛也在努力招募有色人種和女性。當(dāng)奧爾加·魯薩科夫斯基（Olga Russakovsky）成為李飛飛的學(xué)生時(shí)，她正打算退出這個(gè)領(lǐng)域。那時(shí)魯薩科夫斯基已經(jīng)是一位熟練的計(jì)算機(jī)科學(xué)家，擁有斯坦福大學(xué)的數(shù)學(xué)學(xué)士和計(jì)算機(jī)科學(xué)碩士學(xué)位，但博士論文進(jìn)展很緩慢。作為實(shí)驗(yàn)室中唯一的女性，她感覺和同事們有點(diǎn)格格不入。李飛飛來到斯坦福之后改變了一切。在她的幫助下，魯薩科夫斯基學(xué)到了一些成功研究的技巧，“也幫我找回了自信，”魯薩科夫斯基說，她現(xiàn)在成了普林斯頓大學(xué)計(jì)算機(jī)科學(xué)的助理教授。

四年前魯薩科夫斯基做博士論文時(shí)，她向李飛飛求助，希望能幫她組建一個(gè)吸引女孩了解人工智能的夏令營(yíng)。李飛飛馬上同意，她們把志愿者集合起來，發(fā)布了廣告，招募高二學(xué)生參加?；顒?dòng)只有 24 個(gè)名額，然而一個(gè)月之內(nèi)她們就收到了 200 份申請(qǐng)。兩年后她們擴(kuò)展了這一項(xiàng)目，成立了非營(yíng)利性組織AI4All，將學(xué)科所缺少的年輕人——包括女孩、有色人種和貧困地區(qū)的孩子帶進(jìn)斯坦福大學(xué)和加州大學(xué)伯克利分校的校園。

如今 AI4All 正在逐漸壯大，目前已經(jīng)能在六所學(xué)校舉辦夏令營(yíng)。（去年新成立的卡內(nèi)基梅隆大學(xué)夏令營(yíng)共接到 20 個(gè)名額的 900 份申請(qǐng)。）一名 AI4All 的學(xué)生在研究如何利用計(jì)算機(jī)視覺檢測(cè)眼部疾病。另一名學(xué)生用人工智能編寫了一個(gè)對(duì) 911 呼叫緊急程度進(jìn)行排序的程序：她的奶奶因?yàn)榫茸o(hù)車沒有及時(shí)趕到而不幸去世。這似乎說明，個(gè)人觀念確實(shí)會(huì)影響到人工智能的未來。

在斯坦福大學(xué)管理了三年人工智能實(shí)驗(yàn)室后，李飛飛在 2016 年學(xué)術(shù)休假，2017 年 6 月成為谷歌企業(yè)計(jì)算業(yè)務(wù)谷歌云（Google Cloud）的人工智能首席科學(xué)家。

李飛飛希望對(duì)整個(gè)行業(yè)的運(yùn)作情況有所了解，看看客戶急于開發(fā)新工具的需求并是否會(huì)改變自己跨學(xué)科研究的范圍。臉書、谷歌、微軟等公司向人工智能投入了大筆資金，希望能在自己的業(yè)務(wù)中用上這項(xiàng)技術(shù)。公司的數(shù)據(jù)通常比大學(xué)更多、更好。對(duì)研究人工智能的人來說，數(shù)據(jù)就是燃料。

最初的經(jīng)歷多姿多彩：她見識(shí)了那些對(duì)自己所研究的科學(xué)有實(shí)際需求的公司；帶領(lǐng)小組推出了面向公眾的人工智能工具，使大家無(wú)需編寫代碼就能創(chuàng)建機(jī)器學(xué)習(xí)算法；在中國(guó)開設(shè)了新實(shí)驗(yàn)室，改進(jìn)人工智能以便用于醫(yī)療保健；還在達(dá)沃斯世界經(jīng)濟(jì)論壇（World Economic Forum in Davos）上發(fā)表了講話，與國(guó)家元首和流行歌手近距離接觸。

但私營(yíng)公司的工作也帶來了新的令人不安的壓力。去年春天，谷歌與美國(guó)國(guó)防部簽訂了Maven 項(xiàng)目，受到大眾抨擊，李飛飛也被卷入此事。該項(xiàng)目用人工智能分辨可讓無(wú)人機(jī)瞄準(zhǔn)攻擊的視頻圖像，谷歌給出的說法是“使用人工智能進(jìn)行低分辨率物體識(shí)別”，“最終目的是拯救生命”。但許多員工反對(duì)將他們的工作用在軍用無(wú)人機(jī)上。約 4000 名員工集體簽署了請(qǐng)?jiān)笗蟆俺雠_(tái)明確政策，確保谷歌及其承包商永遠(yuǎn)不會(huì)建立戰(zhàn)爭(zhēng)技術(shù)”。幾名工人辭職以示抗議。

雖然李飛飛并沒有直接參與其中，但她所在的部門負(fù)責(zé)管理 Maven 項(xiàng)目，她也因此成為公眾非議的中心。這與她在公眾面前布道者的形象大相徑庭，讓人感到迷惑。事實(shí)上，在事件發(fā)酵之前她認(rèn)為這項(xiàng)技術(shù)“完全無(wú)害”；她沒想到會(huì)迎來員工的抗議。

但李飛飛也確實(shí)找到了問題爆發(fā)的原因所在：“事情本來不是這樣。這是由于當(dāng)下對(duì)我們的責(zé)任、人工智能的力量，以及硅谷需要參與的對(duì)話有一種集體緊迫感。Maven 項(xiàng)目恰恰是這樣一個(gè)匯聚點(diǎn)?！薄安蛔鲪骸辈辉偈且粋€(gè)足夠強(qiáng)硬的立場(chǎng)。

這場(chǎng)爭(zhēng)議以谷歌宣布不會(huì)續(xù)簽 Maven 合同告終。包括李飛飛在內(nèi)的谷歌科學(xué)家和管理人員編寫了（公共）指導(dǎo)方針，承諾谷歌將把人工智能研究的重點(diǎn)放在為社會(huì)謀福利的技術(shù)上，避免在工具中引入偏見，避免最終可能會(huì)對(duì)人類造成傷害的及技術(shù)。

李飛飛一直準(zhǔn)備回到斯坦福大學(xué)，但她認(rèn)為通過這些指導(dǎo)方針至關(guān)重要。她說，指導(dǎo)方針正式推出的那天是她一年中最快樂的一天之一。

人工智能的倫理

七月下旬，李飛飛打電話問我：“你知道香農(nóng)·瓦羅（Shannon Vallor）的事了嗎？”。

瓦羅是圣克拉拉大學(xué)（Santa Clara University）的一名哲學(xué)家，專門研究新興科技的哲學(xué)倫理問題，她剛剛簽約成為谷歌云的咨詢倫理學(xué)家。李飛飛之前一直在為此事努力，在華盛頓作證時(shí)還引用了瓦羅的話：“沒有獨(dú)立的機(jī)器價(jià)值觀。機(jī)器價(jià)值觀其實(shí)是人的價(jià)值觀?！边@一任命并非沒有先例。其他公司也已經(jīng)針對(duì)人工智能的用途和使用者設(shè)置了限制。2016 年微軟成立了內(nèi)部道德委員會(huì)。該公司表示，由于董事會(huì)提出的道德問題，他們拒絕了某些潛在客戶的業(yè)務(wù)。委員會(huì)還限制了人工智能技術(shù)的使用范圍，例如禁止在某些應(yīng)用中使用面部識(shí)別。

但是代表公司內(nèi)部討論倫理問題，就好比是狐貍在看管雞舍。我們七月份打電話的時(shí)候，李飛飛就知道她要離開谷歌了，兩年的學(xué)術(shù)休假即將結(jié)束。很多流言猜測(cè)她會(huì)在 Maven 項(xiàng)目事件后辭職，但她說自己回到斯坦福是因?yàn)椴幌敕艞墝W(xué)術(shù)地位。電話那頭的李飛飛聽起來有些疲憊。在谷歌過了一個(gè)動(dòng)蕩的夏天之后，她參與編寫的道德準(zhǔn)則據(jù)自己說是“隧道盡頭的光明”。

她很希望能在斯坦福開始新項(xiàng)目。2018 年秋天，她和前斯坦福大學(xué)院長(zhǎng)約翰·埃切門迪（John Etchemendy）宣布建立一個(gè)學(xué)術(shù)中心，進(jìn)行人工智能和人文學(xué)科、硬科學(xué)、設(shè)計(jì)研究等的跨學(xué)科研究。她說：“作為一門新興科學(xué)，人工智能還未在全部學(xué)科領(lǐng)域中吸納人文和社會(huì)科學(xué)家。”長(zhǎng)久以來人們認(rèn)為這些學(xué)科和人工智能領(lǐng)域毫不沾邊， 但李飛飛堅(jiān)信這些會(huì)成為人工智能未來發(fā)展的關(guān)鍵。

李飛飛基本還是樂觀的。在六月的聽證會(huì)上，她對(duì)議員們說：“我深入思考過那些目前對(duì)人類有危險(xiǎn)的、有害的工作，從滅火到搜救，再到災(zāi)后重建?！?她認(rèn)為我們不應(yīng)該只是盡可能避免把人類置于危險(xiǎn)的境地，還應(yīng)該考慮如何用技術(shù)幫助人類完成危險(xiǎn)的工作。

當(dāng)然，某個(gè)機(jī)構(gòu)的一個(gè)程序，無(wú)論多好都很難改變整個(gè)領(lǐng)域。但李飛飛堅(jiān)信她必須要盡己所能訓(xùn)練不同背景的研究人員像倫理學(xué)家一樣思考，堅(jiān)守原則而不是一味追求利潤(rùn)。

在電話中我問李飛飛，是否可以用其它方式來發(fā)展人工智能，避開目前我們遇到的這些問題。她回答：“我覺得這很難說，科學(xué)進(jìn)步和創(chuàng)新來自于繁瑣的工作、大量試驗(yàn)和頻繁試錯(cuò)。我們認(rèn)識(shí)到這種偏見也花了一段時(shí)間。我用了六年才真正清醒，意識(shí)到‘天哪，我們正一步步走向危機(jī)?！?/p>

在國(guó)會(huì)山的時(shí)候，李飛飛說道：“作為一名科學(xué)家，我對(duì)人工智能科學(xué)的新生程度感到謙卑。它是一門只發(fā)展了 60 年的科學(xué)。與那些給人類帶來美好生活的物理學(xué)、化學(xué)、生物學(xué)等經(jīng)典科學(xué)相比，人工智能要發(fā)揮潛力、充分造福人類，還有很長(zhǎng)的路要走。通過適當(dāng)?shù)闹敢?，人工智能將使生活更美好。但如果缺乏指引，這項(xiàng)技術(shù)將進(jìn)一步擴(kuò)大財(cái)富鴻溝，增加科技的排外性，我們幾代人努力消除的偏見也會(huì)因此被加強(qiáng)。”

李飛飛讓我們相信，現(xiàn)在正是一項(xiàng)技術(shù)顯示其影響的關(guān)鍵時(shí)刻。