編者按：昨夜，“機(jī)器學(xué)習(xí)之父”、加州大學(xué)伯克利分校計算機(jī)科學(xué)與統(tǒng)計學(xué)教授教授Michael I. Jordan在Medium上發(fā)表文章，闡述了自己對AI這個新興領(lǐng)域的擔(dān)憂和看法。對于這個名字，每個涉足人工智能行業(yè)的人都該有所了解，Michael I. Jordan在計算、推理、認(rèn)知和生物科學(xué)領(lǐng)域工作了三十多年，兢兢業(yè)業(yè)為AI當(dāng)代研究奠定了基礎(chǔ)，被稱為The Michael Jordan of Machine Learning。

人工智能（AI）是當(dāng)今時代的“神咒”，它常被技術(shù)人員、學(xué)者、記者和風(fēng)投人士掛在嘴邊。和其他從技術(shù)、學(xué)術(shù)領(lǐng)域逐漸普及到大眾的概念一樣，人們談?wù)撍鼈儭⒄`解它們。但這還不是公眾和科學(xué)家之間存在理解鴻溝的典型案例——對于AI，科學(xué)家們和普通人一樣尚存疑惑。在這個時代，人們從硅片上看到了實現(xiàn)人類智能的可能性，這種可能性令人倍受鼓舞——也同樣令人膽顫心驚。更不幸的是，它讓我們分心。

對于AI，有些人也有不同的聲音。請看下面這個故事，它涉及人類、計算機(jī)、數(shù)據(jù)和生死攸關(guān)的決策，但重點又無關(guān)我們的硅片幻想。

差點被“唐氏”的女兒

14年前，我的妻子懷孕了，我們一起去醫(yī)院做超聲波孕檢。當(dāng)時檢查室的一位遺傳學(xué)專家告訴我們，胎兒心臟周圍有一些白色斑點，“這些是唐氏綜合癥的標(biāo)志，”她說，“現(xiàn)在孩子患病的概率已經(jīng)提高到了1/20?！睘榱舜_認(rèn)胎兒究竟有沒有患病，她建議我們做羊膜穿刺術(shù)，但這種手術(shù)的風(fēng)險很大，流產(chǎn)率有1/300。作為一名統(tǒng)計學(xué)家，我決定找出這些數(shù)據(jù)的來源。

長話短說，我找到了英國一項已經(jīng)進(jìn)行了十年的統(tǒng)計，他們的研究成果表明超聲圖像中的鈣積聚白色斑點的確可被作為唐氏綜合癥的篩查指標(biāo)。但我也注意到，我們做孕檢這家醫(yī)院用的成像機(jī)器比研究用的機(jī)器要高幾百個像素。確認(rèn)了這些因素后，我轉(zhuǎn)過頭來告訴醫(yī)生：“我覺得這些白斑是假陽性的——它們實際上是‘白噪聲’?！彼行@訝：“?。∵@就解釋了為什么這幾年來醫(yī)院的唐氏綜合癥診斷率不斷上升；這剛好就是新機(jī)器啟用的時間?！?/p>

最后我們沒有做羊膜穿刺術(shù)，幾個月后，一個健康的女孩兒出生了。但這件事一直困擾著我，我粗略算了下，發(fā)現(xiàn)每天全世界有成千上萬的人會得到這樣的誤診結(jié)果，其中許多人也許遵從醫(yī)囑做了手術(shù)，一些嬰兒也許就這樣無辜地死去。這種事故一天又一天地發(fā)生，直到最后有人發(fā)現(xiàn)了真正原因并做了修復(fù)。

當(dāng)然，這些問題和我本人的醫(yī)療保健并沒有任何關(guān)系，它是整個醫(yī)療系用的問題，是在不同時間、地點測量變量和結(jié)果，進(jìn)行統(tǒng)計分析，再把經(jīng)驗用于其他時間、地點的醫(yī)療診斷的問題。它不僅和數(shù)據(jù)分析本身息息相關(guān)，更和數(shù)據(jù)庫研究人員口中反復(fù)強調(diào)的“來源”密切相關(guān)——這些數(shù)據(jù)是從哪兒來的，人們從這些數(shù)據(jù)中得出了什么推論，以及這些推論和顯示結(jié)果又有多大的相關(guān)程度。

一個訓(xùn)練有素的統(tǒng)計學(xué)家可以獨立完成以上的分析工作，但這個故事的問題在于，我們該怎么為醫(yī)院設(shè)計一個無需人工監(jiān)督的完善醫(yī)療系統(tǒng)。

我也是一名計算機(jī)科學(xué)家，如果要構(gòu)建這樣一個推理、決策系統(tǒng)，我設(shè)想的原則需要結(jié)合計算機(jī)科學(xué)、統(tǒng)計學(xué)兩門學(xué)科的知識，它還要把患者需求納入其中，而這點是教科書上學(xué)不到的。除了醫(yī)療機(jī)構(gòu)，其他諸如商業(yè)、交通、教育等領(lǐng)域也需要這樣一整套原則，在我眼里，這樣的原則至少和構(gòu)建花里胡哨的AI系統(tǒng)同樣重要。

“智能”是什么？也許這個時代很快就能給出“答案”。但無論如何，我們都將面臨一個重要大挑戰(zhàn)，即將計算機(jī)和人類結(jié)合在一起，從而提高人們的生活水平。目前看來，盡管一些人認(rèn)為這個任務(wù)不如AI研究重要，但我們大可用一顆平常心來看待它——就像一個新創(chuàng)建的工程分支學(xué)科，它同樣值得尊崇。幾十年前，人們在物理和化學(xué)基礎(chǔ)上衍生出了兩個新學(xué)科：土木工程和化學(xué)工程，它們結(jié)合了兩門基礎(chǔ)學(xué)科的核心思想，為社會帶來了巨大的資源和驅(qū)動力。現(xiàn)在，這個新任務(wù)，或者說這個新學(xué)科將建立在前一個世紀(jì)所有落地思想的基礎(chǔ)上——如信息、算法和數(shù)據(jù)。

雖然有了構(gòu)件塊，但我們還缺少把這些構(gòu)件塊整合在一起的原則，所以目前它們只是以特定的方式組合在一起。

在土木工程出現(xiàn)之前，人們也會造各類建筑和橋梁，其中的一些有時會以不可預(yù)見的方式釀成悲慘的后果——AI系統(tǒng)也一樣，我們正在構(gòu)建涉及機(jī)器、人類和環(huán)境的大規(guī)模推理、決策制定系統(tǒng)，而這些早期的成果也已經(jīng)暴露出不少嚴(yán)重的概念缺陷。

不幸的是，我們并不善于預(yù)測下一個正在出現(xiàn)的嚴(yán)重缺陷。我們?nèi)鄙俚氖且粋€具有分析和設(shè)計原理的工程學(xué)科。

AI的前世今生

關(guān)于這類內(nèi)容，目前人們會很頻繁、很籠統(tǒng)地用AI這個詞來描述，這就使我們很難界定這個新興技術(shù)的范圍和后果。也許我們應(yīng)該更仔細(xì)地研究一下在過去和現(xiàn)在，AI到底指的是什么。

如今大多數(shù)AI，尤其是公眾眼中的AI，其實是幾十年來一直被叫做“機(jī)器學(xué)習(xí)”（ML）的東西。ML是一個算法領(lǐng)域，它將來自統(tǒng)計學(xué)、計算機(jī)科學(xué)和許多其他學(xué)科（見下文）的想法融合在一起，設(shè)計出種種算法來處理數(shù)據(jù)、做出預(yù)測并幫助做出決策。就對現(xiàn)實世界的影響而言，ML是切切實實的，而且并非一朝一夕。

早在20世紀(jì)90年代，ML的工業(yè)化道路就已經(jīng)很清晰了，到世紀(jì)之交，亞馬遜等具有前瞻性的公司已經(jīng)在業(yè)務(wù)中廣泛使用ML算法，來解決后端問題檢測和物流鏈預(yù)測等關(guān)鍵問題，以及創(chuàng)新面向消費者的服務(wù)，如建立商品推薦系統(tǒng)。隨著其后20年間數(shù)據(jù)集和計算資源的快速增長，很明顯，現(xiàn)在ML的服務(wù)對象不再僅限于亞馬遜等公司，任何需要依賴大數(shù)據(jù)制定決策的企業(yè)都已經(jīng)成了它的擁躉。在這種情況下，新的商業(yè)模式即將出現(xiàn)，而隨之而來的是“數(shù)據(jù)科學(xué)”一詞正被用來指代這種現(xiàn)象——社會迫切需要更多的ML算法專家和數(shù)據(jù)庫、分布式系統(tǒng)專家攜手合作，構(gòu)建可擴(kuò)展的、更強大的ML系統(tǒng)，而這些系統(tǒng)也更全面地反映大社會、大環(huán)境的現(xiàn)狀。

在過去幾年中，這種思想和技術(shù)相結(jié)合的產(chǎn)物被稱為AI，但這個“品牌”的塑造還值得商榷。

從歷史上看，“人工智能”這個詞是在上世紀(jì)50年代后期被創(chuàng)造出來的，它一開始表現(xiàn)的是人們對用軟件和硬件實現(xiàn)一種具有人類智能的實體的強烈愿望。我們可以用“人類模仿AI”來表示這一想法，它假設(shè)AI應(yīng)該成為我們?nèi)祟惖囊环葑?，即便不是身體層面上的，那至少也應(yīng)該是精神層面上的。這還主要是學(xué)術(shù)界的事。

在當(dāng)時的學(xué)術(shù)界，雖然運籌學(xué)、統(tǒng)計學(xué)、模式識別、信息理論和控制論等相關(guān)領(lǐng)域已經(jīng)存在了一段時間，受人類智能/動物智能啟發(fā)，它們也能實現(xiàn)一些“低水平”的神經(jīng)信號傳遞和決策，如松鼠能夠感知它所居住的森林的三維結(jié)構(gòu)，并在期間跳躍。這些成果的確令人鼓舞，但AI關(guān)注的是全然不同的領(lǐng)域——它要模仿的是人類的高級認(rèn)知能力，如“理性”和“思考”。

可惜的是，在60年后，我們還是沒能摸透高水平推理和思維模式的原理。因此現(xiàn)在被稱為AI的那些事物還是主要存在于低水平的模式識別和運動控制相關(guān)的工程領(lǐng)域，或是在統(tǒng)計學(xué)領(lǐng)域——這個學(xué)科專注于挖掘數(shù)據(jù)模式、進(jìn)行有根據(jù)的預(yù)測，以及測試假設(shè)和決策。

20世紀(jì)80年代早期，David Rumelhart提出了著名的反向傳播算法，被視為所謂的“AI革命”的核心。但這其實是五六十年代控制論中的思想，最早被用在優(yōu)化阿波羅太空飛船登月的推進(jìn)系統(tǒng)中。

所以雖然自20世紀(jì)60年代以來，AI取得了巨大進(jìn)展，但我們可以說它并不是模仿人類的AI。相反地，就像阿波羅太空飛船的事例一樣，這些想法雖然常常被藏在幕后，但一直是研究人員就特定問題采取的手段。盡管公眾對此一無所知，但文檔檢索、文本分類、欺詐檢測、推薦系統(tǒng)、個性化搜索、社交網(wǎng)絡(luò)分析、計劃、診斷以及A/B測試等等，都早已在科學(xué)研究和系統(tǒng)建設(shè)等領(lǐng)域取得了重大成功——這些也都是推動Google、Netflix、Facebook和亞馬遜取得如今地位的重要幫手。

人們可以簡單粗暴地用一個“AI”來總結(jié)這些事，事實上他們也是這么做的。但這樣的標(biāo)簽可能會讓從事優(yōu)化和統(tǒng)計工作的研究人員感到意外，一覺醒來，這些人就發(fā)現(xiàn)自己莫名其妙成了“AI研究人員”。這還是次要的，更嚴(yán)肅的問題是，如果我們繼續(xù)使用這種單一的、不明確的首字母縮寫名詞，我們又該怎么界定與其相關(guān)的知識、商業(yè)范疇。

AI、IA和II：三個不同的概念

過去的二十年中，智能增強（IA）作為滿足人類實現(xiàn)“人類模擬AI”夢想的一個替代品在工業(yè)界和學(xué)術(shù)界取得了重大進(jìn)展。它通過計算和數(shù)據(jù)提供服務(wù)，并把它們用來增強人類的智能水平和創(chuàng)造力。IA的一個突出案例是搜索引擎，它提高了人類的記憶和知識積累水平；自然語言處理是另一個典型例子，它提高了人們的交流能力。此外，基于計算的音樂和圖像生成能為藝術(shù)家提供更多創(chuàng)意。雖然這些服務(wù)可能涉及高水平的推理和思考，但目前它們并沒有過多地深入——它們中的大多數(shù)還是選擇執(zhí)行各種字符串匹配和數(shù)字操作，從中捕獲人類可以使用的模式。

說到這里，文章涉及的縮寫字母已經(jīng)有很多了，這里我們再說最后一個——智能基礎(chǔ)設(shè)施（II）。即一個由計算、數(shù)據(jù)和物理實體構(gòu)成的網(wǎng)絡(luò)，它能使人類環(huán)境更友好、更有趣、更安全。這種基礎(chǔ)設(shè)施已經(jīng)開始在交通、醫(yī)藥、商業(yè)和金融等領(lǐng)域出現(xiàn)，將對個人和社會產(chǎn)生巨大影響。它有時也會和“物聯(lián)網(wǎng)”一起出現(xiàn)，但后者努力實現(xiàn)的僅僅是把“事物”連接到互聯(lián)網(wǎng)上，而不是讓網(wǎng)絡(luò)依據(jù)數(shù)據(jù)流具備分析這些“事物”，或其他更大目標(biāo)的關(guān)于世界的所有事實的能力。

舉個例子，讓我們回到我的經(jīng)歷中。我們可以想象自己生活在一個具有“社會規(guī)模”的醫(yī)療系統(tǒng)中，它在人體、醫(yī)生和設(shè)備之間建立起數(shù)據(jù)流和數(shù)據(jù)分析流程，從而能幫助人類進(jìn)行診斷和提供護(hù)理。這個系統(tǒng)收錄了大量關(guān)于身體細(xì)胞、DNA、血液測試、環(huán)境、群體遺傳學(xué)以及藥物和治療的大量科學(xué)文獻(xiàn)的信息，它不再只關(guān)注單個病患或醫(yī)生，而是關(guān)注所有人之間的聯(lián)系——就像現(xiàn)代醫(yī)學(xué)會把從一堆人身上得出的實驗結(jié)果拓展到所有人身上一樣。

這種做法將有助于確保數(shù)據(jù)的來源、相關(guān)性和可靠性，它們也是現(xiàn)在銀行機(jī)構(gòu)在金融和支付領(lǐng)域力圖解決的主要問題。放到現(xiàn)實中，我們可以預(yù)見這樣一個系統(tǒng)會出現(xiàn)多少問題——隱私、安全、責(zé)任等——但它們應(yīng)該被視為挑戰(zhàn)，而不是阻礙。

現(xiàn)在放在我們面前的就是一個關(guān)鍵問題：對于這些挑戰(zhàn)，研究古典的“人類模仿AI”是不是唯一的方法？事實上，現(xiàn)在不少大熱的ML成功案例都是圍繞“人類模仿AI”展開的，如計算機(jī)視覺、語音識別、強化學(xué)習(xí)和機(jī)器人等。所以也許我們應(yīng)該耐心等待這些領(lǐng)域的進(jìn)一步發(fā)展。但這里有兩點需要說明。

首先，雖然人們無法直接從報紙上直接讀到研究成果，但即便“人類模仿AI”獲得了進(jìn)展，它帶來的影響也是有限的——我們距離實現(xiàn)“人類模仿AI”還很遙遠(yuǎn)。不幸的是，這些由微小進(jìn)展帶來的快感（和恐懼）引發(fā)了行業(yè)內(nèi)的虛假繁榮和媒體的過度吹捧，這在其他工程領(lǐng)域聞所未聞、見所未見。

其次，更重要的一點是，這些領(lǐng)域的成功既不足以解決IA和II中的重要問題，也不是解決這些問題所必需的。以自動駕駛汽車為例，為了實現(xiàn)這種技術(shù)，我們要解決一系列工程上的問題，但這些問題可能和人力資源（或從業(yè)人口稀少）關(guān)系不大。比起他們搜集的那些松散的、只會朝前看的、注意力不集中的人類司機(jī)數(shù)據(jù)，這樣一個交通系統(tǒng)（一個II系統(tǒng)）可能更像空中交通管制系統(tǒng)，甚至比當(dāng)前的空中交通管制系統(tǒng)還要復(fù)雜得多，特別是在使用大數(shù)據(jù)和自適應(yīng)統(tǒng)計建模來指定決策時。在研究“人類模仿AI”前，這些挑戰(zhàn)應(yīng)該被放在前列。

至于有沒有必要這個論點，有時人們也會覺得“人類模仿AI”其實包含了IA和II的愿望，因為它不僅能解決AI的經(jīng)典問題（如圖靈測試），也能為IA和II問題提供了最佳解決方案。但這樣的論點還沒有歷史先例來支撐。為了發(fā)展土木工程，我們是不是該開發(fā)一個人造木匠或泥瓦匠？或者為了發(fā)展化學(xué)工程開發(fā)一個人造化學(xué)家？更激進(jìn)一些，如果我們的目標(biāo)是造一座化學(xué)工廠，那么我們是不是應(yīng)該先造一個人造化學(xué)家，再由他來思考怎么造一座工廠？

與之類似的一個論點是，人類智慧是我們所知道的唯一一種智慧，我們應(yīng)該把模仿它做為第一步。但是其實人類并不擅長某些推理——我們有我們的失誤、偏見和局限。而且最關(guān)鍵的是，我們也沒有進(jìn)化出類似現(xiàn)代II這樣需要面對大規(guī)模決策的系統(tǒng)，也不用處理II背景下的各種不確定性。有人可能會說AI系統(tǒng)不僅能模仿人類智能，還會糾正其中的錯誤，并把這個優(yōu)點擴(kuò)展到任意大小的問題上。但是，我們所處的環(huán)境不是科幻小說——這種推測性的論點雖然在小說里頗具娛樂性，但它不應(yīng)該成為我們解決關(guān)鍵的IA和II問題時的主要策略。我們需要根據(jù)它們自身的優(yōu)點來解決問題，而不是為了模仿人類而模仿人類。

未來的展望：一個新興的工程學(xué)科

如果要建立一個II系統(tǒng)，我們可以遇見其中由算法和基礎(chǔ)設(shè)施帶來的困難，但這些并不是“人類模仿AI”研究的核心主題。首先，II系統(tǒng)需要管理分布式知識庫，這些知識庫的變化十分迅速，并且可能在全球范圍內(nèi)不連貫。其次，這樣的系統(tǒng)必須在做出及時的分布式?jīng)Q策時應(yīng)對云端的相互作用，還要必須處理長尾現(xiàn)象，即有些人的數(shù)據(jù)量很大，但大多數(shù)人的數(shù)據(jù)卻很少。它們必須解決不同管理部門和競爭對手間數(shù)據(jù)分享困難的問題。最后，尤其重要的一點是，II系統(tǒng)必須將諸如激勵、定價等經(jīng)濟(jì)理念帶入統(tǒng)計和計算基礎(chǔ)設(shè)施的領(lǐng)域中，這些基礎(chǔ)設(shè)施會把人和人、商品和商品聯(lián)系起來。

這時，這樣一個II系統(tǒng)就不單單是一個服務(wù)系統(tǒng)，它還是一個市場，一個利用數(shù)據(jù)分析將生產(chǎn)者和消費者聯(lián)系起來，一個被傳媒、文學(xué)和音樂等領(lǐng)域廣泛呼吁的市場。這一切都會在不斷演變的社會、道德和法律規(guī)范下井然有序地運作。

當(dāng)然，經(jīng)典的“人類模仿AI”問題也仍然值得關(guān)注。然而，目前它的重點還是通過收集數(shù)據(jù)進(jìn)行人工智能研究，部署“深度學(xué)習(xí)”基礎(chǔ)設(shè)施，以及模仿某些狹義定義的人類技能的系統(tǒng)演示——幾乎沒有新出現(xiàn)的原則，更傾向于偏離經(jīng)典AI中的一些重大開放性問題。

這些問題包括：把意義和推理引入自然語言處理系統(tǒng)中；推理和表示因果關(guān)系；開發(fā)處理不確定表示的簡便計算方式；以及需要開發(fā)制定并追求長期目標(biāo)的系統(tǒng)。這些是“人類模仿AI”的經(jīng)典目標(biāo)，但似乎已經(jīng)被“AI革命”的喧囂所湮沒。

IA仍將保持相當(dāng)重要的地位，因為在可預(yù)見的未來，計算機(jī)還無法像人一樣抽象地描述現(xiàn)實世界的情況。對于靠人類和計算機(jī)互動來解決我們最緊迫的問題這件事，我們要深思熟慮。我們希望計算機(jī)能提高人類的創(chuàng)造力水平，而不是取代人類的創(chuàng)造力。

John McCarthy

當(dāng)年John McCarthy（當(dāng)時還是達(dá)特茅斯大學(xué)的教授，但很快就赴任MIT）之所以創(chuàng)造“AI”這個術(shù)語，是因為他想把自己的成果萌芽和Norbert Wiener（當(dāng)時MIT的一位老教授）的研究區(qū)分開來。Wiener的“cybernetics”也是一個與運籌學(xué)、統(tǒng)計學(xué)、模式識別、信息論和控制論密切相關(guān)的新概念，而McCarthy更強調(diào)AI和邏輯的關(guān)系。一個有趣的反轉(zhuǎn)是，現(xiàn)在我們打著的研究旗號是McCarthy的，在這個時代占據(jù)主導(dǎo)地位的研究內(nèi)容卻都是圍繞Wiener的（當(dāng)然，這只是暫時的）。

但我們需要超越McCarthy和Wiener的特定歷史觀點。

我們需要認(rèn)識到，目前關(guān)于AI的公眾宣傳——主要集中在工業(yè)、學(xué)術(shù)上的狹窄領(lǐng)域應(yīng)用——有使我們每一個人面臨AI、IA和II三重挑戰(zhàn)和機(jī)遇的風(fēng)險。

它無關(guān)科幻小說的美夢和超人類機(jī)器人的噩夢，更多是關(guān)于人類理解和塑造技術(shù)的需求，因為它在日常生活中正變得更加現(xiàn)實，影響力也更大。此外，因為它的職責(zé)在于理解和塑造，我們也需要來自各行各業(yè)的不同聲音，而不僅僅是技術(shù)上的需求。如果過分專注于“人類模仿AI”研究，我們會閉目塞聽以至于聽不到更廣泛的建議。

在工業(yè)界蓬勃發(fā)展的同時，學(xué)術(shù)界也將也將繼續(xù)發(fā)揮重要作用，它不僅會持續(xù)提出最具創(chuàng)新性的技術(shù)理念，也會將計算機(jī)科學(xué)、統(tǒng)計學(xué)的研究人員和其他學(xué)科的人聚集在一起，傾聽他們的重要觀點，尤其是社會科學(xué)、認(rèn)知科學(xué)和人文科學(xué)的專家學(xué)者。

另一方面，雖然人文和科學(xué)是我們發(fā)展的大方向，但我們也不能跳出工程范圍空做探討——社會需要一個新建的大工程，而且它應(yīng)該能按照人們的預(yù)期運行。我們不希望辛辛苦苦構(gòu)建出一個個醫(yī)療系統(tǒng)、交通系統(tǒng)和商業(yè)系統(tǒng)，結(jié)果它們都沒什么實際作用，甚至?xí)Я巳藗兊纳?。正如我所強調(diào)的，在這個以數(shù)據(jù)和學(xué)習(xí)為重點的領(lǐng)域，有一個新的工程學(xué)科亟待出現(xiàn)。而就現(xiàn)在已有的這些激動人心的工程應(yīng)用來看，它們中的任何一個都還達(dá)不到成為一個學(xué)科的門檻。

而且，我們應(yīng)該接受這樣一個現(xiàn)實：我們正在目睹一個新的工程學(xué)科的出現(xiàn)。雖然從狹義上來看，工程這個詞——無論是在學(xué)術(shù)上還是在其他領(lǐng)域內(nèi)——始終帶有冷漠、機(jī)械式的意味，甚至還透露出無法受人掌控的消極內(nèi)涵。但我們真正想要的就是這樣一個“工程”學(xué)科。

在這個時代，我們終于有一個真正的機(jī)會來做一件歷史性的大事——創(chuàng)造一個以人為中心的工程學(xué)科。

我拒絕為這個學(xué)科命名，但如果我們繼續(xù)沿用AI這個詞，這會讓我覺得大大受限。讓我們擴(kuò)大范圍、淡化炒作并認(rèn)識到未來的嚴(yán)峻挑戰(zhàn)！

——Michael I. Jordan