通用人工智能是什么

AGI即Artificial general intelligence的簡寫 ，計算機(jī)科學(xué)與技術(shù)專業(yè)用語，專指通用人工智能。這一領(lǐng)域主要專注于研制像人一樣思考、像人一樣從事多種用途的機(jī)器。這一單詞源于AI，但是由于主流AI研究逐漸走向某一領(lǐng)域的智能化（如機(jī)器視覺、語音輸入等），因此為了與它們相區(qū)分，增加了general。

盡管AI一詞最初就是用于表達(dá)與人類智能相似的機(jī)器智能的含義，但在人工智能跌宕起伏的發(fā)展過程中，AI的內(nèi)涵已經(jīng)發(fā)生了變化，成為機(jī)器學(xué)習(xí)、統(tǒng)計分析的代名詞，早已遠(yuǎn)離了一開始智能的初衷。在這種情況下，依舊堅守當(dāng)年夢想的一小支學(xué)術(shù)分子共同成立了通用人工智能協(xié)會，并確定使用AGI詞條作為領(lǐng)域正規(guī)稱謂。

通用人工智能四大基本問題

像很多其它研究領(lǐng)域一樣，人工智能的基本問題可以提煉成四個：“做什么？” “能做嗎？” “怎么做？” “該做嗎？” 下面是我對這些問題的簡略分析。

做什么？

能做嗎？

怎么做？

該做嗎？

1. 研究目標(biāo)

我在《當(dāng)你談?wù)撊斯ぶ悄軙r，到底在談?wù)撌裁?？》中已?jīng)列舉了“人工智能”名下五類不同的研究目標(biāo)，而目前流行的“人工智能就是用計算機(jī)解決那些以前只有人腦才能解決的問題”就是其中的“能力派”。這一派的優(yōu)勢是通俗易懂，直接見效，但缺點(diǎn)是圈畫得太大，以至于以前叫“自動化”“計算機(jī)應(yīng)用”的工作現(xiàn)在都趕時髦改叫“人工智能”了。由于這種界定使得AI涵蓋了大量完全不同的系統(tǒng)，在此范圍內(nèi)建立一個統(tǒng)一的人工智能理論的可能性甚微。

在《人工智能迷途：計算機(jī)的高技能等于高智能嗎？》中，我介紹了“通用人工智能”的觀念及其在歷史中的浮沉。時至今日，這個詞越來越多地出現(xiàn)在各種討論中，但對其意義的理解仍有很多誤區(qū)。比如一個常見的說法是把通用系統(tǒng)叫做“強(qiáng)人工智能”，而把專用系統(tǒng)叫做“弱人工智能”。這個區(qū)分不無道理（因?yàn)榍罢叩哪繕?biāo)遠(yuǎn)高于后者），但二者的區(qū)別其實(shí)不是能力的強(qiáng)弱（專用系統(tǒng)在能力上往往已經(jīng)遠(yuǎn)勝于人），而是應(yīng)用范圍和工作原理，所以這種稱呼會使人將二者間“質(zhì)”的差別誤判為“量”的差別，以為把各種專用系統(tǒng)整合在一起就是通用系統(tǒng)了。

即便在當(dāng)前的通用人工智能研究者之中，對研究目的的確切設(shè)定也各有不同。有些人企圖盡可能忠實(shí)地模擬腦結(jié)構(gòu)，有些人企圖在盡可能多的領(lǐng)域中取代人，有些人（包括我）企圖讓計算機(jī)遵循和人基本相同的“思維規(guī)律”。

有些讀者可能會想，連基本概念和目標(biāo)都沒弄清還怎么研究，殊不知對很多復(fù)雜現(xiàn)象的準(zhǔn)確刻畫不可能發(fā)生在研究的開始，而會是研究結(jié)果的一部分，所以先“統(tǒng)一思想”是不現(xiàn)實(shí)的。

另一方面，那種認(rèn)為無需爭辯“智能”定義，只需跟著直覺用法走就好的看法恰恰是目前這個領(lǐng)域中觀念混亂的重要原因，也是不可取的。人工智能研究中的很多爭論都可以回溯到對智能的不同理解，而這個問題又不能靠字典、權(quán)威或民意測驗(yàn)來解決。

如果研究目標(biāo)不一樣，對其它相關(guān)問題的回答自然也就不會一樣。在這一議題上尚無共識，恰恰更意味著我們應(yīng)注意辨識不同的研究目標(biāo)，而避免籠統(tǒng)地斷言“人工智能”如何如何。

2. 成功的可能性

從“人工智能”“思維機(jī)器”等成為研究對象時起，這種努力的成功可能性就一直是有爭議的。隨著深度學(xué)習(xí)等技術(shù)的成功，目前流行話語中的人工智能（在某個具體問題的解決能力上達(dá)到或超過人類）的可能性不再是問題，但通用人工智能的可能性仍是受到廣泛懷疑的。

對這個問題的肯定性論證即使在學(xué)術(shù)界認(rèn)為大功告成之后的很長時間內(nèi)仍不會被公眾普遍接受，比如有人會堅持說它沒有“靈魂”，不管它做到了什么。因此，我下面只簡單說明為什么現(xiàn)有的否定性論證都是不能成立的。這里有幾種不同的情況。

一類“人工智能不可能”的斷言是出于對這個領(lǐng)域的研究目標(biāo)的誤解，因而是在攻擊一個稻草人。持這種態(tài)度的人往往以為這個領(lǐng)域的目標(biāo)是制造在所有方面都和人一摸一樣的計算機(jī)。找些證據(jù)說明這不可能并不難，但問題是，我還不知道任何研究者真是沖著那個目標(biāo)去的。

實(shí)際上，所有研究人工智能（包括通用人工智能）的人都只是認(rèn)為計算機(jī)可以在某些方面和某種程度上和人腦相類似。很多研究者認(rèn)為在“人類智能”的諸多現(xiàn)象之中存在一個更一般的“智能”機(jī)制，而“人工智能”是這個機(jī)制的另一種實(shí)現(xiàn)方式。按照這種觀點(diǎn)，即使人工智能完全實(shí)現(xiàn)，也不會和人類智能在外部表現(xiàn)上完全相同。因此，這種“人工智能不可能”的論斷不會對這個領(lǐng)域中的研究有任何影響。

相比之下，另一類“人工智能不可能”的論證是值得重視的，因?yàn)樗鼈兪侵敝溉斯ぶ悄芗夹g(shù)的某些“死穴”。比較常見的包括“計算機(jī)必須遵循程序，因此不可能有靈活性和創(chuàng)造性”“計算機(jī)只能根據(jù)形式來使用符號，但無法獲得其意義”“有些真理人能發(fā)現(xiàn)，但計算機(jī)永遠(yuǎn)不能”。

在這里，我不具體討論它們，只是指出它們的一個共同問題：其實(shí)這里每個論證都是針對一個具體的智能技術(shù)或計算機(jī)用法，但結(jié)論卻往往是“人工智能”如何如何、“計算機(jī)”怎樣怎樣，其結(jié)果是夸大了其結(jié)論的適用范圍。這些討論對人工智能的發(fā)展是有益的，因?yàn)樗鼈儚姆疵鏋樾吕碚?、新技術(shù)的研發(fā)提供了借鑒。遺憾的是，至今仍有不少人以為它們限定了所有人工智能研究所能達(dá)到的高度。

具有諷刺意味的是，在近期對人工智能的限度的討論中，很多形如“人工智能永遠(yuǎn)也無法……”的斷言反而是出自“人工智能專家”之口。這其實(shí)也源于主流人工智能在歷經(jīng)挫敗后對“大問題”的回避。

很多人研究多年“人工智能”，但只是注重于對某個別功能的實(shí)現(xiàn)和某個別問題的解決，因此在他們說“沒人知道如何實(shí)現(xiàn)通用智能”時，他們實(shí)際上說的是“我不知道怎么做，而且我所追隨的那些名人也不知道怎么做。其它人的工作不值得注意，因?yàn)榉凑麄円策€沒做出來呢”。

由于有理由認(rèn)為通用智能系統(tǒng)和專用系統(tǒng)是非常不同的領(lǐng)域，在后者的研究中成名的人物對前者發(fā)言時權(quán)威性其實(shí)是很有限的，而且“現(xiàn)在還沒做出來”和“永遠(yuǎn)也不能做出來”顯然不是一回事。

總之，通用人工智能目前起碼應(yīng)被看作是可能的，因?yàn)闆]有足夠強(qiáng)的反面理由。

3. 實(shí)現(xiàn)途徑

由于專用系統(tǒng)的實(shí)現(xiàn)途徑因問題而異，在這里我只討論通用人工智能，而且只集中分析幾種常見的觀點(diǎn)，而把對我自己的研究進(jìn)路的介紹留給其它文章。

在相信通用人工智能可能實(shí)現(xiàn)的人們當(dāng)中，目前最被看好的技術(shù)自然非深度學(xué)習(xí)莫屬。每當(dāng)深度學(xué)習(xí)的一個新用途出現(xiàn)，總會有人說 “這標(biāo)志著又向通用人工智能前進(jìn)了一步”，似乎在這個方向上走下去就是了。在《深度神經(jīng)網(wǎng)絡(luò)會產(chǎn)生人這樣的智能嗎？》中，我已經(jīng)說明了通過深度學(xué)習(xí)以及相關(guān)的機(jī)器學(xué)習(xí)技術(shù)實(shí)現(xiàn)通用智能的困難。

這里要補(bǔ)充的一點(diǎn)是：有人認(rèn)為深度學(xué)習(xí)已經(jīng)是“通用”的了，因?yàn)檫@個技術(shù)可以被應(yīng)用于很多不同的領(lǐng)域，但這不是“通用人工智能”的意思。深度神經(jīng)網(wǎng)絡(luò)的確既能被訓(xùn)練下圍棋，也能識別照片，但同一個網(wǎng)絡(luò)不能同時做這兩件事。由于以往的機(jī)器學(xué)習(xí)研究基本上都是以“逼近單一函數(shù)”為指向的，把它們推廣到多目標(biāo)（尤其是設(shè)計時沒有考慮過的目標(biāo)）絕不是個容易的事，因?yàn)樗笳麄€研究規(guī)范的根本改變。

時至今日，尚沒有一個用深度學(xué)習(xí)實(shí)現(xiàn)通用人工智能的完整路線圖，而相信這個可能性的人往往是從已有的成果做簡單外推。

另一個想法是整合各種專用“模塊”于一個“構(gòu)架”之中，以讓它們分工協(xié)作，成為一個通用系統(tǒng)。這是個很自然的想法，也有不少人在試。但是這條路遠(yuǎn)不如看上去那么理所當(dāng)然。隨便找一本人工智能教科書，其中提到的算法或設(shè)計就得有幾百個，各有不同的用途。

把它們都實(shí)現(xiàn)在同一個計算機(jī)系統(tǒng)中在原則上是可能的，但決定在什么時候用哪個工具，這本身大概就需要通用智能了，更不要說這些工具各自的理論預(yù)設(shè)往往是互相沖突的，因此無法互相協(xié)調(diào)。另一個大問題是諸認(rèn)知功能的劃分大致上是沿用心理學(xué)的傳統(tǒng)（如推理、學(xué)習(xí)、記憶、聯(lián)想、感知、運(yùn)動、語言、情緒、意識等等），盡管它們之間的聯(lián)系顯然非常密切。

如果智能的確是“橫看成嶺側(cè)成峰”，那么從不同角度和距離描繪不同的“嶺”和“峰”自然可以，但如果目的是給廬山造個模型，那么分別構(gòu)造這些“嶺”和“峰”，然后再把它們“組裝”起來，這就不對了，因?yàn)檫@些“構(gòu)件”更應(yīng)被看作同一個對象的不同側(cè)面，而非不同部分。

有人試圖通過構(gòu)造更“忠實(shí)于人腦”的模型來達(dá)到各認(rèn)知功能的統(tǒng)一再現(xiàn)。像我在《深度神經(jīng)網(wǎng)絡(luò)會產(chǎn)生人這樣的智能嗎？》中所說的，這條途徑的最大問題不是其難度，而是其必要性。如果我們把智能看成一種有不同實(shí)現(xiàn)方式的認(rèn)知機(jī)制，那就沒有理由認(rèn)為人腦是唯一能實(shí)現(xiàn)它的方式，盡管它的確是我們最熟悉的方式。和人腦在實(shí)現(xiàn)細(xì)節(jié)上最接近的模型未必是人工智能最合適的模型，盡管這種模型對腦科學(xué)而言很有價值。

總之，在實(shí)現(xiàn)其它目的時有效的技術(shù)未必對通用人工智能有很大貢獻(xiàn)，因?yàn)檫@里的目標(biāo)和制約條件非常不一樣。在選擇技術(shù)路線時應(yīng)當(dāng)從智能的特征出發(fā)，同時考慮計算機(jī)系統(tǒng)的現(xiàn)實(shí)條件。

4. 倫理抉擇

最后，即使我們發(fā)現(xiàn)了建造思維機(jī)器的途徑，那也不一定意味著我們真要把它做出來。已經(jīng)有很多名人大聲疾呼地要求人工智能慢下來甚至停下來了，因?yàn)樗麄兒ε氯祟愂ァ叭f物之靈”的地位及其后果。關(guān)于這種詰難，我已經(jīng)寫了《人工智能危險嗎？》來回應(yīng)，而這里只是再加些補(bǔ)充。

首先，很多“人工智能專家”對AI安全性所做的保證，往往只涉及他們所構(gòu)建或能夠設(shè)想的系統(tǒng)，其中完全沒有適應(yīng)性、靈活性、自主性、創(chuàng)造性等通用人工智能系統(tǒng)才可能具有的特征，因此說的基本就是另外一個問題。由于這些特征，通用人工智能帶來的倫理道德問題和傳統(tǒng)技術(shù)有根本的不同，因此要求不同的應(yīng)對方案。

作為適應(yīng)性系統(tǒng)，通用人工智能最大的特點(diǎn)之一就是其行為不僅僅取決于設(shè)計（先天因素），而更加依賴于經(jīng)驗(yàn)（后天因素），因此對這種系統(tǒng)的控制需要通過影響它的經(jīng)驗(yàn)來實(shí)現(xiàn)，就像社會對個人的制約那樣。因此，不能指望人工智能工作者可以設(shè)計出永不犯錯的系統(tǒng)，也不能奢望對人工智能安全性的研究可以預(yù)先排除掉所有危險。

而在另一方面，在這種系統(tǒng)上進(jìn)行的研究可以極大豐富我們對適應(yīng)性系統(tǒng)（包括人和動物）的認(rèn)識，將教育學(xué)和社會學(xué)（甚至經(jīng)濟(jì)學(xué)和法學(xué)）的研究范圍擴(kuò)展至包括智能機(jī)器在內(nèi)。

和其它問題一樣，對人工智能的恐懼常常來自對其研究目標(biāo)的誤解。很多人以為“通用人工智能”會是在一切領(lǐng)域超過人類，以至于近乎全知全能的存在，所以這種系統(tǒng)的出現(xiàn)會在人類歷史上造成一個“奇點(diǎn)”，此后的發(fā)展便不在我們的掌控甚至理解范圍之內(nèi)了。

至今為止，我還沒有看到足以使我相信這一結(jié)論的證據(jù)。我認(rèn)為通用人工智能完全可以造出來，而這種系統(tǒng)會有和人非常類似的認(rèn)知功能。但是，這不意味著計算機(jī)可以全面達(dá)到以至超越人的解決問題能力，因?yàn)檫m應(yīng)系統(tǒng)的行為依賴于其經(jīng)驗(yàn)，而一個人工智能系統(tǒng)是不會擁有和人完全相同的經(jīng)驗(yàn)的。因此，人和機(jī)器的具體能力會有重合，但仍會有人能解決但機(jī)器不能解決的問題。

像我之前所解釋的，通用的“智能”和專用的“技能”不是一回事。不同形式的智能，不論是人類還是人造的，在前一方面都類似，而在后一方面未必可比，就像沒法說諸葛亮、達(dá)芬奇、莫扎特誰更聰明。這也說明通用人工智能的工作原理仍是我們可以理解的，其行為也是可以通過對其經(jīng)驗(yàn)加以影響來控制的，盡管它的運(yùn)算速度可能很快，存儲量可能很大，經(jīng)驗(yàn)可能和我們非常不同，因此它的具體行為可能不是那么容易解釋或預(yù)測。

總之，人工智能研究的正當(dāng)性既來自人類認(rèn)識思維一般規(guī)律的長期渴望，也來自社會發(fā)展對復(fù)雜信息加工的實(shí)際需求。這項(xiàng)研究同時也帶來了新的挑戰(zhàn)，對此我們絕不能掉以輕心，但也不該盲目恐懼。要避免AI造成的危險，起碼要把AI是怎么回事搞對吧？

那些“AI必然導(dǎo)致災(zāi)難”的斷言在這一方面往往都不及格，其結(jié)果是和風(fēng)車作戰(zhàn)，反而對可能性大很多的危險毫無提防。除非我們有足夠的證據(jù)認(rèn)為某項(xiàng)技術(shù)（包括各種意義下的人工智能）的確會是弊大于利，我們還是有充分理由來繼續(xù)這項(xiàng)探索，同時拒絕廉價的保票，準(zhǔn)備好對該技術(shù)的各種后果進(jìn)行盡可能恰當(dāng)?shù)膽?yīng)對。
責(zé)任編輯：YYX