【導(dǎo)讀】：扎克伯格、馬斯克兩個(gè)冤家，對(duì)AI的立場(chǎng)截然不同，扎克伯格一心想要說服馬斯克和自己站在同一陣營，并且請(qǐng)馬斯克來家里吃飯，勸馬斯克放棄人工智能威脅論。

社交媒體Facebook創(chuàng)始人馬克·扎克伯格（Mark Zuckerberg）認(rèn)為，他的朋友、硅谷億萬富翁埃隆·馬斯克（Elon Musk）表現(xiàn)得像個(gè)危言聳聽者。

馬斯克創(chuàng)建了SpaceX，并且現(xiàn)在是特斯拉（Tesla）首席執(zhí)行官。他在電視采訪和社交媒體上警告世界，人工智能（AI）“可能比核武器更危險(xiǎn)”。

2014年11月19日，扎克伯格邀請(qǐng)馬斯克，在自己位于加州帕洛阿爾托（Palo Alto）的家中共進(jìn)晚餐。此外，來自Facebook新人工智能實(shí)驗(yàn)室的兩名頂尖研究人員和另外兩名Facebook高管也受邀參加了這次晚餐活動(dòng)。

進(jìn)入晚餐時(shí)，F(xiàn)acebook一方人員試圖讓馬斯克認(rèn)為自己錯(cuò)了。但是，馬斯克沒有讓步。據(jù)這次晚餐參加者之一、領(lǐng)導(dǎo)Facebook人工智能實(shí)驗(yàn)室的研究員揚(yáng)恩·萊肯（Yann LeCun）稱，馬斯克當(dāng)時(shí)對(duì)同桌者表示，“我真的認(rèn)為這很危險(xiǎn)。”

馬斯克對(duì)人工智能的恐懼本質(zhì)上講很好理解：如果我們創(chuàng)造出比人類更聰明的機(jī)器，他們可能會(huì)轉(zhuǎn)而反對(duì)我們?？纯纯苹闷督K結(jié)者》（The Terminator）、《黑客帝國》（The Matrix）和《2001太空漫游》（2001： A Space Odyssey），就可知道人工智能是如何控制人類的。他對(duì)科技行業(yè)表示，在我們將其釋放給世界之前，想想我們正在創(chuàng)造的東西所帶來的意想不到的后果吧。

針對(duì)這次晚餐活動(dòng)，馬斯克和扎克伯格都沒有談及細(xì)節(jié)。而關(guān)于這次晚餐以及當(dāng)時(shí)關(guān)于人工智能方面的辯論，此前沒有媒體報(bào)道過。

“超級(jí)智能”的誕生，將人工智能推進(jìn)到一個(gè)新的高度，所創(chuàng)造出的機(jī)器不僅能執(zhí)行需要人類智力才能完成的特別任務(wù)（比如自動(dòng)駕駛汽車），而且實(shí)際上可以超越人類。這感覺仍然像科幻小說。不過，關(guān)于人工智能未來的爭(zhēng)論已經(jīng)蔓延到整個(gè)科技行業(yè)。

谷歌4000多名員工最近簽署了一份請(qǐng)?jiān)笗?，抗議該公司與五角大樓簽訂的一份案值達(dá)900萬美元人工智能合同。這是一份讓這家互聯(lián)網(wǎng)公司獲利的協(xié)議，但對(duì)該公司的許多人工智能研究人員來說，這一交易令人深感不安。上周，谷歌高管們?cè)噲D阻止員工反抗，他們表示，明年合同到期后谷歌不會(huì)續(xù)簽合同。

無論是作為經(jīng)濟(jì)引擎和軍事優(yōu)勢(shì)的來源，人工智能研究具有巨大的潛力和巨大的影響。中國政府已表示，未來幾年愿意投入數(shù)十億美元打造人工智能世界領(lǐng)先地位，而五角大樓正積極尋求科技產(chǎn)業(yè)的幫助，一種新型自動(dòng)武器的誕生不會(huì)遙遠(yuǎn)。

從在加州中部海岸舉行的哲學(xué)家和科學(xué)家聚會(huì)，到亞馬遜首席執(zhí)行官杰夫·貝佐斯（Jeff Bezos）在加州棕櫚泉（Palm Springs）舉辦的年度會(huì)議，各類深謀遠(yuǎn)慮的思想家都加入了這場(chǎng)辯論。

未來人類研究所（Future of Humanity Institute）的人工智能治理項(xiàng)目主任艾倫·達(dá)福（Alan Daboe）表示，“我們現(xiàn)在談?wù)撊斯ぶ悄艿娘L(fēng)險(xiǎn)，并非迷失在科幻小說里?！痹撗芯克桥＝虼髮W(xué)的一個(gè)研究中心，研究的是先進(jìn)技術(shù)的風(fēng)險(xiǎn)和機(jī)遇。

在過去幾個(gè)月，對(duì)Facebook和其他科技公司的公開炒作已經(jīng)強(qiáng)烈地牽引出這樣的問題，即硅谷創(chuàng)造的技術(shù)帶來了意想不到的后果。

今年4月份，就數(shù)據(jù)隱私以及Facebook在2016年大選前傳播錯(cuò)誤信息中所扮演的角色問題，扎克伯格花了兩天時(shí)間在國會(huì)向議員們作出了回答。上個(gè)月，他在歐洲面臨類似的質(zhì)詢。

Facebook很難理解到底發(fā)生了什么，這已經(jīng)導(dǎo)致一個(gè)行業(yè)進(jìn)入難得的自我反省時(shí)刻。長(zhǎng)期以來，人們一直認(rèn)為，不管世界喜歡與否，F(xiàn)acebook正在讓世界變得更美好。

就連微軟創(chuàng)始人比爾·蓋茨（Bill Gates）和已故斯蒂芬·霍金（Stephen Hawking）等有影響力的人物，也表達(dá)了對(duì)創(chuàng)造比我們更智能的機(jī)器的擔(dān)憂。盡管超級(jí)智力離我們似乎還有數(shù)十年時(shí)間，但是這些有影響力人物以及其他人表示，難道我們不應(yīng)該在到了為時(shí)已晚階段之前就考慮后果嗎？

康奈爾大學(xué)計(jì)算機(jī)科學(xué)教授、前貝爾實(shí)驗(yàn)室（Bell Labs）研究員巴特·塞爾曼（Bart Selman）表示，“我們正在創(chuàng)建的這種系統(tǒng)非常強(qiáng)大，并且我們無法了解它們的影響?！?/p>

不完美的技術(shù)

Pacific Grove是美國加州中部海岸的一個(gè)小鎮(zhèn)。1975年冬天，一群遺傳學(xué)家曾聚集在這里，討論他們的工作——基因編輯——最終是否會(huì)危害世界。2017年1月，人工智能社區(qū)在這海濱樹林小鎮(zhèn)舉行了類似的討論。

在Asilomar Hotel酒店舉行的這次私人聚會(huì)，由未來生命研究所（Future of Life Institute）所組織。該研究所是一家智囊，研究方向是人工智能和其他技術(shù)的相關(guān)風(fēng)險(xiǎn)。

參與這次聚會(huì)人員中，F(xiàn)acebook人工智能實(shí)驗(yàn)室負(fù)責(zé)人揚(yáng)恩·萊肯是人工智能大腕，他幫助開發(fā)了一種神經(jīng)網(wǎng)絡(luò)，這是當(dāng)今人工智能中最重要的工具之一。參與者還有尼克·博斯特羅姆（Nick Bostrom），他的書籍《超級(jí)智能：路線圖、危險(xiǎn)性與應(yīng)對(duì)策略》（Superintelligence： Paths， Dangers， Strategies），對(duì)人工智能討論生產(chǎn)了巨大影響，不過有些人認(rèn)為是人為制造恐怖；還有奧倫·埃茨奧尼（Oren Etzioni），他是華盛頓大學(xué)前計(jì)算機(jī)科學(xué)教授，現(xiàn)已在西雅圖艾倫研究所（Allen Institute）領(lǐng)導(dǎo)人工智能研究；還有德米斯·哈薩比斯（Demis Hassabis），目前是谷歌位于倫敦的具有重要影響力的人工智能研究實(shí)驗(yàn)室DeepMind的領(lǐng)導(dǎo)人。

馬斯克2015年曾向位于馬薩諸塞州劍橋市的未來生命研究所捐贈(zèng)了1000萬美元。同年，他還幫助創(chuàng)建了一個(gè)名為OpenAI的獨(dú)立人工智能實(shí)驗(yàn)室，其明確目標(biāo)是：創(chuàng)建確實(shí)不會(huì)失控、具有保障措施的超級(jí)智能。這一信息清楚地表明，他支持尼克·博斯特羅姆的觀點(diǎn)。

在這次私人聚會(huì)的第二天，馬斯克參加了一個(gè)專門討論超級(jí)智能問題的9人小組。大家都知道馬斯克認(rèn)為超級(jí)智能不僅是可能的，而且是非常危險(xiǎn)的。

在這次小組討論活動(dòng)結(jié)束時(shí)，馬斯克被問到社會(huì)如何才能最好地與超級(jí)智能共存。他說，我們需要的是我們的大腦和機(jī)器之間的直接聯(lián)系。幾個(gè)月后，他推出了一項(xiàng)名為“神經(jīng)鏈接（Neuralink）”的新項(xiàng)目。該項(xiàng)目獲得1億美元的支持，目的是通過將計(jì)算機(jī)與人腦融合，創(chuàng)造出一種所謂的神經(jīng)接口。

當(dāng)然，有關(guān)人工智能風(fēng)險(xiǎn)的警告已經(jīng)存在多年了。但是幾乎沒有哪個(gè)不為人所信的吉兇預(yù)言者，擁有馬斯克這樣的技術(shù)聲望。如果有的話，幾乎沒有人花那么多的時(shí)間和金錢在人工智能上。或許沒有哪個(gè)不為人所信的吉兇預(yù)言者，擁有馬斯克如此復(fù)雜的科技創(chuàng)業(yè)經(jīng)歷。

馬斯克在扎克伯格家里那次晚宴上談?wù)撍麑?duì)人工智能擔(dān)憂時(shí)的前幾周，曾打電話給Facebook人工智能實(shí)驗(yàn)室的研究員揚(yáng)恩·萊肯，詢問能夠從事特斯拉汽車公司自動(dòng)駕駛汽車項(xiàng)目的頂尖人工智能研究人員的姓名。

公司財(cái)務(wù)虧損和汽車質(zhì)量問題，一直在困擾著馬斯克。在最近一次特斯拉財(cái)報(bào)電話會(huì)議上，他指責(zé)新聞媒體沒有關(guān)注死亡——這是一個(gè)被反復(fù)警告的明確立場(chǎng)，即人工智能對(duì)人類是一種危險(xiǎn)。

棕櫚泉的爭(zhēng)斗

硅谷有句諺語：人們往往高估三年內(nèi)之所為，低估10年內(nèi)之可為。

2016年1月27日，Google旗下的DeepMind實(shí)驗(yàn)室推出一款機(jī)器人，能夠在圍棋比賽中擊敗專業(yè)玩家。

甚至頂級(jí)的人工智能研究人員曾認(rèn)為，機(jī)器人能夠下這樣的圍棋還需要十年。圍棋很復(fù)雜，最好的玩家不是憑空算計(jì)，而是憑直覺取勝。就在AlphaGo推出之前兩周，F(xiàn)acebook人工智能實(shí)驗(yàn)室的研究員揚(yáng)恩·萊肯曾表示，這樣的機(jī)器人不太可能存在。

幾個(gè)月后，AlphaGo擊敗了李世石。這臺(tái)機(jī)器人的動(dòng)作困惑了人類專家，并且最終取得勝利。

包括DeepMind和OpenAI的領(lǐng)導(dǎo)者在內(nèi)的許多研究人員都認(rèn)為，為AlphaGo所使用的這種自動(dòng)學(xué)習(xí)技術(shù)，提供了一條通往“超級(jí)智能”的道路。他們認(rèn)為，在今后幾年，這方面的進(jìn)展將大大加快。

OpenAI最近“開發(fā)”了一個(gè)系統(tǒng)，為的是玩一個(gè)劃船比賽視頻游戲，鼓勵(lì)該系統(tǒng)盡可能多地贏得比賽積分。但是在持續(xù)贏得比賽積分后再進(jìn)行時(shí)，它會(huì)旋轉(zhuǎn)，與石頭墻碰撞，撞上其他船只。

正是這種不可預(yù)見性，引起了人們對(duì)包括超級(jí)智能在內(nèi)的人工智能的嚴(yán)重?fù)?dān)憂。

但是在今年3月份，亞馬遜和貝佐斯在棕櫚泉組織的一次專門會(huì)議，對(duì)這些擔(dān)憂表達(dá)了強(qiáng)烈的反對(duì)。

一天晚上，麻省理工學(xué)院的機(jī)器人專家羅德尼·布魯克斯（Rodney Brooks）與神經(jīng)學(xué)家、哲學(xué)家和播客山姆·哈里斯（Sam Harris）討論了人工智能的潛在危險(xiǎn)，哈里斯對(duì)人工智能潛在危險(xiǎn)提出了特別的警告。根據(jù)泰晤士報(bào)（The Times）獲得的一段錄音，這場(chǎng)辯論演變成針對(duì)個(gè)人的人身攻擊。

哈里斯警告稱，由于全球處于利用人工智能的軍備競(jìng)賽之中，研究人員可能沒有足夠的時(shí)間來確保超級(jí)智能建立在安全方式下。

布魯克斯回答說，“這是你編造出來的?！彼凳?，哈里斯的論點(diǎn)是基于不科學(xué)的推理。這不可能被證明是對(duì)或是錯(cuò)的。哈里斯則表示，“如果這真的有意義，我會(huì)把這件事當(dāng)真。”

主持人最終終止了這場(chǎng)爭(zhēng)斗，并向觀眾提出了問題。Allen Institute負(fù)責(zé)人奧倫·埃茨奧尼表示從觀眾席走出來，他說，今天的人工智能系統(tǒng)是如此有限，花那么多時(shí)間來擔(dān)心超級(jí)智能是沒有意義的。

他說，站在馬斯克一邊的人是哲學(xué)家、社會(huì)學(xué)家、作家，他們都不是從事人工智能工作的研究人員。在人工智能科學(xué)家中，關(guān)于我們應(yīng)該開始擔(dān)心超級(jí)智能的想法，“在很大程度上是一個(gè)邊緣性的論點(diǎn)?！?/p>

扎克伯格去華盛頓

自三年前他們共進(jìn)晚餐以來，扎克伯格和馬斯克之間的爭(zhēng)論已經(jīng)變得惡劣。去年夏天，在扎克伯格和妻子于自己家后院燒烤時(shí)的Facebook直播視頻中，扎克伯格稱馬斯克對(duì)人工智能的看法“非常不負(fù)責(zé)任”。

他說，現(xiàn)在對(duì)還處于發(fā)展初期的人工智能表現(xiàn)出恐慌，可能會(huì)損害由自動(dòng)駕駛汽車和人工智能醫(yī)療保健等事物所帶來的許多好處。

“特別是有了人工智能，我真的很樂觀，”扎克伯格表示，“那些持反對(duì)意見的人，試圖編造出這些世界末日的情景——我只是，我不明白?！?/p>

針對(duì)扎克伯格的言論，馬斯克也作出了回應(yīng)?！拔液婉R克（扎克伯格）談過這件事，”馬斯克寫道，“他對(duì)這個(gè)問題的理解有限?！?/p>

今年4月份，扎克伯格在美國國會(huì)作證，他對(duì)Facebook如何改正目前所存在的問題進(jìn)行了解釋。

解決存在問題的一種措施是依靠人工智能。不過扎克伯格在證詞中承認(rèn)，科學(xué)家們還沒有完全弄清楚某些類型的人工智能是如何學(xué)習(xí)的。

“這將是一個(gè)非常核心的問題，關(guān)系到我們?nèi)绾慰创磥硎昴酥粮L(zhǎng)時(shí)間里的人工智能系統(tǒng)，”他說，“現(xiàn)在，我們的許多人工智能系統(tǒng)以人們不太了解的方式做出決定。”

科技巨頭和科學(xué)家們可能會(huì)嘲笑馬斯克在人工智能上的膽小，但他們似乎正朝著他的觀點(diǎn)方向發(fā)展。

在谷歌內(nèi)部，一個(gè)小組正在探索人工智能方法中的缺陷，這些人工智能方法可以愚弄計(jì)算機(jī)系統(tǒng)，讓其看到不存在的東西。研究人員警告稱，自動(dòng)生成真實(shí)圖像和視頻的人工智能系統(tǒng)，將很快使我們更難相信我們?cè)诰W(wǎng)上看到的東西?，F(xiàn)在，DeepMind和OpenAI都在運(yùn)轉(zhuǎn)著致力于“人工智能安全”的研究小組。

DeepMind創(chuàng)始人德米斯·哈薩比斯（Demis Hassabis）仍然認(rèn)為，馬斯克的觀點(diǎn)是極端的。他說，威脅不存在，還沒有。