2014年，泰格馬克與斯圖爾特·羅素、史蒂芬·霍金聯(lián)合在赫芬頓郵報(bào)上發(fā)表的《超越我們對超級智能機(jī)器的自滿》一文，引發(fā)媒體對AI安全報(bào)道，泰格馬克背后的未來生命研究所也名聲大噪。未來生命研究所究竟是在什么樣的情況下誕生的呢？為什么馬斯克、霍金都加入了科學(xué)顧問委員會？本文帶你了解未來生命研究所的前世今生。

一場影響人類未來的大會，和一個(gè)組織

在2015年第一個(gè)星期天的下午，一群人悄然集結(jié)參加一場在波多黎各某度假勝地舉辦的閉門會議。這場會議，匯集了牛津大學(xué)人工智能倫理學(xué)家尼克·博斯特倫、Skype的創(chuàng)始人揚(yáng)·塔里安以及Google的AI專家肖恩·萊格。會議有著非常樂觀的主題：“AI的未來：機(jī)遇與挑戰(zhàn)并存”，而讓這場大會顯得更加神秘的是，一切媒體記者被禁止參加，同時(shí)參會者在參會期間也不能私下公開看法。

波多黎各大會參會者合影

在長達(dá)一周的會議即將落幕的傍晚時(shí)分，所有人準(zhǔn)備走向酒吧，參加隨后的慶祝聚會。而大會的主辦人泰格馬克教授，卻讓大家再留步片刻，“有個(gè)大事情要宣布”。隨后，一個(gè)健碩的身影走到臺前，他就是伊隆·馬斯克。燈光下，馬斯克的出現(xiàn)讓臺下爆發(fā)一陣騷動。

馬斯克清了清喉嚨，開始宣布，要將1000萬美元捐贈給這個(gè)MIT教授創(chuàng)立僅一年的組織——未來生命研究所（Future of Life Institute的英文縮寫，簡稱FLI）。

未來生命研究所誕生記

馬斯克是在最后幾分鐘才趕到慶典現(xiàn)場。兩天后，SpaceX就要進(jìn)行一次重要的火箭發(fā)射，嘗試在海面平臺回收部分火箭。但他還是堅(jiān)持趕到了現(xiàn)場，因?yàn)樗嘈?，這場大會和這個(gè)新誕生的組織，對世界有著非同尋常的意義。

在很多媒體的報(bào)道中，經(jīng)常是這樣描述伊隆·馬斯克——一個(gè)堅(jiān)定的人工智能威脅論者。起因是他在2014年8月發(fā)布的那條人盡皆知的推特：“我們需要對AI保持謹(jǐn)慎。它們可能比核武器還要危險(xiǎn)?！?/p>

未來生命研究所作為一家非盈利組織，

鏈接學(xué)術(shù)界與科技企業(yè)界，推動“AI有益運(yùn)動”的發(fā)展

也幾乎是與此同時(shí)，一位MIT的教授也在這樣的信念下，推動著自己的計(jì)劃。因?yàn)轳R斯克那條有些“危言聳聽”的推特，兩人的故事發(fā)生了交集。幾乎是一拍即合，在他們第一次電話聯(lián)絡(luò)的時(shí)候，馬斯克便同意加入未來生命研究所的科學(xué)顧問委員會，并表示愿意資助未來生命研究所籌備開篇提到的波多黎各大會。

那這個(gè)未來生命研究所究竟是在什么樣的情況下誕生的呢？成立之后究竟為了推進(jìn)什么研究呢？

瘋狂邁克斯

在成立未來生命研究所之前，作為MIT物理學(xué)終身教授，泰格馬克已經(jīng)在平行宇宙方面的研究上成果斐然。他師承約翰·惠勒，與理查德·費(fèi)曼和基普·索恩師出同門。數(shù)理宇宙的假說讓他成為“當(dāng)今最具原創(chuàng)力的科學(xué)家”。

這些年里，泰格馬克將研究領(lǐng)域擴(kuò)展到了人工智能。不少人會覺得詫異，一個(gè)物理學(xué)家，為什么要“開小差”，跑去研究人工智能？

泰格馬克

一方面，MIT在人工智能領(lǐng)域積淀深厚。雖然人工智能在達(dá)特茅斯學(xué)院最先提出，但最初實(shí)現(xiàn)的卻是麻省理工學(xué)院。另一方面，泰格馬克的很多研究都是基于最新的計(jì)算機(jī)技術(shù)，他自己曾開發(fā)數(shù)據(jù)分析工具，用于宇宙微波背景的研究。過去幾年一直與MIT的團(tuán)隊(duì)在AI研究領(lǐng)域耕耘，至今已經(jīng)發(fā)表了5篇AI技術(shù)領(lǐng)域的論文，其中一篇是與楊立昆（深度學(xué)習(xí)領(lǐng)域三巨頭之一）合作發(fā)表。

私下里，他更喜歡大家給他取的外號“瘋狂邁克斯?！痹诳茖W(xué)家的外衣下，他有著一顆夢想家的心。用他的話說，“從我14歲知道了核軍備競賽以來，我一直擔(dān)心我們的技術(shù)力量比我們控制它的智慧增長得更快?！边@種擔(dān)憂一直伴隨著他的學(xué)術(shù)生涯，并讓他不斷行動起來。也正是這種浪漫主義，讓他和伊隆·馬斯克和斯蒂芬·霍金走到了一起。在他的第一本書《穿越平行宇宙》新書巡回之旅中，他決心要為這個(gè)世界做些什么。首先，要成立一家非盈利組織，專注于用技術(shù)管理來改善未來生命的境況。

未來生命研究所與它的成員們

接下來，泰格馬克開始勾搭自己的朋友。在倫敦，泰格馬克找到了Deepmind的創(chuàng)始人丹尼斯·哈薩比斯。兩個(gè)人在聊了一圈AI領(lǐng)域的技術(shù)突破與變革后，泰格馬克向哈薩比斯攤牌，包括自己在AI安全研究方面的想法以及未來生命研究所的計(jì)劃。哈薩比斯贊同了泰格馬克的想法，并將在研究方面給予支持和幫助。

而另一位朋友揚(yáng)·塔里安（Skype創(chuàng)始人）就更實(shí)在了，當(dāng)泰格馬克向他承諾了未來生命研究所的愿景后，便決定每年撥給他10萬美元的經(jīng)費(fèi)。在一年后的波多黎各大會上，塔里安半開玩笑的說：這是我做過的最好的一筆投資，這對我來說簡直意味著整個(gè)世界。隨后，一批來自高校的志愿者加入到了未來生命研究所中。

委員會中涵蓋了AI領(lǐng)域研究者、企業(yè)家、科學(xué)家乃至哲學(xué)家。

一方面，未來生命研究所通過資助全球各地的研究團(tuán)隊(duì)，保證AI安全領(lǐng)域研究的推進(jìn)。另一方面，通過與世界頂級專家、企業(yè)家的定期會議與討論，推動AI安全研究的社會共識。而未來生命研究所該機(jī)構(gòu)的科學(xué)顧問委員堪稱豪華，包括宇宙學(xué)家史蒂芬·霍金、SpaceX 和特斯拉汽車創(chuàng)始人伊隆·馬斯克、牛津大學(xué)未來人類研究院主任尼克·博斯特倫、麻省理工數(shù)字商業(yè)主任埃里克·布林約爾松、哈佛大學(xué)遺傳學(xué)教授喬治·丘奇、MIT物理學(xué)教授阿蘭·古斯以及劍橋大學(xué)、加州伯克利等大學(xué)的人工智能方面的著名教授都參與其中。

“AI有益運(yùn)動”——讓AI安全性研究進(jìn)入主流

2014年，未來生命研究所打響了自己的第一槍。泰格馬克與斯圖爾特·羅素、史蒂芬·霍金聯(lián)合在赫芬頓郵報(bào)上發(fā)表的《超越我們對超級智能機(jī)器的自滿》一文。表達(dá)了作者對迅速發(fā)展的AI潛在的風(fēng)險(xiǎn)與隱憂。

那篇經(jīng)常被其他媒體曲解的“原版”文章：

這篇文章引發(fā)媒體對AI安全報(bào)道的熱潮，伊隆·馬斯克、比爾·蓋茨等科技領(lǐng)袖紛紛加入討論，發(fā)表各自的觀點(diǎn)。遺憾的是，很多媒體搞錯(cuò)了方向，發(fā)表《史蒂芬·霍金警告說，機(jī)器人的崛起對人類可能造成災(zāi)難性破壞》這種危言聳聽的文章。

所以真正讓AI安全性研究步入主流的，是2015年1月召開的波多黎各大會。也就是剛剛文章開頭出現(xiàn)的那一幕，這場大會，幾乎所有的參會者都對這個(gè)問題產(chǎn)生了共識。

這個(gè)時(shí)代最聰明的頭腦集合在一起

在這場大會結(jié)束后一周，未來生命研究所便推出AI研究資助金申請通道。全世界大約有300個(gè)團(tuán)隊(duì)申請，在經(jīng)過篩選后，37個(gè)團(tuán)隊(duì)開始了第一階段的研究。

另外，一封著名的公開信也進(jìn)入了公眾視野。在這封名為《邁向強(qiáng)大和有益人工智能的優(yōu)先考量研究方案》的公開信中，強(qiáng)調(diào)了“研究不應(yīng)該只限于擴(kuò)展AI的能力，而是也需要把AI對社會的效益發(fā)揮至最高點(diǎn)”，并為下一階段的研究列出了優(yōu)先考量的目標(biāo)。這封公開信很快就收集了8000多個(gè)簽名，其中包括許多享譽(yù)全球的AI開發(fā)者以及伊隆·馬斯克和斯蒂芬·霍金等人。

也是在此時(shí)，媒體對“AI有益運(yùn)動”報(bào)道產(chǎn)生了微妙的變化，再也沒有終結(jié)者的照片。AI安全性研究終于不再是空談，而是有許多實(shí)際有用的工作要做。并且，許多優(yōu)秀的研究團(tuán)隊(duì)紛紛卷起袖子加入進(jìn)來。

阿西洛馬大會的合影，也是AI有益運(yùn)動的“群英譜”，你可以在里面找到拉里·佩奇、埃里克?施密特這些企業(yè)家，吳恩達(dá)、丹米斯·哈薩比斯這樣的技術(shù)專家，以及丹尼爾·卡尼曼這樣的來自心理學(xué)、經(jīng)濟(jì)學(xué)、社會學(xué)方面的頂級專家。DeepMind、谷歌、Facebook、蘋果、IBM、微軟和百度等公司的代表悉數(shù)到場。

隨后，在2017年阿西洛馬大會上，“AI有益運(yùn)動”被推向了第一個(gè)高潮。

AI有益運(yùn)動的蓬勃發(fā)展

AI有益運(yùn)動正在蓬勃發(fā)展。在企業(yè)界，亞馬遜、DeepMind、Facebook、谷歌、IBM和微軟發(fā)起了一個(gè)“有益AI”的行業(yè)伙伴關(guān)系。

而在學(xué)界，不斷有AI安全領(lǐng)域的研究團(tuán)隊(duì)和機(jī)構(gòu)獲得捐贈，包括加州大學(xué)伯克利分校的機(jī)器智能研究所、牛津大學(xué)的人類未來研究所和劍橋大學(xué)的存在風(fēng)險(xiǎn)研究中心。還有一些別的“有益AI”項(xiàng)目也在不斷啟動，包括劍橋大學(xué)萊弗休姆智能未來中心、位于匹茲堡的高蓋茨倫理與計(jì)算技術(shù)基金會以及位于邁阿密的人工智能倫理與管理基金會。AI安全性研究就此成型。

而在企業(yè)界，AI有益運(yùn)動也產(chǎn)生了深遠(yuǎn)影響。馬斯克投資上億美元的非盈利研究機(jī)構(gòu)OpenAI, 致力于用開放的方法研究通用AI，為人類帶來福祉。

在政府層面，各國政府和IEEE（世界上最大的技術(shù)專家組織）都發(fā)表了長篇報(bào)告和建議，除此之外還有幾十份報(bào)告和意見書。

泰格馬克還動筆寫起了一本書，這本書于近日出版，名為《生命3.0》（Life 3.0: Being Human in an Age of Artificial Intelligence）。因?yàn)閷戇^像多重宇宙這類高度理論化的深奧概念，對于有根據(jù)但仍充滿想象的觀點(diǎn)，泰格馬克可謂游刃有余。

《生命3.0》英文版一經(jīng)出版迅速登頂美國亞馬遜科技類圖書排行榜榜首，受到伊隆·馬斯克、斯蒂芬·霍金、雷·庫茲韋爾等人的推薦。更為難得的是，這本書同時(shí)受到《科學(xué)》 《自然》兩大權(quán)威學(xué)術(shù)期刊推薦。

作者泰格馬克先以全景視角，展現(xiàn)了關(guān)于這一問題的討論與爭議，并探討了近未來人工智能對法律、戰(zhàn)爭、就業(yè)和社會帶來的影響。然而泰格馬克的野心不止于此，他將目光投向了這場變更最為深遠(yuǎn)之處：人工智能是否能擁有意識？一萬年之后我們能否與人工智能實(shí)現(xiàn)共生與繁榮？宇宙生命發(fā)展最終的物理極限法則為何？更為重要的是，我們?nèi)绾卧谶@場變革中迎來繁榮，同時(shí)又不會陷入危機(jī)，喪失生而為人的意義？

作者用生命3.0的概念傳達(dá)了這一觀點(diǎn)：人工智能將完成人類的最終進(jìn)化。對于我們來說，又要以怎樣的思考和行動來應(yīng)對？

這本書將是你人工智能時(shí)代的思考利器，歡迎加入這個(gè)時(shí)代最重要的對話。