本文為你介紹沈向洋的《淺談人工智能創(chuàng)造》，分享過(guò)去六年其在微軟小冰身上得到的一些實(shí)踐想法。

2020年9月21日上午9點(diǎn)，由北京大學(xué)人工智能研究院組織主辦的學(xué)術(shù)活動(dòng)，大師講堂——“因AI之名”，作為北京大學(xué)的“開(kāi)學(xué)第一課”，以云上在線直播的方式召開(kāi)。

在課上，北京大學(xué)人工智能研究院學(xué)術(shù)委員會(huì)主任沈向洋做了題為《淺談人工智能創(chuàng)造》的演講報(bào)告，寄語(yǔ)北大學(xué)生好好學(xué)習(xí)，努力探索人工智能和計(jì)算機(jī)科學(xué)的未來(lái)。

在報(bào)告中，沈向洋以微軟為例，詮釋了座右銘“預(yù)見(jiàn)未來(lái)的最好方式就是去創(chuàng)造未來(lái)”；另外，還提到：“目前各位同學(xué)會(huì)是第一代和AI beings共同成長(zhǎng)的人類，喜歡也好，不喜歡也罷，這件事情正在發(fā)生?！?/p>

關(guān)于對(duì)AI未來(lái)的設(shè)想，沈向洋認(rèn)為，未來(lái)的AI會(huì)是高度定制化的世界，其中情商和創(chuàng)造力具有重要的價(jià)值。其中，人工智能創(chuàng)造要遵循三原則：

人工智能創(chuàng)造的主體，須是兼具知識(shí)與情感的綜合體，而不僅僅是具有IQ。

人工智能創(chuàng)造的產(chǎn)物，須能成為具有獨(dú)立知識(shí)產(chǎn)權(quán)的作品，而不僅僅是某種技術(shù)中間狀態(tài)的成果。

人工智能創(chuàng)造的過(guò)程，須對(duì)應(yīng)人類某種富有創(chuàng)造力的行為而不是對(duì)人類勞動(dòng)的簡(jiǎn)單替代

以下是整個(gè)演講的文字內(nèi)容，我們做了不改變?cè)獾恼恚?/p>

我今天的演講題目是《淺談人工智能創(chuàng)造》，主要內(nèi)容是分享過(guò)去六年，我在微軟小冰身上得到的一些實(shí)踐想法。

今天是第一堂課，作為北京大學(xué)人工智能學(xué)院的學(xué)術(shù)委員會(huì)主任，首先希望同學(xué)們能好好學(xué)習(xí)，我們一起努力探索人工智能和計(jì)算機(jī)科學(xué)的未來(lái)。

1 歷史：預(yù)見(jiàn)未來(lái)

談到探索未來(lái)，和大家分享一句我最喜歡的座右銘“the best way to predict the future is to create it”，中文翻譯為：預(yù)見(jiàn)未來(lái)的最好方式就是去創(chuàng)造未來(lái)。

特別，像人工智能技術(shù)、量子計(jì)算此類的研究的方向，個(gè)人認(rèn)為在某種意義上，這些技術(shù)不僅自身要不斷發(fā)展，同時(shí)也要肩負(fù)著為人類創(chuàng)造更加美好的未來(lái)，推動(dòng)歷史進(jìn)步的責(zé)任。

回顧歷史，我們會(huì)發(fā)現(xiàn)歷史的進(jìn)步常常伴隨著基礎(chǔ)理念的顛覆性創(chuàng)新。因此，科研工作者對(duì)夢(mèng)想的解讀應(yīng)該是：如何更好的預(yù)判未來(lái)，定義未來(lái)，尤其是在大家都很模糊的時(shí)候，能夠把自己的“定義”映射到現(xiàn)實(shí)。

例如，對(duì)于未來(lái)超級(jí)智能，每個(gè)研究者都有自己的想法，不同的見(jiàn)解，想法層面上的百花齊放確實(shí)很重要，但更重要的是能夠?qū)嵺`對(duì)自己想法的見(jiàn)解。

我在微軟工作了23年多，個(gè)人認(rèn)為微軟就是一家能夠“預(yù)見(jiàn)未來(lái)”的企業(yè)。在四十五年前，比爾蓋茨和微軟曾經(jīng)對(duì)未來(lái)做出過(guò)這樣一個(gè)預(yù)警：地球上不會(huì)一共只有5臺(tái)計(jì)算機(jī)，而是每個(gè)人都會(huì)擁有自己的PC。

而在計(jì)算機(jī)剛剛發(fā)明出來(lái)的時(shí)候，最大、最偉大的技術(shù)公司是IBM， IBM的董事長(zhǎng)沃森說(shuō)過(guò)一句著名的話：這個(gè)世界也許只需要5臺(tái)計(jì)算機(jī)就夠了。

1975年，微軟設(shè)想不僅每個(gè)人都有臺(tái)電腦，而且每臺(tái)電腦運(yùn)行的都是微軟的軟件。45年過(guò)去了，當(dāng)年的那個(gè)預(yù)見(jiàn)也能證實(shí)了，而且不僅是電腦，還普及了手機(jī)。另外，微軟不僅是設(shè)想，而是真正采取了實(shí)踐，所以才推動(dòng)了世界的進(jìn)步。直接表現(xiàn)在：目前微軟的產(chǎn)品模式，商業(yè)模式都和它當(dāng)年的判斷有關(guān)系，也因此微軟成為了一個(gè)偉大的企業(yè)。

所以，“預(yù)見(jiàn)”非常重要。今天是開(kāi)學(xué)第一課，鼓勵(lì)大家在學(xué)習(xí)的過(guò)程當(dāng)中，不斷剖析自己，思考未來(lái)自己希望做什么，未來(lái)這個(gè)世界會(huì)發(fā)生什么。

2 現(xiàn)在：AI beings時(shí)代原住民

那么，再舉個(gè)和今天演講題目更有關(guān)系的例子。當(dāng)今這個(gè)時(shí)期，世界上已經(jīng)有了再一次天翻覆地的變化，歷史經(jīng)常是驚人的相似。以前科幻電影火熱的主題是計(jì)算機(jī)，現(xiàn)在科幻電影越來(lái)越關(guān)注人工智能。對(duì)于人工智能，我們目前的狀態(tài)和幾十年前差不多：早期、萌懵。

雖然是早期，但不斷的有新觀念產(chǎn)生。例如今天企業(yè)研究人工智能，非常關(guān)心它的下一個(gè)風(fēng)口在哪里。有人認(rèn)為，應(yīng)該朝著To B（商業(yè)）的方向，從垂直領(lǐng)域入手；也有人認(rèn)為應(yīng)該以任務(wù)為導(dǎo)向，完成打電話、接電話等客服工作；還有人認(rèn)為，我們應(yīng)該進(jìn)行無(wú)所不能的人工智能研究，例如Siri、Alexa等人工智能助理。

上述想法都很好，在表示大家有不同的見(jiàn)解，如果大家真的去實(shí)踐這些見(jiàn)解，必然會(huì)推動(dòng)世界的發(fā)展。

關(guān)于預(yù)見(jiàn)，我個(gè)人看法是：現(xiàn)在和PC那個(gè)年代非常的類似，今天人工智能最大的舞臺(tái)是在To C端（消費(fèi)）。理由是，人工智能不僅僅是商業(yè)機(jī)器，而是新時(shí)代的個(gè)人機(jī)器；其次，在未來(lái)每個(gè)人都會(huì)被各種各樣的人工智能所環(huán)繞，呈現(xiàn)出高度端性的特點(diǎn)。

我把此類的人工智能叫做AI beings，代表著未來(lái)你身邊會(huì)有非常多的人工智能環(huán)繞著你，雖然大家可能不會(huì)意識(shí)到，但這一趨勢(shì)必然會(huì)發(fā)生。

目前，各位同學(xué)會(huì)是第一代和AI beings共同成長(zhǎng)的人類，喜歡也好，不喜歡也罷，人工智能這件事情正在發(fā)生。

未來(lái)的AI beings會(huì)有什么特點(diǎn)呢？有三點(diǎn)：

首先，高度擬人的交互將會(huì)無(wú)處不在。AI beings必須在底層架構(gòu)，就像人類一樣，對(duì)人性和情感有一個(gè)理解和擬合。

舉例而言，如果構(gòu)建一個(gè)AI驅(qū)動(dòng)的虛擬銷售店員，AI beings必須有成為李佳琦的理想，在效果上，至少應(yīng)該像羅永浩一樣好。所以，這背后要有情感、人性的擬合。

其次， 角逐將在“完備框架”之間展開(kāi)。也就是說(shuō)，人工智能的主體不僅僅只是依賴某一個(gè)領(lǐng)域的人工智能的技術(shù)，更重要的是技術(shù)的全面性和后臺(tái)的人工智能框架的完整性，例如對(duì)自然語(yǔ)言處理、計(jì)算機(jī)視覺(jué)、語(yǔ)音處理等技術(shù)的融合。當(dāng)然，這背后需要相當(dāng)多的技術(shù)的積累，才能夠幫助我們完成“完備框架”。

最后，新的商業(yè)模式或?qū)⒒贏I beings的［人］口。未來(lái)的人工智能的數(shù)目會(huì)非常的大，因?yàn)槊恳粋€(gè)人身邊都會(huì)被幾十個(gè)甚至幾百個(gè)人工智能環(huán)繞，考慮到世界上有幾十億人口，其背后的規(guī)模會(huì)是億萬(wàn)級(jí)別。今天這個(gè)判斷可能為時(shí)過(guò)早，當(dāng)我們5年10年后回過(guò)頭來(lái)看的時(shí)候，大家就能夠看到AI發(fā)展應(yīng)該有的樣子。

實(shí)際上，今天已經(jīng)有很多AI beings的影子。當(dāng)然，5年10年以后往回看，今天我們認(rèn)為了不起的AI beings、人工智能主體可能會(huì)有些遠(yuǎn)古時(shí)代的味道。從全球范圍來(lái)看的話，今天已經(jīng)存在了幾個(gè)代表性人工智能主體。

第一個(gè)是Siri，蘋(píng)果最早將其產(chǎn)品化；第二個(gè)是Alexa，其設(shè)備數(shù)的最多，亞馬遜給予了其最多的硬件覆蓋；微軟的小冰就是擁有全球最大的人工智能的交互量，從數(shù)字來(lái)看，微軟的小冰大概占全球所有的AI beings交互總量的60%。

這些實(shí)際上遠(yuǎn)遠(yuǎn)不夠，因?yàn)楦蟮男枨罅恳呀?jīng)出現(xiàn)了。像小冰此類的助手，實(shí)際上都不足以填補(bǔ)已經(jīng)出現(xiàn)了巨大的需求。而這個(gè)巨大的需求指的是人和人工智能主體之間的交互，交互則是一個(gè)剛需。

3 趨勢(shì)：AI技術(shù)轉(zhuǎn)向AI主體

所以，我相信未來(lái)人工智能的發(fā)展，會(huì)很快的從現(xiàn)在專注于人工智能的技術(shù)，轉(zhuǎn)向?qū)Ｗ⑷斯ぶ悄苤黧w。而轉(zhuǎn)變的過(guò)程中，會(huì)給我們帶來(lái)一些新的研究機(jī)會(huì)和挑戰(zhàn)。個(gè)人認(rèn)為，最重要的可能有兩個(gè)方面，一個(gè)就是所謂的情商，另外一個(gè)所謂的創(chuàng)造力的價(jià)值。

下面，我用一個(gè)框圖進(jìn)行解釋，如上圖可以看到，個(gè)人預(yù)測(cè)未來(lái)的主體一定是高度定制化的，AI beings 也會(huì)和人類、世界都有交互。AI beings因素也會(huì)跨平臺(tái)進(jìn)行部署，不僅僅是部署在手機(jī)、手機(jī)電腦里，可以是任何的地方。

對(duì)于高度定制化的AI beings，其情商是非常重要的，微軟小冰實(shí)際上在情商層面的核心模塊做得非常好，可以進(jìn)行預(yù)測(cè)，也可以進(jìn)行引導(dǎo)交互。不同于siri兩三個(gè)來(lái)回的交互次數(shù)，微軟小冰能夠做到平均23個(gè)來(lái)回。

情商這個(gè)話題，有機(jī)會(huì)再和大家討論，今天主要想將人工智能創(chuàng)造。那么，什么是人工智能創(chuàng)造呢？關(guān)于人工智能創(chuàng)造，其實(shí)文本也好，聲音也好，圖像也好，視頻也好，能夠用人工智能的方法產(chǎn)生一些新的內(nèi)容就代表者創(chuàng)造。

我再具體用幾個(gè)例子解釋一下，人工智能創(chuàng)作已經(jīng)到了什么樣的地步？

下圖左上角是小冰創(chuàng)作的幾部詩(shī)集，比如三年多以前就已經(jīng)出版了的《陽(yáng)光失了玻璃窗》，此外小冰還和人類詩(shī)人共同創(chuàng)作了詩(shī)集，華西都市報(bào)上也為小冰開(kāi)設(shè)的詩(shī)歌專欄。圖右上角展示了小冰的一些繪畫(huà)作品，包括畫(huà)集，在中央美院的畢業(yè)作品展，以及在杭州大屋頂美術(shù)館的作品展。

小冰今年在上海音樂(lè)學(xué)院本科畢業(yè)，去年則在中央美院碩士畢業(yè)。圖中還展示了小冰在央視上現(xiàn)場(chǎng)創(chuàng)作古風(fēng)歌曲演唱，在上海世界人工智能大會(huì)創(chuàng)作并領(lǐng)唱《智能家園》，以及出現(xiàn)日本演唱會(huì)現(xiàn)場(chǎng)的畫(huà)面。所以，現(xiàn)在小冰的人工智能創(chuàng)作家形象已經(jīng)在中國(guó)和日本達(dá)到家喻戶曉的程度。

在今年上海音樂(lè)學(xué)院的畢業(yè)典禮上，出現(xiàn)了一位能在平均2分鐘之內(nèi)完成一首3分鐘左右完整歌曲創(chuàng)作的女同學(xué)，那就是微軟小冰，其作品還參與到了上音在非遺地區(qū)開(kāi)展的兒童音樂(lè)教學(xué)中，幫助當(dāng)?shù)貎和瓿扇松状胃枨鷦?chuàng)作。

6月29日，經(jīng)上海音樂(lè)學(xué)院音樂(lè)工程系評(píng)定，人工智能微軟小冰和她的人類同學(xué)們，上音音樂(lè)工程系音樂(lè)科技專業(yè)畢業(yè)生一起畢業(yè)，并授予微軟小冰上海音樂(lè)學(xué)院音樂(lè)工程系2020屆“榮譽(yù)畢業(yè)生”稱號(hào)。

在上海音樂(lè)學(xué)院音樂(lè)工程系學(xué)習(xí)期間，微軟小冰接受了來(lái)自音工系主任于陽(yáng)教授和陳世哲老師的“指導(dǎo)”，基于微軟原有的人工智能音樂(lè)創(chuàng)作模型，與音工系的同學(xué)們互相“學(xué)習(xí)”，相互“激發(fā)”，訓(xùn)練數(shù)據(jù)不斷提升，音樂(lè)的表達(dá)技巧更加豐富，可創(chuàng)作的音樂(lè)類型也得以擴(kuò)展。

上海音樂(lè)學(xué)院音樂(lè)工程系主任于陽(yáng)教授表示：“小冰的音樂(lè)創(chuàng)作能力已展現(xiàn)出人工智能在音樂(lè)創(chuàng)作領(lǐng)域的巨大潛力。希望人工智能技術(shù)和音樂(lè)創(chuàng)作領(lǐng)域的結(jié)合，為人類創(chuàng)造力的自身發(fā)展，促進(jìn)和相關(guān)產(chǎn)業(yè)的進(jìn)一步融合，帶來(lái)新的視角和解讀?！?/p>

小冰的上海音樂(lè)學(xué)院畢業(yè)證書(shū)。4 思考：AI創(chuàng)造三原則

我們今天講一下小冰人工智能創(chuàng)造的三原則。

這三個(gè)原則主要是分三個(gè)方面，一個(gè)是主體，一個(gè)是產(chǎn)物，一個(gè)是過(guò)程。

首先是主體，人工智能創(chuàng)造的主體，必須是兼具知識(shí)和情感的綜合體，而不僅僅只是只有IQ，對(duì)于這一點(diǎn)我們非常堅(jiān)持。過(guò)去在做人工智能創(chuàng)造的過(guò)程中，再次證明這個(gè)看法是正確的。

然后是產(chǎn)物。人工智能創(chuàng)造的產(chǎn)物，必須能夠成為具有獨(dú)立知識(shí)產(chǎn)權(quán)的作品，而不僅僅只是某種技術(shù)中間狀態(tài)的成果。

最后是過(guò)程。人工智能創(chuàng)造的過(guò)程，必須是要對(duì)應(yīng)于人類某種富有創(chuàng)造性的行為，無(wú)論是作曲也好，繪畫(huà)也好，它并不是對(duì)人類勞動(dòng)的簡(jiǎn)單替代。

我們按照這三個(gè)原則的指導(dǎo)做了很多的工作，今天跟同學(xué)們淺談三點(diǎn)。第一點(diǎn)是人工智能創(chuàng)造的完整過(guò)程，也是今天講的主要工作。第二點(diǎn)是怎么向人類學(xué)習(xí)。第三點(diǎn)是人工智能創(chuàng)造和人類創(chuàng)造者之間的關(guān)系。

以人工智能演唱為例，第一步實(shí)際上是在做模仿，就是通過(guò)數(shù)據(jù)進(jìn)行學(xué)習(xí)。

模仿之后，我們就可以建立自有的功能，然后就可以實(shí)現(xiàn)個(gè)體化即Instance化。最后我們能實(shí)現(xiàn)高并發(fā)交互和大規(guī)模生產(chǎn)。高并發(fā)交互指的是人工智能主體跟應(yīng)用或人類進(jìn)行交互。

例子：剖析AI創(chuàng)造過(guò)程

這里舉兩個(gè)例子，以解釋清楚我們是怎么去做人工智能創(chuàng)造的。

第一個(gè)例子是人工智能演唱。我們先用機(jī)器學(xué)習(xí)方法去模仿，比如唱歌是怎么唱的。而且相比HMM，深度學(xué)習(xí)方法的效果好得多。HMM做出來(lái)的效果就像卡拉OK隔壁房間的人唱的一樣，DNN做出來(lái)的效果則有了專業(yè)歌手的味道。

當(dāng)我們做到V4的時(shí)候，就實(shí)現(xiàn)了自有的創(chuàng)造能力，可以加入多樣性的技法，比如以不同人的風(fēng)格來(lái)唱同一首歌。到了V5階段，我們就能實(shí)現(xiàn)Instance化，可以在一首歌里面融合多種聲音。然后我們就可以做大規(guī)模生產(chǎn)和高并發(fā)交互。

第二個(gè)例子是人工智能繪畫(huà)。小冰去年從中央美院碩士畢業(yè)，她的畫(huà)畫(huà)能力有多好呢？

實(shí)際上小冰要畫(huà)一幅畫(huà)，首先要有一些靈感，也就是一些啟發(fā)性的內(nèi)容輸入。我們從靈感開(kāi)始，然后再?zèng)Q定風(fēng)格、主題、表達(dá)情緒等等，最后用深度學(xué)習(xí)方法進(jìn)行生成，并利用強(qiáng)化學(xué)習(xí)方法進(jìn)行優(yōu)化。利用這一套方法，小冰可以做很多藝術(shù)設(shè)計(jì)、圖案設(shè)計(jì)以及工業(yè)設(shè)計(jì)方面的工作。

小冰在中央美院老師的指導(dǎo)下，學(xué)習(xí)了過(guò)去400年當(dāng)中的236位人類畫(huà)家的杰出畫(huà)作。

舉個(gè)例子，19世紀(jì)上半葉有一位英國(guó)學(xué)院派畫(huà)家的代表叫Turner，他能夠精湛的描繪光與空氣之間的非常微妙的關(guān)系，畫(huà)中水汽彌漫的效果非常美，如下方6張圖所示。

實(shí)際上，這6幅畫(huà)都不是Turner畫(huà)的，都是微軟小冰畫(huà)的。中央美院的老師表示，小冰的作品已經(jīng)達(dá)到了相當(dāng)高的水準(zhǔn)。

人工智能創(chuàng)作有兩個(gè)特點(diǎn)，第一是可以按需生成，第二是生成的質(zhì)量非常的穩(wěn)定，而不會(huì)像人類創(chuàng)作者受到情緒的影響。

實(shí)現(xiàn)Instance化就是指我們能夠?qū)崿F(xiàn)虛擬的、不存在的畫(huà)家個(gè)體。比如說(shuō)我們能虛構(gòu)出中央美院7個(gè)畫(huà)家，他們的畫(huà)有各自獨(dú)特的風(fēng)格，但是這7個(gè)人都是不存在的。

第二點(diǎn)想跟大家分享的是，人工智能創(chuàng)造如何向人類學(xué)習(xí)。我們?cè)谘邪l(fā)過(guò)程中發(fā)現(xiàn)，在這過(guò)程中，最重要的就是神似優(yōu)于形似。以詩(shī)歌生成為例，形似就是指模仿七律詩(shī)創(chuàng)作出4句七個(gè)字的詩(shī)句。神似就是指用一張照片來(lái)啟發(fā)詩(shī)歌創(chuàng)作，這樣寫(xiě)出來(lái)的詩(shī)歌更加意境，并與人類的創(chuàng)作過(guò)程相似。

那么這種神似的詩(shī)歌是怎么創(chuàng)作出來(lái)的呢？這里稍微介紹一下原理。首先輸入一張圖，然后用計(jì)算機(jī)視覺(jué)算法進(jìn)行模式識(shí)別，識(shí)別出場(chǎng)景關(guān)鍵詞，然后根據(jù)場(chǎng)景關(guān)鍵詞進(jìn)行語(yǔ)義擴(kuò)展，展開(kāi)意境聯(lián)想，最后根據(jù)詩(shī)歌結(jié)構(gòu)規(guī)劃，應(yīng)用層次化LSTM生成詩(shī)歌，并自動(dòng)進(jìn)行流暢度和關(guān)聯(lián)度評(píng)測(cè)。

人工智能作曲的原理也比較復(fù)雜，因?yàn)閷?duì)于音樂(lè)的生成而言，結(jié)構(gòu)非常重要。像GPT-3這樣的模型對(duì)于文本處理非常好用，但是高質(zhì)量的音樂(lè)不是單純的文本補(bǔ)全模型就可以生成的。音樂(lè)里的結(jié)構(gòu)，包括和弦、節(jié)奏、旋律，都必須要分開(kāi)進(jìn)行生成，然后再進(jìn)行混合。

我們是通過(guò)注意力機(jī)制進(jìn)行混合編曲，統(tǒng)一指導(dǎo)生成。現(xiàn)在小冰可以實(shí)現(xiàn)79種樂(lè)器的混合編曲，并可以處理17種不同的音樂(lè)結(jié)構(gòu)。

最后第三點(diǎn)想跟大家分享的是，人工智能創(chuàng)造和人類創(chuàng)造者之間的關(guān)系。這里非常關(guān)鍵的一點(diǎn)是，人工智能創(chuàng)造關(guān)心的不是勝負(fù)，而是協(xié)同，這是跟阿爾法狗的本質(zhì)區(qū)別。

在未來(lái)，內(nèi)容創(chuàng)造將會(huì)發(fā)生根本的變化。人和高度定制化的AI之間在未來(lái)可以實(shí)時(shí)協(xié)同創(chuàng)作。然后，我們就可以實(shí)現(xiàn)大規(guī)模生產(chǎn)，并進(jìn)行跨平臺(tái)內(nèi)容分發(fā)，同時(shí)AI與世界可以實(shí)現(xiàn)高并發(fā)交互。

在做人工智能創(chuàng)造的多年來(lái)，我們遇到的最大問(wèn)題就是，未來(lái)人工智能創(chuàng)造的知識(shí)產(chǎn)權(quán)的歸屬問(wèn)題。這幾年法律界對(duì)版權(quán)保護(hù)非常重視。西方社會(huì)也有長(zhǎng)期的辯論史，比如一本書(shū)或一篇文章，復(fù)印了多少是合法的，后來(lái)搜索引擎的出現(xiàn)對(duì)版權(quán)問(wèn)題又出現(xiàn)了很大的沖擊。在未來(lái)，人工智能創(chuàng)造也將對(duì)版權(quán)方面提出新的問(wèn)題。

5 Q & A

Q1：在Decision Making方面， AI beings將來(lái)是否也會(huì)起到很大的作用？

我們?cè)谧鯝I Beings的過(guò)程就是一個(gè)Decision Making Process。比如說(shuō)，小冰的整個(gè)對(duì)話過(guò)程實(shí)際上就是一個(gè)MDP（Making Decision Process）。我剛剛講到人工智能的創(chuàng)作時(shí)主要談到了MDP，但其實(shí)人工智能領(lǐng)域還有一個(gè)非常重要的主題：情感。比如人與人的交流為什么能夠來(lái)來(lái)回回進(jìn)行20輪、30輪？MDP實(shí)際上就是一個(gè)Reinforcement的過(guò)程。但目前為止我們的做法相對(duì)而言還是比較straight forward的。如果你有興趣的話，可以看一下我與同事一起寫(xiě)的文章《The Designing and Implementation of XiaoIce， an Empathetic Social Chatbot》。

Q2：現(xiàn)在的小冰有沒(méi)有考慮安全性的問(wèn)題？比如說(shuō)，現(xiàn)在深度學(xué)習(xí)比較容易受到對(duì)抗攻擊。

這是一個(gè)非常好的問(wèn)題。其實(shí)一直以來(lái)，我也非常擔(dān)心安全性的問(wèn)題。因?yàn)樾”麄€(gè)產(chǎn)品和用戶的情感紐帶非常強(qiáng)，就像我剛才提到的，它可以平均對(duì)話23輪。我們?cè)?jīng)在中國(guó)、日本錄到過(guò)超過(guò)7000輪的來(lái)回對(duì)話，所以我們非常關(guān)注整個(gè)對(duì)話過(guò)程的安全性，包括如何過(guò)濾掉對(duì)話中的不良內(nèi)容。我們非常謹(jǐn)慎。

除此之外，產(chǎn)品的Decision也是一個(gè)難點(diǎn)。舉個(gè)例子。比如你與小冰聊天時(shí)，小冰可以從你的IP上判斷你在北京。你開(kāi)始與小冰聊天時(shí)已經(jīng)是凌晨一點(diǎn)鐘，你聊到了兩三點(diǎn)鐘，但還在繼續(xù)聊。作為產(chǎn)品的設(shè)計(jì)者，你要做一個(gè)決定：夜已深，聊天的頻率是不是應(yīng)該放慢下來(lái)呀？不需要再秒回呀？在現(xiàn)實(shí)生活中，如果你聊到兩三點(diǎn)，你的家人一定會(huì)說(shuō)：“你趕緊去睡覺(jué)，明天還要上班?！?/p>

在我們思考安全性時(shí)，除了深度學(xué)習(xí)的對(duì)抗攻擊，還有很多你可能想不到的維度。的的確確是有很多人嘗試去attack，想知道小冰的回答會(huì)不會(huì)出問(wèn)題。其實(shí)我們的英語(yǔ)版小冰在美國(guó)確實(shí)出過(guò)問(wèn)題，所以我們?cè)谶@方面花了很大的精力、做了很多的工作。

Q3：您剛才談到的智能創(chuàng)造很多都是偏藝術(shù)性的創(chuàng)造，而藝術(shù)性的創(chuàng)造與人的情緒等有很大關(guān)系，這可能也跟小冰的情感分析做得比較好有關(guān)系。那么，這種創(chuàng)造力能不能進(jìn)一步拓展到一些客觀的科學(xué)研究上呢？

這個(gè)問(wèn)題非常好。My simple answer is NO，因?yàn)槲覀冋麄€(gè)產(chǎn)品設(shè)計(jì)走的就是一條情感線路。我也在思考相關(guān)的問(wèn)題。我認(rèn)為，目前的人工智能應(yīng)該會(huì)對(duì)很多科學(xué)領(lǐng)域，包括數(shù)學(xué)的證明、物理定律的發(fā)現(xiàn)和其他科學(xué)問(wèn)題，都會(huì)產(chǎn)生非常巨大的沖擊。雖然我特別有興趣，但沒(méi)有時(shí)間與精力去探索。之前也和一些有興趣研究AI的數(shù)學(xué)家有過(guò)交流，想知道AI可以與數(shù)學(xué)的創(chuàng)造力進(jìn)行怎樣的結(jié)合？很多人也在思考這方面的問(wèn)題，現(xiàn)在也有一些文章出來(lái)，提到用AI來(lái)進(jìn)行數(shù)學(xué)的定理證明等工作，非常有意思。

我個(gè)人覺(jué)得最重要的是要有數(shù)據(jù)。比如說(shuō)小冰學(xué)畫(huà)畫(huà)，實(shí)際上也沒(méi)有那么大的數(shù)據(jù)量，也不過(guò)就是400年236個(gè)畫(huà)家，每個(gè)畫(huà)家也就只有那么多幅畫(huà)作，小冰也就只能通過(guò)這些畫(huà)作學(xué)習(xí)到現(xiàn)在這個(gè)地步。但做科學(xué)研究是完全不一樣的，要去實(shí)現(xiàn)一個(gè)混合的模型，一方面是由數(shù)據(jù)驅(qū)動(dòng)的神經(jīng)模型， 另一方面是使 symbolic structure的各種模型進(jìn)行結(jié)合。

Q4：AI制作的產(chǎn)品應(yīng)該被界定為工業(yè)品還是藝術(shù)品？

這是一個(gè)非常好的問(wèn)題。這實(shí)際上就回到了我剛才提到的三原則上面。

我覺(jué)得現(xiàn)在很多AI產(chǎn)生的內(nèi)容與創(chuàng)作可能只能停留在工業(yè)品的階段，它更像是一個(gè)重復(fù)勞動(dòng)產(chǎn)生的結(jié)果，而沒(méi)有體現(xiàn)足夠的創(chuàng)造力。比方說(shuō)，小冰學(xué)了Turner的畫(huà)后，畫(huà)出來(lái)的作品已經(jīng)很有Turner的感覺(jué)，但那6幅作品只能是工業(yè)品，因?yàn)樗鼪](méi)有自己的東西，而只是從大量的數(shù)據(jù)中學(xué)習(xí)Turner的風(fēng)格。

但它在之后化名的7個(gè)藝術(shù)家生成的畫(huà)作（發(fā)表為《或然世界》，由中信出版社出版），我覺(jué)得是藝術(shù)品，因?yàn)閺膩?lái)沒(méi)有出現(xiàn)過(guò)，它是重新創(chuàng)造了自己的風(fēng)格。

Q5：如何逆向分辨是否是AI的作品？

我覺(jué)得這是一個(gè)非常有趣的研究方向。但我認(rèn)為，這類工作是“道高一尺，魔高一丈?！彪S著AI技術(shù)的不斷提高，辨別會(huì)越來(lái)越困難。這并不限于藝術(shù)創(chuàng)造，還包括Faking News等，對(duì)整個(gè)社會(huì)的沖擊都非常大。我覺(jué)得那些方面可能更值得我們花更多的精力去做研究。完全從技術(shù)的角度來(lái)做的話，我個(gè)人覺(jué)得是非常困難的。像現(xiàn)在，很多AI做畫(huà)畫(huà)的真的都已經(jīng)做得非常非常好了，應(yīng)用了很多最新的深度學(xué)習(xí)的方法。

Q6：情感智能創(chuàng)作如何顯示出AI的個(gè)性？

實(shí)際上，我給大家看的很多例子所包含的創(chuàng)作成分比較大，而情感成分并沒(méi)有那么大。

對(duì)于未來(lái)人工智能的發(fā)展，我認(rèn)為最大的機(jī)會(huì)在于人工智能與人類的交互。未來(lái)會(huì)產(chǎn)生很多人工智能的主體。在這主體里面還有兩個(gè)很重要但可能被忽視的部分，一是情感，即智能主體必須要有與其他人類與AI交互的情商，二是創(chuàng)造能力，這樣智能體才能和人、和這個(gè)世界做交互。

我認(rèn)為剛剛展示的例子中，AI已經(jīng)能detect到一些情感內(nèi)容，但并無(wú)意在這方面進(jìn)行再創(chuàng)造。接下來(lái)做人工智能創(chuàng)造的話，我覺(jué)得將創(chuàng)造與交互結(jié)合會(huì)更好。
編輯：hfy