12月18 日，由清華大學(xué)人工智能國際治理研究院（I-AIIG）主辦，聯(lián)合國開發(fā)計劃署（UNDP）作為國際支持機構(gòu)的清華大學(xué)人工智能合作與治理國際論壇在北京召開。論壇采用線上與線下結(jié)合的形式，探討人工智能合作與治理的機遇與挑戰(zhàn)。清華大學(xué)人工智能國際治理研究院院長薛瀾教授發(fā)表題為《人工智能治理：挑戰(zhàn)與展望》的主旨演講，圍繞人工智能的福利與風(fēng)險、人工智能治理的挑戰(zhàn)、以及人工智能治理的前景三個方面展開闡述。

在會上，薛瀾教授強調(diào)了人工智能國際治理的重要性。人工智能技術(shù)對整個人類發(fā)展有非常長遠的影響，其好處和風(fēng)險都非常明顯，因此國際合作特別重要。人工智能的發(fā)展本身就是一部國際合作的歷史。在中美兩國的人工智能論文發(fā)表中，國際合作的比例非常之高。人工智能如果應(yīng)用到軍事領(lǐng)域，可能對全球有毀滅性的影響，這方面沒有任何一個國家能夠單獨解決。薛教授指出，尤其要注意一些極端組織可能利用人工智能技術(shù)，對主權(quán)國家產(chǎn)生威脅。

薛瀾教授認(rèn)為，應(yīng)對這些挑戰(zhàn)需要在基本共識的基礎(chǔ)上，建立全球性的治理平臺，協(xié)調(diào)人工智能未來發(fā)展面臨的緊迫問題。國際社會要積極吸取在核武器、空間法、以及氣候治理等領(lǐng)域積累的許多經(jīng)驗和教訓(xùn)，建立基本的價值共識，尊重各國經(jīng)濟、社會、政治和文化的差異。除了自然科學(xué)研究，國際社會要加強人工智能社會影響及其治理的合作研究，引導(dǎo)人工智能健康發(fā)展，造福人類美好未來。

以下是薛瀾教授發(fā)言全文：

各位嘉賓，大家好！非常高興今天有這個機會來跟大家討論人工智能治理面臨的挑戰(zhàn)。

首先，我談?wù)勅斯ぶ悄芙o人類社會帶來的收益和風(fēng)險。目前，我們經(jīng)常能看到一些被廣泛應(yīng)用的簡單機器人，比如在酒店服務(wù)的應(yīng)用，特別是在抗疫中也被廣泛運用。從圖片中我們可以看到，人工智能在圖像識別的能力可以用來對一些癌癥進行判斷。此外，還有一些比較復(fù)雜的人工智能運用場景，比如重慶市正在推進一個被稱為“云谷”的項目，實際上是利用人工智能和物聯(lián)網(wǎng)實現(xiàn)智慧社區(qū)。這是較為復(fù)雜的應(yīng)用。人們還將人工智能運用于科學(xué)發(fā)現(xiàn)，最近在生命科學(xué)領(lǐng)域有一些具體應(yīng)用，例如AlphaFold在解析蛋白質(zhì)結(jié)構(gòu)方面的突破性進展，這是更加復(fù)雜的運用場景。由此，我們可以看到人工智能的運用不斷演進，從簡單到復(fù)雜的一個應(yīng)用過程。

人工智能給我們帶來諸多社會收益的同時，也會產(chǎn)生一些大家都非常關(guān)注的風(fēng)險。一類是算法歧視的問題。最近的研究發(fā)現(xiàn)美國一些醫(yī)院在利用人工智能篩選病例，判斷是否收治病人住院。但由于算法的問題，在這個過程中有比較明顯的種族歧視，在同樣病情的情況下，對黑人的病癥判斷得更輕，從而更容易被拒絕住院。二是安全的問題。在自動駕駛領(lǐng)域，如果數(shù)據(jù)質(zhì)量不高，自動駕駛系統(tǒng)產(chǎn)生失誤，無法識別前面的障礙物，導(dǎo)致事故。這樣的情況發(fā)生后，責(zé)任分配的問題也值得研究。三是隱私的問題。比如人臉識別可能引起侵犯個人隱私的問題，也可能帶來歧視的問題，國內(nèi)最近討論得比較多。四是社會影響。其中一個問題是人工智能替代就業(yè)崗位的問題，最新的研究顯示，2020年至2025年有相當(dāng)一部分的工作將被人工智能相關(guān)技術(shù)所替代。MIT一位教授去年發(fā)表一篇文章，對比分析了人工智能和信息技術(shù)創(chuàng)造就業(yè)和消除就業(yè)的兩個指數(shù)，這篇文章發(fā)現(xiàn)消除就業(yè)的指數(shù)其實更高，從長遠看人工智能對就業(yè)的影響的確值得我們高度關(guān)注。另外一個問題是“信息繭房”的問題，信息推送可以給人們帶來方便，不需要再主動尋找各種各樣的信息，算法根據(jù)我們的偏好把我們需要的信息都能推送過來。但這樣潛在的后果是，我們之前相信什么，會接受到更多相關(guān)的信息，導(dǎo)致我們越來越相信，這個過程是否會將我們的觀點和社會認(rèn)知更加極化？這些問題值得進一步關(guān)注和考慮。

其次，我談?wù)勅斯ぶ悄苤卫硭枰幕疽?guī)則、政策和機制。人工智能治理的目標(biāo)是保證人工智能發(fā)展能夠造福于人類，實現(xiàn)技術(shù)向善。第一，人工智能治理還處于不斷發(fā)展演變的過程中，是一個還未成熟的領(lǐng)域。人工智能本身就有不同定義，比如我們在編寫人工智能倫理指引時，發(fā)現(xiàn)不同機構(gòu)對人工智能的基本定義不完全一樣。另外，人工智能還具有黑箱特征，其算法機理還有無法解釋的內(nèi)容，其社會影響或可能產(chǎn)生的風(fēng)險存在不確定性。第二，人工智能治理包含價值、機制、參與者、對象和效果等要素。價值觀是非常重要的一個要素，應(yīng)明確發(fā)展人工智能技術(shù)時應(yīng)堅持哪些基本價值觀。機制是指通過何種制度體系來實現(xiàn)有效的治理。參與者即指實現(xiàn)人工智能治理需要哪些參與者，可能包括個人、組織和國家。治理的對象可能涉及企業(yè)的行為，可能涉及使用者的行為。最后一個要素就是效果，即以何種方式評價治理的效果。第三，人工智能治理存在機制復(fù)合體現(xiàn)象。機制復(fù)合體的現(xiàn)象是指在全球治理過程中，針對同一類問題，有不同的治理機制并存。這些治理機制之間有重疊，也有觀點和價值的沖突，彼此也沒有上下級關(guān)系，此時如何協(xié)調(diào)不同治理機制是一個很大的挑戰(zhàn)。人工智能治理也呈現(xiàn)出此類現(xiàn)象，需要我們進一步探討。第四，人工智能治理涉及技術(shù)、社會和結(jié)果等維度。正如姚期智先生和張鈸先生演講中所提到的，人工智能治理面臨很多挑戰(zhàn)，其實很多挑戰(zhàn)可以通過技術(shù)來解決，包括解決安全、標(biāo)準(zhǔn)、基礎(chǔ)架構(gòu)等問題。社會層面主要涉及倫理問題，通過設(shè)定規(guī)則來影響人工智能的發(fā)展和應(yīng)用。在結(jié)果維度上，重點是解決負(fù)面效果，包括隱私、安全、歧視、貧富差距等問題。

再次，我談?wù)勅斯ぶ悄苤卫淼奶魬?zhàn)。第一，規(guī)制人工智能面臨困境。人工智能治理面臨的一個最大挑戰(zhàn)就是發(fā)展得太快，然而治理體系作為社會系統(tǒng)的一部分，其發(fā)展演變是緩慢的，從而產(chǎn)生步伐不一致的情況。我們擔(dān)心這種步伐不一致的情況將進一步加劇，去年我們?nèi)斯ぶ悄苤卫砦瘑T會提出了八條治理原則，最后一條是敏捷治理，就是要改變原來傳統(tǒng)的治理模式。傳統(tǒng)的模式需要經(jīng)過諸多政策制定程序，現(xiàn)在這種模式的確趕不上技術(shù)的變革，因此需要在不是那樣完整的政策制定過程條件下及時出臺政策，引導(dǎo)技術(shù)發(fā)展。第二，公共部門的矛盾角色。人工智能技術(shù)可以在公共部門中被廣泛應(yīng)用，而公共部門自己也可能存在濫用情形。另外公共部門在應(yīng)用人工智能的過程中面臨各種風(fēng)險，也面臨各種挑戰(zhàn)。第三，推動企業(yè)負(fù)責(zé)任創(chuàng)新。企業(yè)是最活躍的主體，會與政府在治理過程中進行博弈，需要企業(yè)自律，包括如何與公眾和社會實現(xiàn)更好的交流。

此外，我想特別談一下人工智能為何需要國際治理。人工智能對我們整個人類未來發(fā)展有長遠的影響，過去人工智能的發(fā)展就是一部國際合作的歷史，我們對人工智能領(lǐng)域中中國與美國的學(xué)者合作的情況進行過分析，中美合作的研究成果占到比較大的比重，大量的國際合作是人工智能能夠發(fā)展到今天的非常重要的因素，今后還需要繼續(xù)合作。但另外一方面，人工智能也有可能給我們帶來重大風(fēng)險，如傅瑩大使在演講中提到了人工智能也可能帶來毀滅性的影響，比如產(chǎn)生大規(guī)模的自主殺傷性武器。任何一個國家都無法單獨解決此類問題。無法判斷某些組織能夠發(fā)展此類技術(shù)，對各個主權(quán)國家產(chǎn)生威脅，因此就需要各個國家應(yīng)該求同存異，共同應(yīng)對此類問題，找到解決辦法。

最后，我們需要在過去研究探討的基礎(chǔ)上探索建立一個全球性的平臺或機制，協(xié)調(diào)人工智能未來發(fā)展面臨的緊迫的問題。第一，我們可以學(xué)習(xí)一些過往的機制，包括核技術(shù)的治理機制、空間法、氣候變化治理機制等。第二，加強人工智能研究領(lǐng)域的國際合作，不僅包括科學(xué)研究的技術(shù)開發(fā)領(lǐng)域的合作，也包括社會和倫理方面的合作。正如傅大使提到的清華大學(xué)與布魯金斯學(xué)會的合作就是一個非常好的典范，在這種合作中找到共同點，包括共同的價值觀念、共同的治理原則，還有一些差異。根據(jù)這些異同點，不斷探討和溝通，最后找到共同的準(zhǔn)則，引導(dǎo)人工智能健康發(fā)展，最終為全人類造福。
責(zé)任編輯：YYX