當(dāng)前，新一代人工智能技術(shù)正在全球范圍內(nèi)蓬勃興起，與大數(shù)據(jù)、區(qū)塊鏈、5G等新技術(shù)相互融合、相互因應(yīng)，為經(jīng)濟(jì)社會(huì)發(fā)展尤其是數(shù)字經(jīng)濟(jì)發(fā)展注入新動(dòng)能，正在深刻改變著人類的生產(chǎn)生活方式。與此同時(shí)，如何在新技術(shù)變革浪潮中始終立于主動(dòng)，實(shí)現(xiàn)人工智能等前沿科技領(lǐng)域有效治理，確保其持續(xù)健康發(fā)展，也成為國(guó)際國(guó)內(nèi)、社會(huì)各界廣泛關(guān)注的重要現(xiàn)實(shí)問題、重大時(shí)代議題。

黨的十八大以來，以習(xí)近平同志為核心的黨中央高度重視前沿科技領(lǐng)域發(fā)展與治理，中央政治局就人工智能、區(qū)塊鏈、量子科技等新技術(shù)領(lǐng)域相關(guān)問題分別進(jìn)行集體學(xué)習(xí)。習(xí)近平總書記高度重視新一代人工智能發(fā)展與治理，提出“要深刻認(rèn)識(shí)加快發(fā)展新一代人工智能的重大意義，加強(qiáng)領(lǐng)導(dǎo)，做好規(guī)劃，明確任務(wù)，夯實(shí)基礎(chǔ)，促進(jìn)其同經(jīng)濟(jì)社會(huì)發(fā)展深度融合，推動(dòng)我國(guó)新一代人工智能健康發(fā)展”。

剛剛過去的2020年，波瀾壯闊、極不平凡。“兩個(gè)一百年”目標(biāo)歷史交匯，中華民族偉大復(fù)興戰(zhàn)略全局與世界百年未有之大變局相互激蕩、相互作用，新冠肺炎疫情仍在多國(guó)肆虐，人工智能（AI）在疫情防控、社會(huì)治理、國(guó)際協(xié)作等多個(gè)領(lǐng)域發(fā)揮重要作用，新一代人工智能技術(shù)發(fā)展取得諸多重大成果，世界各國(guó)積極探索與人工智能發(fā)展相適應(yīng)的治理路徑，出現(xiàn)諸多具有標(biāo)志性意義、可能產(chǎn)生深遠(yuǎn)影響的重要事件。對(duì)這些事件進(jìn)行梳理總結(jié)、深入研究，有助于深化對(duì)人工智能治理規(guī)律的認(rèn)識(shí)，有助于更精準(zhǔn)把握人工智能技術(shù)、產(chǎn)業(yè)、生態(tài)發(fā)展趨勢(shì)，有助于引發(fā)社會(huì)各界就人工智能治理領(lǐng)域關(guān)鍵問題、重點(diǎn)難點(diǎn)進(jìn)行深入思考，形成更廣泛共識(shí)。

人工智能治理是復(fù)雜性、系統(tǒng)性很高的社會(huì)議題，涵蓋政策、技術(shù)、產(chǎn)業(yè)、法律、傳播、倫理、安全、國(guó)際關(guān)系等諸多領(lǐng)域。對(duì)國(guó)際國(guó)內(nèi)人工智能治理標(biāo)志性事件開展研究，也必然需要各界共同推動(dòng)。為此，人民智庫(kù)與曠視AI治理研究院成立聯(lián)合課題組，共同開展“2020年度全球十大人工智能治理事件”遴選、評(píng)議，組織相關(guān)領(lǐng)域權(quán)威專家學(xué)者，從AI與公眾福祉、AI與公平正義、AI政府（企業(yè)）治理、AI系統(tǒng)安全性與數(shù)據(jù)隱私安全等四個(gè)主要維度出發(fā)，依據(jù)理論價(jià)值、實(shí)踐價(jià)值、新聞價(jià)值、研究?jī)r(jià)值等四個(gè)評(píng)價(jià)標(biāo)準(zhǔn)進(jìn)行評(píng)議，并面向社會(huì)公眾開展在線問卷調(diào)查，對(duì)人工智能產(chǎn)業(yè)領(lǐng)域從業(yè)者，相關(guān)部委、行業(yè)協(xié)會(huì)領(lǐng)導(dǎo)專家等典型群體進(jìn)行深入訪談。經(jīng)綜合各方面資料、數(shù)據(jù)、意見、觀點(diǎn)，最終評(píng)選出2020年度全球十大人工智能治理事件。

這些事件，反映著人工智能治理領(lǐng)域?qū)嵺`探索和前沿趨勢(shì)，反映著新一代人工智能技術(shù)的廣泛應(yīng)用前景，反映著公眾對(duì)人工智能治理，引導(dǎo)科技向善，助力政府、機(jī)構(gòu)、企業(yè)的多層次、多樣化參與，通過新一代信息技術(shù)的良性發(fā)展增進(jìn)人類福祉、改善民生的熱切期待。

助手還是殺手？讀懂人類意識(shí)的AI還是擁有自主意識(shí)的AI？關(guān)系人類福祉的人工智能，要走“邊發(fā)展邊治理”的新模式

人工智能這一概念，自1956年美國(guó)達(dá)特茅斯會(huì)議提出至今，經(jīng)歷了漫長(zhǎng)的野蠻生長(zhǎng)初生階段?；艚鹛岢觯?ldquo;人工智能也有可能是人類文明史的終結(jié)，除非我們學(xué)會(huì)如何避免危險(xiǎn)”；馬斯克認(rèn)為，人工智能的“風(fēng)險(xiǎn)大得多”，并且這是“威脅人類文明存在的根本性風(fēng)險(xiǎn)”。近年來，伴隨無人駕駛、人臉識(shí)別、智能語音等人工智能技術(shù)的廣泛應(yīng)用，以及基于深度學(xué)習(xí)、跨界融合、人機(jī)協(xié)同、群智開放、自主操控為特征的新一代人工智能技術(shù)發(fā)展的第三次浪潮來臨，對(duì)于人工智能治理的討論再次被社會(huì)各界廣泛提及。

中國(guó)互聯(lián)網(wǎng)飛速發(fā)展近30年，相關(guān)專家總結(jié)互聯(lián)網(wǎng)治理的經(jīng)驗(yàn)教訓(xùn)時(shí)，認(rèn)為過去我們的治理模式之一就是“先發(fā)展后治理”，即先“摸著石頭過河”，待問題出現(xiàn)或者積累到一定程度，再進(jìn)行專項(xiàng)治理并建立規(guī)范。然而人工智能在我國(guó)的爆發(fā)式發(fā)展所具備的新特征更為明顯：一是政策支持和重視程度更高；二是與社會(huì)資本的結(jié)合度更高；三是原本已成規(guī)模的互聯(lián)網(wǎng)企業(yè)紛紛涉足人工智能領(lǐng)域；四是技術(shù)基礎(chǔ)、產(chǎn)業(yè)基礎(chǔ)及經(jīng)濟(jì)社會(huì)發(fā)展需求更為強(qiáng)烈。這些因素都直接決定了人工智能治理不可能重復(fù)互聯(lián)網(wǎng)治理的老路，對(duì)治理結(jié)構(gòu)、治理路徑和治理范圍都提出了更多、更新的挑戰(zhàn)，也需要我們以更具創(chuàng)造性的理念來應(yīng)對(duì)。

本次十大事件評(píng)選中，涉及人工智能與人類福祉、公平正義的事件受到的關(guān)注度最高，如通過算法黑箱侵犯外賣小哥利益的事件“AI成‘監(jiān)工’：算法下外賣騎手挑戰(zhàn)交通規(guī)則，‘助手’可能變‘殺手’”（排名第1，得票率51.20%）；以及假借人工智能技術(shù)進(jìn)行違法行為的事件“湖南岳陽警方破獲AI犯罪案，技術(shù)犯罪仍要懲罰人”（排名第9，得票率48.75%）。國(guó)際方面，最受關(guān)注的是人工智能技術(shù)突破現(xiàn)有邊界，有可能對(duì)人類福祉造成不良影響的事件，如：“人工智能可以翻譯大腦想法將大腦信號(hào)轉(zhuǎn)化為文本數(shù)據(jù)，‘讀懂意識(shí)’讓隱私無處遁藏”（排名第2，得票率50.09%）；“人工智能技術(shù)突破現(xiàn)有邊界，具備‘自主意識(shí)’，可實(shí)現(xiàn)獨(dú)立研發(fā)、自我修復(fù)等功能”（排名第8，得票率48.75%）。

黨的十九屆四中全會(huì)《決定》提出，“健全科技倫理治理體制”。將健全科技倫理治理體制作為推進(jìn)國(guó)家治理體系現(xiàn)代化的重要組成部分，是以習(xí)近平同志為核心的黨中央在全球范圍新一輪科技革命和產(chǎn)業(yè)變革蓬勃興起、人類發(fā)展面臨前所未有的新機(jī)遇和新挑戰(zhàn)的歷史時(shí)刻作出的重大部署，對(duì)于克服科技領(lǐng)域存在的倫理問題、促進(jìn)我國(guó)科技事業(yè)健康發(fā)展，具有重要意義。

發(fā)展負(fù)責(zé)任的人工智能并非一國(guó)之責(zé)，而是全球之事；人工智能治理亟需建立國(guó)際共識(shí)，探索協(xié)同共治新模式

據(jù)有關(guān)機(jī)構(gòu)預(yù)測(cè)，2030年，人工智能將帶動(dòng)全球GDP增長(zhǎng)14%；其中，最大的收益將來自中國(guó)與北美，總計(jì)將高達(dá)10.7萬億美元，占全球經(jīng)濟(jì)影響的近70%。如此巨大的經(jīng)濟(jì)體量，若失去法律、道德和倫理的約束，有可能造成不可逆轉(zhuǎn)的負(fù)面影響。本次調(diào)查中，全球性、地區(qū)性及各國(guó)涉及法律、倫理、道德規(guī)范建設(shè)的事件得到了專家和公眾的廣泛關(guān)注，如“歐美、韓國(guó)相繼出臺(tái)AI治理新規(guī)，嚴(yán)格限制、甚至禁用相關(guān)人工智能技術(shù)在某些場(chǎng)景的發(fā)展和應(yīng)用”（排名第4，得票率49.73%）等。此外，西方國(guó)家推動(dòng)人工智能在軍事領(lǐng)域的使用也受到廣泛關(guān)注，“人工智能首次控制美國(guó)軍用系統(tǒng)，或?qū)㈤_啟算法戰(zhàn)新時(shí)代”（排名第10，得票率48.22%）這一事件受到案例評(píng)審專家的多次提及。清華大學(xué)人工智能國(guó)際治理研究院名譽(yù)院長(zhǎng)傅瑩指出：“既然人工智能武器化不可避免，專家們研究的方向應(yīng)是尋找合適的治理路徑”。

上海交通大學(xué)文科資深教授、中國(guó)法與社會(huì)研究院季衛(wèi)東院長(zhǎng)認(rèn)為，當(dāng)今世界面臨著圍繞人工智能和數(shù)據(jù)的國(guó)際規(guī)則的博弈，中國(guó)在全球化時(shí)代和數(shù)字經(jīng)濟(jì)轉(zhuǎn)型過程中相對(duì)處于比較領(lǐng)先的位置。但由于我們過去對(duì)人工智能治理重視程度不夠，導(dǎo)致人工智能產(chǎn)品、產(chǎn)業(yè)在“走出去”的過程中，往往會(huì)在歐美國(guó)家遇到限制或指責(zé)，有些問題的確可以促進(jìn)我國(guó)產(chǎn)品、技術(shù)、規(guī)范的進(jìn)步，但我們也要學(xué)習(xí)適當(dāng)?shù)?、巧妙地利用?guī)則來維護(hù)國(guó)家和企業(yè)的合法權(quán)益。同時(shí)也要注意到不同國(guó)家人工智能治理模式的區(qū)別，比如美國(guó)強(qiáng)調(diào)人工智能企業(yè)的商業(yè)利益與企業(yè)在競(jìng)爭(zhēng)中保持優(yōu)勢(shì)地位；歐盟則強(qiáng)調(diào)公民權(quán)利保障及在該前提下的規(guī)則博弈；中國(guó)在上述兩個(gè)方面都有所涉及。

當(dāng)前，我國(guó)正在積極融入人工智能全球治理體系，盡管偶有逆流和阻撓，但依然肩負(fù)起了一個(gè)負(fù)責(zé)任大國(guó)應(yīng)肩負(fù)的責(zé)任，在人工智能全球治理中積極貢獻(xiàn)自己的智慧和經(jīng)驗(yàn)。目前的基本共識(shí)是人工智能的治理體系需要“柔性的倫理”和“硬性的法律”共同構(gòu)建，更需要各個(gè)國(guó)家、國(guó)際組織、行業(yè)組織、企業(yè)、公眾的多元主體參與，倫理、技術(shù)、規(guī)范、立法等治理舉措齊頭并進(jìn)的協(xié)同共治模式。

從頂層設(shè)計(jì)方面實(shí)施國(guó)家規(guī)劃并確定立法步驟。2017年，國(guó)務(wù)院印發(fā)了《新一代人工智能發(fā)展規(guī)劃》，隨后，工信部印發(fā)了《促進(jìn)新一代人工智能產(chǎn)業(yè)發(fā)展三年行動(dòng)計(jì)劃（2018—2020年）》，對(duì)人工智能倫理道德、法律政策提出了明確要求。要秉持“一張藍(lán)圖繪到底”的精神，根據(jù)規(guī)劃要求實(shí)施人工智能法律政策“三步走”：到2020年，部分領(lǐng)域的人工智能倫理規(guī)范和政策法規(guī)初步建立；到2025年，初步建立人工智能法律法規(guī)、倫理規(guī)范和政策體系，形成人工智能安全評(píng)估和管控能力：到2030年，建成更加完善的人工智能法律法規(guī)、倫理規(guī)范和政策體系。

積極從全球治理角度凝聚人工智能倫理共識(shí)。2019年5月《人工智能北京共識(shí)》發(fā)布，針對(duì)人工智能的研發(fā)、使用、治理三方面，提出了各個(gè)參與方應(yīng)該遵循的有益于人類命運(yùn)共同體構(gòu)建和社會(huì)發(fā)展的15條原則。我國(guó)還鼓勵(lì)不同層次主體圍繞科技向善等核心倫理價(jià)值，擬定評(píng)價(jià)規(guī)則，構(gòu)建人工智能的評(píng)估評(píng)價(jià)體系。一方面，引導(dǎo)人工智能健康持續(xù)發(fā)展，通過產(chǎn)業(yè)發(fā)展反哺人工智能治理領(lǐng)域法律法規(guī)等規(guī)則的建立健全；另一方面，借助人工智能等現(xiàn)代信息技術(shù)手段全面提升治理能力和治理現(xiàn)代化水平。2019年11月，習(xí)近平總書記在《關(guān)于<中共中央關(guān)于堅(jiān)持和完善中國(guó)特色社會(huì)主義制度推進(jìn)國(guó)家治理體系和治理能力現(xiàn)代化若干重大問題的決定>的說明》中指出：更加重視運(yùn)用人工智能、互聯(lián)網(wǎng)、大數(shù)據(jù)等現(xiàn)代信息技術(shù)手段提升治理能力和治理現(xiàn)代化水平。

清華大學(xué)發(fā)布的相關(guān)領(lǐng)域研究報(bào)告顯示，在人工智能領(lǐng)域，中國(guó)在科技產(chǎn)出與人才投入、產(chǎn)業(yè)發(fā)展和市場(chǎng)應(yīng)用、發(fā)展戰(zhàn)略和政策環(huán)境等方面表現(xiàn)亮眼，特別是論文總量和高被引論文數(shù)量、專利數(shù)量均排名世界第一，企業(yè)數(shù)量全球第二。2019年6月，《亞太及日本企業(yè)人工智能倫理道德研究》報(bào)告顯示，中國(guó)企業(yè)在運(yùn)用人工智能指導(dǎo)方針及管理標(biāo)準(zhǔn)方面位居亞洲前列。這些成績(jī)的取得，與我國(guó)對(duì)人工智能“先行一步”的態(tài)度與積極主動(dòng)地發(fā)展先進(jìn)技術(shù)密不可分。

企業(yè)加強(qiáng)自律與內(nèi)省是負(fù)責(zé)任的第一步，作為技術(shù)創(chuàng)造者，企業(yè)應(yīng)成為AI治理中的重要力量

企業(yè)不僅是技術(shù)的創(chuàng)造者，更是技術(shù)應(yīng)用的決斷者、技術(shù)價(jià)值的設(shè)計(jì)者。企業(yè)價(jià)值觀與行為，將直接影響技術(shù)為人類社會(huì)帶來的改變。因此，企業(yè)是AI治理中決不能缺席的力量。AI治理是企業(yè)發(fā)展的必選項(xiàng)，而不是錦上添花。

但是目前，全球AI治理尚未形成統(tǒng)一標(biāo)準(zhǔn)與成熟路徑。各國(guó)法律法規(guī)、標(biāo)準(zhǔn)規(guī)范各異，且落后于企業(yè)的商業(yè)實(shí)踐，因此，企業(yè)自律成為有責(zé)任感、有長(zhǎng)遠(yuǎn)發(fā)展意識(shí)的AI企業(yè)的首要準(zhǔn)則。企業(yè)邁出自律的第一步，對(duì)AI行業(yè)整體發(fā)展來說就是重大進(jìn)步。

縱觀近年來人工智能治理領(lǐng)域內(nèi)的爭(zhēng)議事件，與人工智能頭部企業(yè)相關(guān)的事件不勝枚舉，尤其在2020年，國(guó)際科技巨頭、中國(guó)領(lǐng)先科技企業(yè)都開始加速企業(yè)行動(dòng)，提出企業(yè)自律措施。本次調(diào)查中，與企業(yè)AI治理相關(guān)的事件有“美國(guó)科技巨頭依據(jù)自身道德判斷，加強(qiáng)企業(yè)自律及對(duì)人工智能技術(shù)的監(jiān)管”，排名第6，得票率49.55%；“自動(dòng)駕駛服務(wù)駛上快車道，‘無人車’行駛背后的權(quán)責(zé)歸屬引關(guān)注”，排名第7，得票率48.89%。

人工智能的“自我進(jìn)化”會(huì)隨著相關(guān)技術(shù)研究的深入而越來越高，需要對(duì)技術(shù)發(fā)展中可能存在的風(fēng)險(xiǎn)與不確定性進(jìn)行準(zhǔn)確判斷，更需要來自研究機(jī)構(gòu)或前沿科技企業(yè)等專業(yè)力量的支持，以確保科技治理的有效性。中外前沿科技企業(yè)在人工智能治理中扮演著重要角色，頭部企業(yè)對(duì)人工智能治理實(shí)踐探索與理論研究的深度參與，為AI向善提供了重要指針。正如曠視副總裁蔣燕所言，“企業(yè)不能缺席人工智能治理，行勝于言，企業(yè)要將人工智能治理的每一步都落實(shí)到工作中”。2020年，AI企業(yè)曠視在AI治理上進(jìn)行了更為深入的學(xué)術(shù)研究、探索并成功運(yùn)行企業(yè)嵌入式治理模式。

上述事件背后與之緊密相關(guān)的看似是企業(yè)，卻不僅僅是孤立的企業(yè)個(gè)體行為，政府、社會(huì)、研發(fā)人員都在其中發(fā)揮重大作用。企業(yè)是AI治理重要的承載方和落地執(zhí)行者，更多企業(yè)的加入可以更為有效的落地法律法規(guī)。科研人員是人工智能的“技術(shù)源頭”，在絕大多數(shù)情況下可以從源頭上對(duì)人工智能的行為與能力進(jìn)行限制。2018年10月，在中共中央政治局就人工智能發(fā)展現(xiàn)狀和趨勢(shì)舉行第九次集體學(xué)習(xí)時(shí)，習(xí)近平總書記指出，“要加強(qiáng)基礎(chǔ)理論研究，支持科學(xué)家勇闖人工智能科技前沿的‘無人區(qū)’，努力在人工智能發(fā)展方向和理論、方法、工具、系統(tǒng)等方面取得變革性、顛覆性突破，確保我國(guó)在人工智能這個(gè)重要領(lǐng)域的理論研究走在前面、關(guān)鍵核心技術(shù)占領(lǐng)制高點(diǎn)”。

AI應(yīng)回歸初心，為更美好的人類社會(huì)而生；人類應(yīng)以更大的善意擁抱AI，與向善的AI和諧共處

當(dāng)前社會(huì)上關(guān)于是否需要賦予人工智能法律主體地位，以及對(duì)于人工智能創(chuàng)造出來的作品或產(chǎn)品，其是否擁有著作權(quán)或受到知識(shí)產(chǎn)權(quán)保護(hù)等問題存在諸多討論。“全國(guó)首例：法院認(rèn)定人工智能生成文章構(gòu)成作品，擁有著作權(quán)”，在本次評(píng)選中排名第3，得票率49.78%。這一標(biāo)志性事件，為今后應(yīng)對(duì)此類問題提供了參考樣本。

特別值得一提的是，公眾對(duì)AI與民生相關(guān)的問題高度關(guān)心，“AI向善，技術(shù)預(yù)警獨(dú)居老人水表及校園暴力行為”，排名第5，得票率49.69%，這一事件引發(fā)了很多網(wǎng)友的討論?！缎乱淮斯ぶ悄苤卫碓瓌t——發(fā)展負(fù)責(zé)任的人工智能》突出了發(fā)展負(fù)責(zé)任的人工智能這一主題，強(qiáng)調(diào)了和諧友好、公平公正、包容共享、尊重隱私、安全可控、共擔(dān)責(zé)任、開放協(xié)作、敏捷治理等八項(xiàng)原則。在該原則指引下，我們會(huì)發(fā)現(xiàn)AI技術(shù)的“初心”——讓人類擁有更加美好的生活。中國(guó)特色社會(huì)主義進(jìn)入新時(shí)代，我國(guó)社會(huì)主要矛盾已經(jīng)轉(zhuǎn)化為人民日益增長(zhǎng)的美好生活需要和不平衡不充分的發(fā)展之間的矛盾。日益增長(zhǎng)的美好生活需要科技助力，更需要科技向善的力量。

在全球化浪潮下，人類命運(yùn)共同體正在加速構(gòu)建，在人工智能及其他領(lǐng)域的治理中，沒有國(guó)家可以獨(dú)善其身，亦沒有任何一個(gè)社會(huì)主體能作壁上觀。在此，我們發(fā)出三點(diǎn)呼吁：

全球?qū)υ捝?，我們希望各?guó)能夠展開更加積極地對(duì)話，在AI治理上達(dá)成廣泛共識(shí)，構(gòu)建并推動(dòng)既符合全球人類福祉又符合各個(gè)國(guó)家特色發(fā)展的人工智能治理框架，形成多維度、多層次、多主題的協(xié)同共治模式。

企業(yè)責(zé)任上，企業(yè)不僅是技術(shù)的創(chuàng)造者，同時(shí)也是技術(shù)的自省者。希望越來越多的企業(yè)，能夠積極參與到AI治理中來，實(shí)現(xiàn)企業(yè)實(shí)踐與學(xué)術(shù)研究更加緊密的結(jié)合，實(shí)現(xiàn)新治理模式的有效落地。

社會(huì)認(rèn)知上，AI這一關(guān)乎每個(gè)人生活的前沿技術(shù)，需要社會(huì)大眾更加理性地關(guān)注與看待。希望創(chuàng)造更加良性的公眾反饋機(jī)制與輿論環(huán)境，實(shí)現(xiàn)AI可持續(xù)發(fā)展。

AI技術(shù)作為推動(dòng)人類社會(huì)可持續(xù)發(fā)展的使能技術(shù)，為社會(huì)帶來的改變還存在很大空間。與此同時(shí)，AI產(chǎn)業(yè)自身的可持續(xù)發(fā)展之路，也是漫長(zhǎng)且充滿艱辛。我們必須合力并進(jìn)，才能實(shí)現(xiàn)共贏共享。AI時(shí)代，為了構(gòu)建更好的人類命運(yùn)共同體，我們?nèi)孕璨恍概Γ?/p>

責(zé)編：李 懿 / 賀勝蘭

聲明：本文為《國(guó)家治理》周刊原創(chuàng)內(nèi)容，任何單位或個(gè)人轉(zhuǎn)載請(qǐng)回復(fù)國(guó)家治理周刊微信號(hào)獲得授權(quán)，轉(zhuǎn)載時(shí)務(wù)必標(biāo)明來源及作者，否則追究法律責(zé)任。