人民智庫 曠視AI治理研究院  |  聯(lián)合發(fā)布

2020年度全球十大人工智能治理事件及變革趨勢前瞻

當(dāng)前，新一代人工智能技術(shù)正在全球范圍內(nèi)蓬勃興起，與大數(shù)據(jù)、區(qū)塊鏈、5G等新技術(shù)相互融合、相互因應(yīng)，為經(jīng)濟(jì)社會發(fā)展尤其是數(shù)字經(jīng)濟(jì)發(fā)展注入新動能，正在深刻改變著人類的生產(chǎn)生活方式。與此同時，如何在新技術(shù)變革浪潮中始終立于主動，實現(xiàn)人工智能等前沿科技領(lǐng)域有效治理，確保其持續(xù)健康發(fā)展，也成為國際國內(nèi)、社會各界廣泛關(guān)注的重要現(xiàn)實問題、重大時代議題。

黨的十八大以來，以習(xí)近平同志為核心的黨中央高度重視前沿科技領(lǐng)域發(fā)展與治理，中央政治局就人工智能、區(qū)塊鏈、量子科技等新技術(shù)領(lǐng)域相關(guān)問題分別進(jìn)行集體學(xué)習(xí)。習(xí)近平總書記高度重視新一代人工智能發(fā)展與治理，提出“要深刻認(rèn)識加快發(fā)展新一代人工智能的重大意義，加強(qiáng)領(lǐng)導(dǎo)，做好規(guī)劃，明確任務(wù)，夯實基礎(chǔ)，促進(jìn)其同經(jīng)濟(jì)社會發(fā)展深度融合，推動我國新一代人工智能健康發(fā)展”。

剛剛過去的2020年，波瀾壯闊、極不平凡。“兩個一百年”目標(biāo)歷史交匯，中華民族偉大復(fù)興戰(zhàn)略全局與世界百年未有之大變局相互激蕩、相互作用，新冠肺炎疫情仍在多國肆虐，人工智能在疫情防控、社會治理、國際協(xié)作等多個領(lǐng)域發(fā)揮重要作用，新一代人工智能技術(shù)發(fā)展取得諸多重大成果，世界各國積極探索與人工智能發(fā)展相適應(yīng)的治理路徑，出現(xiàn)諸多具有標(biāo)志性意義、可能產(chǎn)生深遠(yuǎn)影響的重要事件。對這些事件進(jìn)行梳理總結(jié)、深入研究，有助于深化對人工智能治理規(guī)律的認(rèn)識，有助于更精準(zhǔn)把握人工智能技術(shù)、產(chǎn)業(yè)、生態(tài)發(fā)展趨勢，有助于引發(fā)社會各界就人工智能治理領(lǐng)域關(guān)鍵問題、重點難點進(jìn)行深入思考，形成更廣泛共識。

人工智能治理是復(fù)雜性、系統(tǒng)性很高的社會議題，涵蓋政策、技術(shù)、產(chǎn)業(yè)、法律、傳播、倫理、安全、國際關(guān)系等諸多領(lǐng)域。對國際國內(nèi)人工智能治理標(biāo)志性事件開展研究，也必然需要各界共同推動。為此，人民智庫與曠視AI治理研究院成立聯(lián)合課題組，共同開展“2020年度全球十大人工智能治理事件”遴選、評議，組織相關(guān)領(lǐng)域權(quán)威專家學(xué)者，從AI與公眾福祉、AI與公平正義、AI政府（企業(yè)）治理、AI系統(tǒng)安全性與數(shù)據(jù)隱私安全等四個主要維度出發(fā)，依據(jù)理論價值、實踐價值、新聞價值、研究價值等四個評價標(biāo)準(zhǔn)進(jìn)行評議，并面向社會公眾開展在線問卷調(diào)查，對人工智能產(chǎn)業(yè)領(lǐng)域從業(yè)者，相關(guān)部委、行業(yè)協(xié)會領(lǐng)導(dǎo)專家等典型群體進(jìn)行深入訪談。經(jīng)綜合各方面資料、數(shù)據(jù)、意見、觀點，最終評選出2020年度全球十大人工智能治理事件。

這些事件，反映著人工智能治理領(lǐng)域?qū)嵺`探索和前沿趨勢，反映著新一代人工智能技術(shù)的廣泛應(yīng)用前景，反映著公眾對人工智能治理引導(dǎo)科技向善，助力政府、機(jī)構(gòu)、企業(yè)的多層次、多樣化參與，通過新一代信息技術(shù)的良性發(fā)展增進(jìn)人類福祉、改善民生的熱切期待。

助手還是殺手？讀懂人類意識的AI或者擁有自主意識的AI？關(guān)系人類福祉的人工智能，要走“邊發(fā)展，邊治理”的新模式

人工智能這一概念，自1956年美國達(dá)特茅斯會議提出至今，經(jīng)歷了漫長的野蠻生長初生階段?；艚鹛岢?ldquo;人工智能也有可能是人類文明史的終結(jié)，除非我們學(xué)會如何避免危險”；馬斯克認(rèn)為，人工智能的“風(fēng)險大得多”，并且這是“威脅人類文明存在的根本性風(fēng)險”。近年來，伴隨無人駕駛、人臉識別、智能語音等人工智能技術(shù)的廣泛應(yīng)用，以及基于深度學(xué)習(xí)、跨界融合、人機(jī)協(xié)同、群智開放、自主操控為特征的新一代人工智能技術(shù)發(fā)展的第三次浪潮來臨，對于人工智能治理的討論再次被社會各界廣泛提及。

中國互聯(lián)網(wǎng)飛速發(fā)展近30年，相關(guān)專家總結(jié)互聯(lián)網(wǎng)治理的經(jīng)驗教訓(xùn)時，認(rèn)為過去我們的治理模式之一就是“先發(fā)展，后治理”，即先“摸著石頭過河”，待問題出現(xiàn)或者積累到一定程度，再進(jìn)行專項治理并建立規(guī)范。然而人工智能在我國的爆發(fā)式發(fā)展所具備的新特征更為明顯：一是政策支持和重視程度更高；二是與社會資本的結(jié)合度更高；三是原本已成規(guī)模的互聯(lián)網(wǎng)企業(yè)紛紛涉足人工智能領(lǐng)域；四是技術(shù)基礎(chǔ)、產(chǎn)業(yè)基礎(chǔ)及經(jīng)濟(jì)社會發(fā)展需求更為強(qiáng)烈。這些因素都直接決定了人工智能治理不可能重復(fù)互聯(lián)網(wǎng)治理的老路，對治理結(jié)構(gòu)、治理路徑和治理范圍都提出了更多、更新的挑戰(zhàn)，也需要我們以更創(chuàng)造性的理念來應(yīng)對。

本次十大事件評選中，涉及人工智能與人類福祉、公平正義高度的事件受到的關(guān)注度最高，如通過算法黑箱侵犯外賣小哥利益的事件“AI成‘監(jiān)工’：算法下外賣騎手挑戰(zhàn)交通規(guī)則，‘助手’可能變‘殺手’”（排名第1，得票率51.20%）；以及假借人工智能技術(shù)進(jìn)行違法行為的事件“湖南岳陽警方破獲AI犯罪案，技術(shù)犯罪仍要懲罰人”（排名第9，得票率48.75%）。國際方面，最受關(guān)注的是人工智能技術(shù)突破現(xiàn)有邊界，有可能對人類福祉造成不良影響的事件，如：“人工智能可以翻譯大腦想法將大腦信號轉(zhuǎn)化為文本數(shù)據(jù)，‘讀懂意識’讓隱私無處遁藏”（排名第2，得票率50.09%）；“人工智能技術(shù)突破現(xiàn)有邊界，具備‘自主意識’，可實現(xiàn)獨立研發(fā)、自我修復(fù)等功能”（排名第8，得票率48.75%）。

黨的十九屆四中全會《決定》提出，“健全科技倫理治理體制”。將健全科技倫理治理體制作為推進(jìn)國家治理體系現(xiàn)代化的重要組成部分，是以習(xí)近平同志為核心的黨中央在全球范圍新一輪科技革命和產(chǎn)業(yè)變革蓬勃興起、人類發(fā)展面臨前所未有的新機(jī)遇和新挑戰(zhàn)的歷史時刻作出的重大部署，對于克服科技領(lǐng)域存在的倫理問題、促進(jìn)我國科技事業(yè)健康發(fā)展，具有重要意義。