人民智庫(kù) 曠視AI治理研究院  |  聯(lián)合發(fā)布

2020年度全球十大人工智能治理事件及變革趨勢(shì)前瞻

當(dāng)前，新一代人工智能技術(shù)正在全球范圍內(nèi)蓬勃興起，與大數(shù)據(jù)、區(qū)塊鏈、5G等新技術(shù)相互融合、相互因應(yīng)，為經(jīng)濟(jì)社會(huì)發(fā)展尤其是數(shù)字經(jīng)濟(jì)發(fā)展注入新動(dòng)能，正在深刻改變著人類的生產(chǎn)生活方式。與此同時(shí)，如何在新技術(shù)變革浪潮中始終立于主動(dòng)，實(shí)現(xiàn)人工智能等前沿科技領(lǐng)域有效治理，確保其持續(xù)健康發(fā)展，也成為國(guó)際國(guó)內(nèi)、社會(huì)各界廣泛關(guān)注的重要現(xiàn)實(shí)問(wèn)題、重大時(shí)代議題。

黨的十八大以來(lái)，以習(xí)近平同志為核心的黨中央高度重視前沿科技領(lǐng)域發(fā)展與治理，中央政治局就人工智能、區(qū)塊鏈、量子科技等新技術(shù)領(lǐng)域相關(guān)問(wèn)題分別進(jìn)行集體學(xué)習(xí)。習(xí)近平總書(shū)記高度重視新一代人工智能發(fā)展與治理，提出“要深刻認(rèn)識(shí)加快發(fā)展新一代人工智能的重大意義，加強(qiáng)領(lǐng)導(dǎo)，做好規(guī)劃，明確任務(wù)，夯實(shí)基礎(chǔ)，促進(jìn)其同經(jīng)濟(jì)社會(huì)發(fā)展深度融合，推動(dòng)我國(guó)新一代人工智能健康發(fā)展”。

剛剛過(guò)去的2020年，波瀾壯闊、極不平凡。“兩個(gè)一百年”目標(biāo)歷史交匯，中華民族偉大復(fù)興戰(zhàn)略全局與世界百年未有之大變局相互激蕩、相互作用，新冠肺炎疫情仍在多國(guó)肆虐，人工智能在疫情防控、社會(huì)治理、國(guó)際協(xié)作等多個(gè)領(lǐng)域發(fā)揮重要作用，新一代人工智能技術(shù)發(fā)展取得諸多重大成果，世界各國(guó)積極探索與人工智能發(fā)展相適應(yīng)的治理路徑，出現(xiàn)諸多具有標(biāo)志性意義、可能產(chǎn)生深遠(yuǎn)影響的重要事件。對(duì)這些事件進(jìn)行梳理總結(jié)、深入研究，有助于深化對(duì)人工智能治理規(guī)律的認(rèn)識(shí)，有助于更精準(zhǔn)把握人工智能技術(shù)、產(chǎn)業(yè)、生態(tài)發(fā)展趨勢(shì)，有助于引發(fā)社會(huì)各界就人工智能治理領(lǐng)域關(guān)鍵問(wèn)題、重點(diǎn)難點(diǎn)進(jìn)行深入思考，形成更廣泛共識(shí)。

人工智能治理是復(fù)雜性、系統(tǒng)性很高的社會(huì)議題，涵蓋政策、技術(shù)、產(chǎn)業(yè)、法律、傳播、倫理、安全、國(guó)際關(guān)系等諸多領(lǐng)域。對(duì)國(guó)際國(guó)內(nèi)人工智能治理標(biāo)志性事件開(kāi)展研究，也必然需要各界共同推動(dòng)。為此，人民智庫(kù)與曠視AI治理研究院成立聯(lián)合課題組，共同開(kāi)展“2020年度全球十大人工智能治理事件”遴選、評(píng)議，組織相關(guān)領(lǐng)域權(quán)威專家學(xué)者，從AI與公眾福祉、AI與公平正義、AI政府（企業(yè)）治理、AI系統(tǒng)安全性與數(shù)據(jù)隱私安全等四個(gè)主要維度出發(fā)，依據(jù)理論價(jià)值、實(shí)踐價(jià)值、新聞價(jià)值、研究?jī)r(jià)值等四個(gè)評(píng)價(jià)標(biāo)準(zhǔn)進(jìn)行評(píng)議，并面向社會(huì)公眾開(kāi)展在線問(wèn)卷調(diào)查，對(duì)人工智能產(chǎn)業(yè)領(lǐng)域從業(yè)者，相關(guān)部委、行業(yè)協(xié)會(huì)領(lǐng)導(dǎo)專家等典型群體進(jìn)行深入訪談。經(jīng)綜合各方面資料、數(shù)據(jù)、意見(jiàn)、觀點(diǎn)，最終評(píng)選出2020年度全球十大人工智能治理事件。

這些事件，反映著人工智能治理領(lǐng)域?qū)嵺`探索和前沿趨勢(shì)，反映著新一代人工智能技術(shù)的廣泛應(yīng)用前景，反映著公眾對(duì)人工智能治理引導(dǎo)科技向善，助力政府、機(jī)構(gòu)、企業(yè)的多層次、多樣化參與，通過(guò)新一代信息技術(shù)的良性發(fā)展增進(jìn)人類福祉、改善民生的熱切期待。

助手還是殺手？讀懂人類意識(shí)的AI或者擁有自主意識(shí)的AI？關(guān)系人類福祉的人工智能，要走“邊發(fā)展，邊治理”的新模式

人工智能這一概念，自1956年美國(guó)達(dá)特茅斯會(huì)議提出至今，經(jīng)歷了漫長(zhǎng)的野蠻生長(zhǎng)初生階段?；艚鹛岢?ldquo;人工智能也有可能是人類文明史的終結(jié)，除非我們學(xué)會(huì)如何避免危險(xiǎn)”；馬斯克認(rèn)為，人工智能的“風(fēng)險(xiǎn)大得多”，并且這是“威脅人類文明存在的根本性風(fēng)險(xiǎn)”。近年來(lái)，伴隨無(wú)人駕駛、人臉識(shí)別、智能語(yǔ)音等人工智能技術(shù)的廣泛應(yīng)用，以及基于深度學(xué)習(xí)、跨界融合、人機(jī)協(xié)同、群智開(kāi)放、自主操控為特征的新一代人工智能技術(shù)發(fā)展的第三次浪潮來(lái)臨，對(duì)于人工智能治理的討論再次被社會(huì)各界廣泛提及。

中國(guó)互聯(lián)網(wǎng)飛速發(fā)展近30年，相關(guān)專家總結(jié)互聯(lián)網(wǎng)治理的經(jīng)驗(yàn)教訓(xùn)時(shí)，認(rèn)為過(guò)去我們的治理模式之一就是“先發(fā)展，后治理”，即先“摸著石頭過(guò)河”，待問(wèn)題出現(xiàn)或者積累到一定程度，再進(jìn)行專項(xiàng)治理并建立規(guī)范。然而人工智能在我國(guó)的爆發(fā)式發(fā)展所具備的新特征更為明顯：一是政策支持和重視程度更高；二是與社會(huì)資本的結(jié)合度更高；三是原本已成規(guī)模的互聯(lián)網(wǎng)企業(yè)紛紛涉足人工智能領(lǐng)域；四是技術(shù)基礎(chǔ)、產(chǎn)業(yè)基礎(chǔ)及經(jīng)濟(jì)社會(huì)發(fā)展需求更為強(qiáng)烈。這些因素都直接決定了人工智能治理不可能重復(fù)互聯(lián)網(wǎng)治理的老路，對(duì)治理結(jié)構(gòu)、治理路徑和治理范圍都提出了更多、更新的挑戰(zhàn)，也需要我們以更創(chuàng)造性的理念來(lái)應(yīng)對(duì)。

本次十大事件評(píng)選中，涉及人工智能與人類福祉、公平正義高度的事件受到的關(guān)注度最高，如通過(guò)算法黑箱侵犯外賣(mài)小哥利益的事件“AI成‘監(jiān)工’：算法下外賣(mài)騎手挑戰(zhàn)交通規(guī)則，‘助手’可能變‘殺手’”（排名第1，得票率51.20%）；以及假借人工智能技術(shù)進(jìn)行違法行為的事件“湖南岳陽(yáng)警方破獲AI犯罪案，技術(shù)犯罪仍要懲罰人”（排名第9，得票率48.75%）。國(guó)際方面，最受關(guān)注的是人工智能技術(shù)突破現(xiàn)有邊界，有可能對(duì)人類福祉造成不良影響的事件，如：“人工智能可以翻譯大腦想法將大腦信號(hào)轉(zhuǎn)化為文本數(shù)據(jù)，‘讀懂意識(shí)’讓隱私無(wú)處遁藏”（排名第2，得票率50.09%）；“人工智能技術(shù)突破現(xiàn)有邊界，具備‘自主意識(shí)’，可實(shí)現(xiàn)獨(dú)立研發(fā)、自我修復(fù)等功能”（排名第8，得票率48.75%）。

黨的十九屆四中全會(huì)《決定》提出，“健全科技倫理治理體制”。將健全科技倫理治理體制作為推進(jìn)國(guó)家治理體系現(xiàn)代化的重要組成部分，是以習(xí)近平同志為核心的黨中央在全球范圍新一輪科技革命和產(chǎn)業(yè)變革蓬勃興起、人類發(fā)展面臨前所未有的新機(jī)遇和新挑戰(zhàn)的歷史時(shí)刻作出的重大部署，對(duì)于克服科技領(lǐng)域存在的倫理問(wèn)題、促進(jìn)我國(guó)科技事業(yè)健康發(fā)展，具有重要意義。