摘 要:當前，新一代人工智能技術在全球蓬勃興起。對國際國內人工智能治理標志性事件開展系統(tǒng)研究，有助于規(guī)律性認識人工智能未來發(fā)展趨勢，有助于深層次把握革命性技術對勞動就業(yè)、社會倫理、個人隱私帶來的風險與沖擊，有助于綜合性了解各國政府、學術機構、社會組織、企業(yè)主體等社會各層面、各領域為確保人工智能安全、可靠、可控、可持續(xù)發(fā)展做出的努力，進而以更積極的態(tài)度研判大勢、把握機遇、引領潮流，推動人工智能服務經濟社會發(fā)展和民生福祉改善。

關鍵詞:AI治理 倫理規(guī)范 算法治理 法治化 國際化

【中圖分類號】TP18 【文獻標識碼】A

當前，新一代人工智能技術在全球蓬勃興起，對國際國內人工智能治理標志性事件開展系統(tǒng)研究，有助于以更積極的態(tài)度研判大勢、把握機遇、引領潮流，推動人工智能服務經濟社會發(fā)展和民生福祉改善。為此，人民智庫與曠視AI治理研究院第二次成立聯合課題組，并邀請中國人工智能產業(yè)發(fā)展聯盟（AIIA）為課題支持單位，以《新一代人工智能倫理規(guī)范》中提到的六條原則為遵循，依據理論價值、實踐價值、新聞價值、研究價值等四個評價標準共同開展“2021年度全球十大人工智能治理事件”（以下簡稱“十大事件”）遴選、評議，并對國家相關部委、行業(yè)協會領導、高校院所專家學者以及人工智能產業(yè)領域從業(yè)者等典型群體進行深入訪談。綜合研判，最終得出2021年度全球十大人工智能治理事件和事件背后的發(fā)展趨勢。

十大事件三年考：重點化、國際化、法治化

縱觀2019年至2021年的全球十大人工智能治理事件，可以看到社會各界對AI治理領域高度關注的若干條脈絡線：

人工智能治理的重點領域日漸明晰。基于當前人工智能技術發(fā)展階段和經濟社會生活現實，人臉識別、輔助駕駛、算法推薦作為人工智能應用較廣泛、發(fā)展較迅速、現實意義強、問題矛盾也相對集中的三大重點領域，其輪廓日趨清晰，國際國內人工智能治理的重心、重點和規(guī)則規(guī)范制定出臺也日趨向這三個領域及相關應用場景集中。

人工智能治理領域的國際合作日趨密切。隨著人工智能技術迅猛發(fā)展和世界經濟格局迅速演變，各國普遍認識到，人工智能的有效治理是全球性、全局性議題，沒有一個區(qū)域、國家可以成為“孤島”，也很難在缺乏有效國際共識、協作機制的前提下真正實現人工智能領域的善治。

人工智能治理領域的法治化程度逐步提升。中美歐普遍高度重視人工智能領域立法，逐步實現了人工智能重點領域“有法可依”，重要應用場景均有法律法規(guī)和相關規(guī)則予以規(guī)范，為人工智能技術的可持續(xù)健康發(fā)展奠定了良好法治基礎。與此相應，相關領域司法實踐日趨走向成熟、穩(wěn)定、可預期，成為人工智能治理領域重要“善治”基石。

人工智能治理領域的意識形態(tài)風險挑戰(zhàn)日益成為焦點。世界百年未有之大變局下，大國競爭博弈日趨激烈，人工智能等前沿科技領域競爭趨于白熱化。算法推薦、機器人賬號、社交媒體精準推送等日趨成為人工智能應用熱點，個人信息、經濟社會信息、地理信息安全等問題備受關注，這些都與意識形態(tài)領域安全乃至國家戰(zhàn)略安全息息相關，人工智能治理領域的競爭與國際話語權競爭的聯系日趨緊密，“元宇宙”等新的應用場景還將繼續(xù)加速這一進程。

開啟算法治理元年 建構平衡包容的治理體系

在本次調查中，涉及算法治理的事件受到了專家和公眾的廣泛關注。國內主要事件為“九部委發(fā)文：防止利用算法干擾社會輿論等行為”“網信辦擬規(guī)定不得利用算法控制熱搜，用戶可選擇關閉算法推薦”。國際方面為“美國新提案將賦予社交媒體用戶禁用算法的權利”。

2021年堪稱中國算法治理元年。北京科技大學法學院副教授、國家人工智能倫理與道德標準小組成員張凌寒認為，我國的算法治理體系以信息安全、市場競爭秩序和消費者權益保護為指導思想，2021年的算法綜合治理活動與相關立法，使得我國率先建立了世界上最為完備的囊括數據安全、個人信息保護和算法安全的互聯網治理體系。標志性事件是世界第一部系統(tǒng)性、全面性規(guī)制算法的法律文件《互聯網信息服務算法推薦管理規(guī)定》的出臺。《關于加強互聯網信息服務算法綜合治理的指導意見》宣布我國將在三年內建立算法安全綜合治理格局。綜合來看，歐盟和美國在數據保護立法領域走在了中國之前，算法規(guī)制方面中國則當仁不讓地開世界先河。

法律厘清數據邊界 敏捷治理回應民眾關切

人工智能技術具備卓越的信息處理能力，可以將碎片化的信息進行整合，從而實現信息從“量”到“質”的飛躍。因此，如何有效保護和合理使用信息數據，成為人工智能技術健康發(fā)展面臨的重要課題。對此，我國從司法實踐角度升級法律體系，適應人工智能時代的需要，保障個人信息安全。本次十大事件的評選中，國內涉及保護個人信息安全、規(guī)制個人信息收集的事件關注度最高，如《個人信息保護法》《數據安全法》正式實施，最高法出臺人臉識別新規(guī)等。“人臉識別第一案在浙江省杭州市中級人民法院迎來終審宣判”也受到廣泛關注。在國際方面，“歐盟發(fā)布針對人工智能技術的監(jiān)管法規(guī)草案，呼吁禁止公共場所人臉識別”受關注度最高。

中國信息通信研究院云計算與大數據研究所副所長魏凱分析，2021年，備受關注的《數據安全法》與《個人信息保護法》出臺，與《網絡安全法》共同形成了數據治理法律領域的“三駕馬車”，標志著我國數據安全法律架構已初步搭建完成。在此基礎上，聚焦重點行業(yè)、新興技術的數據安全法律法規(guī)和司法解釋也在2021年密集出臺，充分體現了我國在數據立法方面的前瞻性和創(chuàng)新性。這一系列法律法規(guī)的出臺，為加快培育數據要素市場、保障數字經濟健康發(fā)展奠定了堅實的制度基礎。

清華大學公共管理學院教授、人工智能國際治理研究院副院長梁正認為，人工智能治理已經成為全球共識，且已從理念層面進入到建章立制、落地實施的階段。除了自上而下的建章立制，自下而上的基于應用主體和用戶選擇的參與，也成為人工智能治理的一個重要特點。

剛柔并濟：倫理標準推動科技向善

隨著人工智能技術的快速發(fā)展和廣泛應用，相關倫理問題愈發(fā)受到各界重視。目前，國內外對于人工智能的監(jiān)管措施，覆蓋了“柔性治理”與“剛性條款”，實現了“剛柔并濟”。除了出臺系列針對數據與技術的法律法規(guī)外，對于AI涉及倫理方面的內容也做出規(guī)定。自2017年7月國務院出臺《新一代人工智能發(fā)展規(guī)劃》，到2019年6月，國家新一代人工智能治理專業(yè)委員會發(fā)布《新一代人工智能治理原則——發(fā)展負責任的人工智能》，以及 2021年9月25日，發(fā)布《新一代人工智能倫理規(guī)范》，都在為從事人工智能相關活動的自然人、法人和其他相關機構等提供倫理指引。

聯合國是推動建立全球AI倫理規(guī)范的重要力量。2021年11月，聯合國教科文組織發(fā)布了《人工智能倫理建議書》，這是全球首個針對人工智能倫理制定的規(guī)范框架。此外，世界衛(wèi)生組織(WHO)于2021年6月28日正式發(fā)布了“世界衛(wèi)生組織衛(wèi)生健康領域人工智能倫理與治理指南”。

中國信息通信研究院云計算與大數據研究所何寶宏所長強調，發(fā)布《新一代人工智能倫理規(guī)范》，細化落實《新一代人工智能治理原則》，是我國深化人工智能治理工作的又一重大舉措。人工智能技術以數據、算法為驅動，發(fā)展速度迅猛，正在深刻改變人類的社會生產和生活模式。但人工智能技術的濫用也不斷沖擊社會倫理底線、侵犯個人權益。所以，既要大力發(fā)展人工智能，又要高度重視風險和挑戰(zhàn)，科學處理好發(fā)展和治理的關系，發(fā)展可信的人工智能。

AI增進民生福祉 前沿科技勾勒幸福未來

“自動駕駛汽車2021年或在英國合法化”入圍十大事件，意味著AI技術成熟對人類智能交通、智慧出行福祉的改善受到社會認可。南京大學計算機科學與技術系聶長海教授認為，這是人類邁出的一大步，以此為示范和契機，將會帶動更多無人系統(tǒng)和自治系統(tǒng)的繁榮和發(fā)展。

在國內，關于人工智能技術向善的事件十分令人暖心：AI算法技術在社交網絡上識別并救助有自殺傾向的網友；AI手語主播將全年無休為聽障用戶傳達比賽資訊；AI首次預測氣候。此外，據外媒報道，某技術公司研發(fā)的微芯片裝置有望2022年植入人類大腦，這一技術將為癱瘓者帶來希望。

南京大學科學技術與社會研究所所長潘天群教授認為，在網上“樹洞”進行傾訴是心理障礙者舒緩壓力的一個重要渠道。人工智能技術設計的軟件用于阻止更多意圖自殺的人，公益性強、社會價值巨大，同時也意味著基于網上的資源可以開發(fā)出各種具有公益價值的軟件。

“AI手語主播的應用表明，AI數字人技術可以通過人工智能讓機器用某些情感貫穿的表達方式與面部表情后臺邏輯，在虛擬世界中打造一個真實的助手或者合作伙伴。未來，AI客服、AI經理、AI店長、AI演示員等多種社會角色，或許將陸續(xù)在不同行業(yè)、不同領域‘上崗’，讓人們切實體會到‘人工智能建設的美好世界’。”科大訊飛高級副總裁江濤如是說。

趨勢前瞻：AI為推動人類文明進步正向賦能

中國信息通信研究院副總工程師、中國人工智能產業(yè)發(fā)展聯盟副秘書長王愛華認為，2021年是全球人工智能治理極具實質性突破的一年，呈現出三大發(fā)展特點：治理“趨實”、治理“趨嚴”、治理“趨細”。將抽象的人工智能倫理原則、法律規(guī)范轉化為具體實踐，落實到技術、產品和應用中去，是產業(yè)界亟需加快推進的緊迫工作。

曠視科技聯合創(chuàng)始人兼CEO印奇認為，作為全球科技競爭的關鍵領域，人工智能不只需要在技術創(chuàng)新和應用落地上下工夫，也需要在治理上使力氣。人工智能既是我們創(chuàng)造美好生活的重要手段，也是需要妥善治理的對象。讓人工智能在合法合規(guī)、合情合理的框架下健康發(fā)展，用人工智能造福大眾，離不開所有AI從業(yè)者和社會各界的共同努力。

未來，考察AI治理問題，一是需要增加新型全球化背景下的宏觀考察，于構建人類命運共同體的時代議題之下，考量人工智能對人類文明的推動；更加聚焦前沿科技服務民生和助力公平，增強大眾對AI改善民生福祉、助力幸福未來的期待和信心。二是通過法治手段厘清人工智能的法治倫理邊界。有關部門密切追蹤技術前沿，廣泛吸納意見和建議，對倫理規(guī)范進行科學、動態(tài)制定和調整，引導AI為推動人類文明進步正向賦能。三是更加強調AI治理的國際合作和政產學研合作，對于人工智能治理的問題需要全人類共同面對，相關標準規(guī)范的制定需各方參與、共商共議、交流互鑒。

責編：韓冰曦／美編：石 玉

Artificial Intelligence Governance Moving towards a New Stage and a 

New Pattern

—— Comments on the World’s Top Ten AI Governance Events in 2021

People Think Tank   Megvii AI Governance Research Institute

Abstract: Nowadays, the new-generation artificial intelligence (AI) has emerged and flourished globally. A systematic research on the landmarks of AI in China and other countries is conducive to identifying the trends of AI development, to handling the risks and challenges posed by this revolutionary technology on labor, employment, social ethics, and personal privacy, and to developing a comprehensive understanding of the efforts that social members at multiple levels and in various areas—including governments, academic institutions, social organizations, and corporate entities—have made to ensure the secure, reliable, controllable and sustainable development of the AI. Altogether, this research will promote a more proactive mindset to judge the situation, seize the opportunities, and lead the trends for AI to better serve the economic and social development as well as people’s well-being.

Keywords: AI governance; ethical norms; algorithmic governance; rule of law; internationalization

聲明：本文為《國家治理》周刊原創(chuàng)內容，任何單位或個人轉載請回復國家治理周刊微信號獲得授權，轉載時務必標明來源及作者，否則追究法律責任。