本次人民智庫與曠視AI治理研究院成立聯(lián)合課題組，共同開展了“2020年度全球十大人工智能治理事件”評選活動。這次的評選從四大維度：AI與人類福祉、AI與公平正義、AI企業(yè)治理、AI系統(tǒng)安全性與數(shù)據(jù)隱私安全對候選事件進行了篩選，旨在以更全面，更中立的視角為各界提供一份AI治理問題優(yōu)先級的排序，我認(rèn)為這是一次非常有意義的嘗試。
曠視作為一家人工智能的企業(yè)，在這次評選中更多是站在企業(yè)的角度，從相關(guān)度和落地實踐來思考問題。具體來說，我們會從三個角度來看候選事件：一是看事件是否具有普遍性。這個普遍性不但指行業(yè)普遍性，還有地域與文化的普遍性。雖然倫理與文化高度相關(guān)，但是背后折射出來的底層邏輯在海內(nèi)外都是相通的，具有共通性的重要問題應(yīng)該被特別關(guān)注。二是看影響性。有些治理事件是單點事件，而且適用范圍窄，對于企業(yè)來說，其影響是有限的；但是許多治理事件具有廣泛性，系統(tǒng)性和動態(tài)性的特點。企業(yè)面臨的治理問題更加復(fù)雜，同時，不作為的影響也將超出單個企業(yè)的范疇。三是看緊迫性。隨著AI治理研究的不斷深化，大家已經(jīng)達成一個共識。那就是，對于人工智能這樣的產(chǎn)業(yè)，我們不能延續(xù)過去“先發(fā)展，后治理”的傳統(tǒng)技術(shù)治理道路，但是如何能夠在一個技術(shù)商業(yè)化早期就平衡好發(fā)展與治理之間的關(guān)系，這背后的考量標(biāo)準(zhǔn)之一就是緊迫性。當(dāng)有些倫理擔(dān)憂已經(jīng)上升到倫理風(fēng)險的高度，各界應(yīng)該盡快行動。對于企業(yè)來說，針對短期風(fēng)險的提前合規(guī)準(zhǔn)備和針對長期風(fēng)險的戰(zhàn)略調(diào)整應(yīng)該并行。我們在這次梳理重大事件的過程中也對于緊迫性高的事件給予了更多關(guān)注。
人工智能技術(shù)作為推動社會可持續(xù)發(fā)展的使能技術(shù)，在使社會效率提升、促進企業(yè)發(fā)展、釋放人類更多潛能的同時，也因它的廣泛性和不可解釋性，引發(fā)了爭議和思考。本次十大事件中，有些案例就體現(xiàn)了新的技術(shù)突破可能會引起的AI倫理風(fēng)險。因此，我們需要在人工智能技術(shù)還處于早期探索的時侯，就通過企業(yè)內(nèi)部的監(jiān)督和審核機制，對技術(shù)的發(fā)展方向加以研究和控制，讓其朝著對社會有益的、正向的方向發(fā)展。
在技術(shù)發(fā)展過程中，我們經(jīng)常會遇到三個挑戰(zhàn)：第一是大眾對于人工智能的技術(shù)和產(chǎn)品存在嚴(yán)重的認(rèn)知不足。如果此時又缺少正確的引導(dǎo)和對話機制，誤解就會演化為負(fù)面認(rèn)知，從而對人工智能產(chǎn)業(yè)的發(fā)展造成不利影響。第二個問題是人工智能的倫理問題落到企業(yè)語境下要成為可執(zhí)行的企業(yè)治理問題，而這個過程是一個典型的交叉學(xué)科范疇。其中涉及技術(shù)，哲學(xué)，經(jīng)濟，法律，社會學(xué)等多門學(xué)科。在一個多元語境下，如何以多方參與的形式來推動企業(yè)的發(fā)展，這種運用綜合手段的能力，對于企業(yè)來說是個巨大考驗。三是我們發(fā)現(xiàn)許多新產(chǎn)生的問題目前還沒有得到人們的普遍共識，更缺少專門的深度研究。這造成了在AI治理的領(lǐng)域，問題遠(yuǎn)遠(yuǎn)大于答案。這是曠視為什么成立了AI治理研究院的初衷。我們希望通過十大事件反映出來的問題，與研究機構(gòu)和專家聚焦幾個問題，用深度調(diào)研和實證的方式，尋找各方認(rèn)可的答案。
綜上所述，我認(rèn)為在企業(yè)內(nèi)部落實AI治理需要一手拿著“望遠(yuǎn)鏡”，一手拿著“顯微鏡”。“望遠(yuǎn)鏡”幫助企業(yè)看到技術(shù)演進的過去與未來，看到國內(nèi)和國外，在思考問題時能夠捕捉中外文化與思維方式的差異，在解決問題時能夠廣泛運用各個學(xué)科的綜合知識，因此“廣”和“遠(yuǎn)”很重要。而“顯微鏡”是指，雖然所有的問題及其影響都在演進，但演進的速度是不一樣的，有些話題更具緊迫行。這就需要我們用“顯微鏡”將這些緊迫的問題加以放大，仔細(xì)研究，厘清問題中盤根錯節(jié)的原由，快速形成解套的機制或共識，為人工智能技術(shù)的發(fā)展方向和社會矛盾的解決之道積累寶貴的經(jīng)驗財富。企業(yè)只有充分發(fā)揮“望遠(yuǎn)鏡”和“顯微鏡”的綜合作用，才能把握正確的發(fā)展方向，真正實現(xiàn)用人工智能技術(shù)造福大眾。
（作者為曠視首席發(fā)展官、曠視 AI 治理研究院院長，本文根據(jù)作者在2021年1月14日“2020 全球 AI 治理十大事件專家內(nèi)部研討會”上的發(fā)言整理）
