4. 歐美、韓國相繼出臺AI治理新規(guī)，嚴(yán)格限制、甚至禁用相關(guān)人工智能技術(shù)在某些場景的發(fā)展和應(yīng)用

得票率：49.73%

案例描述：

歐盟委員會發(fā)布《人工智能白皮書》，希望通過不斷實(shí)現(xiàn)科學(xué)突破，維護(hù)歐盟的技術(shù)領(lǐng)先地位并確保新技術(shù)在尊重人權(quán)的基礎(chǔ)上，改善人們生活。當(dāng)前歐洲采取了一致的方法來應(yīng)對AI對人類和社會道德的影響，并思考了如何利用大數(shù)據(jù)進(jìn)行創(chuàng)新。歐盟正在考慮禁止在公共場所使用人臉識別技術(shù)長達(dá)五年，以便有時(shí)間研究如何防止這種技術(shù)被濫用。歐盟委員會表示，在為期3至5年的禁令期間，“可以確定和制定評估這一技術(shù)的影響和可能的風(fēng)險(xiǎn)管理措施的健全方法”。歐盟文件稱，對于安全項(xiàng)目以及科技研發(fā)活動，禁令可能會有例外。該文件還建議，對人工智能的開發(fā)者和用戶都施加一些義務(wù)，歐盟國家的政府應(yīng)該指定監(jiān)管機(jī)構(gòu)來監(jiān)管新規(guī)則。

韓國科學(xué)技術(shù)信息通信部2020年11月27日與情報(bào)通信政策研究院（KISDI）共同發(fā)布“國家人工智能倫理標(biāo)準(zhǔn)”，提出理想的人工智能開發(fā)和運(yùn)用方向，指出人工智能需以人為中心。在開發(fā)和運(yùn)用人工智能的過程中，需遵守維護(hù)人的尊嚴(yán)、社會公益和技術(shù)合乎目的這3大原則。

此外，美國東海岸城市波士頓通過了禁止面部識別技術(shù)用于市政用途的投票。這是自2019年5月舊金山頒布此項(xiàng)禁令以來，采用此項(xiàng)禁令的第二大美國城市。該法令獲得一致通過，這條法令將阻止城市使用面部識別技術(shù)或獲得使用該技術(shù)進(jìn)行監(jiān)視的軟件。此后，俄勒岡州波特蘭、緬因州波特蘭也均通過了類似禁令以限制該技術(shù)在政府部門的應(yīng)用。（來源：綜合鳳凰網(wǎng)等）

專家點(diǎn)評：

薛瀾 清華大學(xué)人工智能國際治理研究院院長

人工智能治理的核心要素中基本價(jià)值觀、治理體系、參與者、治理對象以及效果評價(jià)五個(gè)方面至關(guān)重要。很多治理問題可以通過技術(shù)本身來解決，目前人工智能發(fā)展面臨的最大挑戰(zhàn)是：人工智能技術(shù)發(fā)展太快，而治理準(zhǔn)則作為一種社會體系，其發(fā)展有其程序，又是緩慢的，因此，我們需要“敏捷治理”。

人工智能可以學(xué)習(xí)已有的國際機(jī)制，未來不斷加強(qiáng)AI領(lǐng)域的國際合作，我們可以在合作過程中找到各方的共同點(diǎn)，并不斷探討、溝通，一同尋找人工智能共同的準(zhǔn)則和規(guī)則，引導(dǎo)人工智能的健康發(fā)展，為人類造福。

徐云程 曠視首席發(fā)展官、曠視 AI 治理研究院院長

這個(gè)案例非常重要。2020年談到人臉識別技術(shù)，大多是負(fù)面消息，AI治理似乎不是一個(gè)“為善”問題，而是帶有風(fēng)險(xiǎn)的問題。隨著技術(shù)的發(fā)展，人們逐漸意識到了技術(shù)的一些風(fēng)險(xiǎn)。但值得注意的是，當(dāng)輿論一邊倒時(shí)，對于技術(shù)的一刀切其實(shí)有待考慮，也要思考?xì)W盟和美國所做決定的合理性以及是否應(yīng)該仿效。對于在全世界范圍內(nèi)人臉識別技術(shù)的應(yīng)用場景與其背后的人類福祉、安全隱私等問題，大家在沒有進(jìn)行深入探討的情況下，不應(yīng)過分否定。同時(shí)也應(yīng)考慮，人臉識別技術(shù)只是深度學(xué)習(xí)相對成型和商業(yè)應(yīng)用比較廣泛的一類技術(shù)，在新技術(shù)不斷成熟的過程中，我們應(yīng)該用怎樣的方法來解決不斷涌現(xiàn)出的新問題。個(gè)人希望，人臉識別技術(shù)能夠?yàn)槿斯ぶ悄軙r(shí)代打造一個(gè)樣本，即在面對新出現(xiàn)的倫理問題時(shí)，不因噎廢食，同時(shí)又能建設(shè)性地解決問題。中國的人臉識別技術(shù)如果能走出這條路，對于我們在全球范圍內(nèi)提出“中國觀點(diǎn)”是很有幫助的。

孫明 俊中關(guān)村智用人工智能研究院執(zhí)行院長、中視科技CEO

面部識別作為自動化分析的代表性應(yīng)用，在政府部門的應(yīng)用中與現(xiàn)有的發(fā)達(dá)國家的法律制度有很大的不兼容性。首先，公眾“棱鏡門”丑聞再次出現(xiàn)的警惕。2007年美國國家安全局啟動的網(wǎng)絡(luò)監(jiān)控計(jì)劃“棱鏡（PRISM）”將任何涉外通訊列為監(jiān)聽對象。2013年該項(xiàng)目由美國特工愛德華斯諾登曝出。“棱鏡門”直接使得歐洲美國之間的個(gè)人數(shù)據(jù)流通協(xié)議作廢，并增加了美國公民對政府的不信任。其次，隱私權(quán)，即公權(quán)力無權(quán)侵入私人生活，是美國公民和歐盟公民最重要的憲法權(quán)利。面部識別，結(jié)合云計(jì)算，具備的強(qiáng)大分析功能，可能會使公權(quán)力完整記錄私人行蹤的軌跡成為可能。歐盟法院曾經(jīng)在“數(shù)字權(quán)利愛爾蘭”一案中，將政府的大范圍數(shù)據(jù)分析裁定為非法。最后，面部識別在公權(quán)力的應(yīng)用是否符合人類中心原則是模糊的。歐盟、日本、韓國和電氣電子工程師學(xué)會（美國）的人工智能文件中都提到了人工智能開發(fā)的人類中心原則，人工智能開發(fā)應(yīng)以增進(jìn)人類福祉為目的。但基于統(tǒng)計(jì)方法的面部識別技術(shù)在公權(quán)力，尤其是行政機(jī)關(guān)，的應(yīng)用很可能將機(jī)器凌駕于人之上。