摘 要:近年來，人工智能的快速發(fā)展及其應(yīng)用范圍的不斷擴(kuò)大，不僅對人類生活的豐富多樣提供了更多可能性，也為進(jìn)一步推進(jìn)國家治理體系和治理能力現(xiàn)代化提供了有力的技術(shù)支撐。但同時，也應(yīng)認(rèn)識到，人工智能技術(shù)具有兩面性，其在為人類社會發(fā)展帶來便利、起到推動作用的同時，背后潛在的風(fēng)險也逐漸顯現(xiàn)。正確認(rèn)識人工智能在治理領(lǐng)域的“正”“反”兩面作用，對更好發(fā)揮人工智能技術(shù)在治理領(lǐng)域的正向效應(yīng)，規(guī)避潛在風(fēng)險具有重要意義。

關(guān)鍵詞:人工智能 治理現(xiàn)代化 技術(shù)支撐

【中圖分類號】D630 【文獻(xiàn)標(biāo)識碼】A

國家治理能力是運(yùn)用國家制度管理社會各方面事務(wù)的能力，包括改革發(fā)展穩(wěn)定、內(nèi)政外交國防、治黨治國治軍等各個方面，直接關(guān)系到我國的良序發(fā)展和國際競爭力的提升。要推進(jìn)國家治理現(xiàn)代化，實(shí)現(xiàn)高質(zhì)量發(fā)展，需要提高資源利用的有效性，優(yōu)化資源配置，在效率與公平間達(dá)到平衡。隨著科學(xué)技術(shù)的發(fā)展與進(jìn)步，未來國家治理的優(yōu)化可以借助人工智能技術(shù)的優(yōu)勢得以實(shí)現(xiàn)。

人工智能的發(fā)展與應(yīng)用

自2012年以來，人工智能迎來了第三次熱潮。在大數(shù)據(jù)、深度學(xué)習(xí)模型和高效并行計(jì)算硬件（GPU）的合力下，人工智能的研發(fā)與應(yīng)用在各行各業(yè)中取得了顯著的進(jìn)展。舉例來說，在高鐵、機(jī)場中，絕大多數(shù)原有的人工驗(yàn)票方式已經(jīng)為高效且準(zhǔn)確的自動人臉身份認(rèn)證系統(tǒng)所替代；在醫(yī)療診斷中，人工智能技術(shù)的引入可以輔助醫(yī)生對疑似病癥進(jìn)行初篩；在氣象預(yù)報中，人工智能可以利用大數(shù)據(jù)對惡劣氣候進(jìn)行預(yù)測，從而提高氣象預(yù)報的實(shí)效和精度。基于類似原理，人工智能可利用其在以下五個方面的優(yōu)勢來推進(jìn)國家治理現(xiàn)代化：

海量計(jì)算能力。在國家治理過程中會形成大量的數(shù)據(jù)，這些數(shù)據(jù)既有源自同一領(lǐng)域的，也有異構(gòu)和非結(jié)構(gòu)化的。國家治理中涉及到的數(shù)據(jù)規(guī)模大、更新速度快，純靠人力來分析和處理難以遍歷數(shù)據(jù)全貌，且需要付出高昂的人力成本。此時，可以考慮利用人工智能的強(qiáng)大計(jì)算能力，通過設(shè)計(jì)高效的人工智能搜索或采樣技術(shù)，從海量治理方案中快速高效地找到更有效的治理方案。

高風(fēng)險模擬。在治理中，我們需要對未來的情況或治理方案可能帶來的后果進(jìn)行預(yù)判和評估，從而避免錯誤的治理方案。但是，并非所有的治理行動都能進(jìn)行實(shí)際環(huán)境測試，如生態(tài)文明、經(jīng)濟(jì)建設(shè)等，都不可能通過對實(shí)際治理情境做刻意惡化來進(jìn)行評估和分析。在此情況下，人工智能可以通過提供虛擬仿真環(huán)境來幫助優(yōu)化治理體系，基于多種可能性形成優(yōu)化治理，并減少治理的成本和風(fēng)險。

預(yù)測能力。隨著人工智能第三波熱潮的核心理論和算法模型——深度學(xué)習(xí)的興起，在多數(shù)可程序化的任務(wù)中，如人臉識別和圖像分類，人工智能的預(yù)測能力已經(jīng)超越人類。因此，把在這一框架指導(dǎo)下的各種技術(shù)方法融入國家治理體系中，有利于更高效地提升治理的效能。

用戶偏好能力。治理是多層次的，對不同的方面有著不同的需求。人工智能能夠通過分析用戶需求，進(jìn)行量身定制，通過共用人工智能模型來減少重復(fù)操作，并獲得更豐富、多粒度的治理模型。

相對客觀性。人工智能雖然以人類設(shè)計(jì)的算法為基礎(chǔ)，但通常不會受到人類情緒的影響，因此在預(yù)測中能保持其最大程度的相對客觀性，也就能盡可能地體現(xiàn)治理體系的公平性。在國家治理現(xiàn)代化進(jìn)程和高質(zhì)量發(fā)展階段中，借助人工智能實(shí)現(xiàn)公平與效率的平衡尤其具有現(xiàn)實(shí)意義。

人工智能進(jìn)一步應(yīng)用可能帶來的風(fēng)險隱患

對個人隱私的侵犯。首先，多數(shù)人工智能技術(shù)缺乏對隱私保護(hù)的考慮。在缺乏制度性規(guī)范的前提下，個體的隱私極容易被泄露，使得有數(shù)據(jù)抓取能力的企業(yè)有機(jī)可乘，并能通過人工智能技術(shù)來實(shí)現(xiàn)對個人的監(jiān)控，以及對個人行為偏好進(jìn)行干預(yù)，進(jìn)而影響其原有的行為表現(xiàn)。此外，如果擁有這些數(shù)據(jù)的企業(yè)缺乏安全防范意識，讓這些隱私數(shù)據(jù)流出或被黑客惡意竊取，就會進(jìn)一步提高詐騙案件的發(fā)生幾率。但值得注意的是，因?yàn)槠髽I(yè)的逐利性，如果僅僅指望其通過嚴(yán)格自身管理、提高防范意識，并不一定能對該類問題進(jìn)行有效預(yù)防。而更合理的方式是，從國家層面建立完善的隱私保護(hù)規(guī)范，審查企業(yè)中可能存在的未經(jīng)允許便獲取個人信息和導(dǎo)致隱私泄露的系統(tǒng)，保護(hù)公眾和國家的安全。在此基礎(chǔ)上，將具有隱私保護(hù)功能的人工智能技術(shù)或系統(tǒng)融入國家治理體系中，將有助于實(shí)現(xiàn)治理中對公民權(quán)益的有效保護(hù)。

數(shù)據(jù)有偏性帶來誤判。除此以外，數(shù)據(jù)在收集過程中有可能會存在數(shù)據(jù)有偏性，這會導(dǎo)致在治理過程中產(chǎn)生不準(zhǔn)確的評估。舉例來說，在某個關(guān)于識別照片中哈士奇和愛斯基摩犬的分類任務(wù)中，科學(xué)家們發(fā)現(xiàn)，在這個圖像數(shù)據(jù)集中，多數(shù)愛斯基摩犬是拍攝于雪地中的，使得識別過程實(shí)際上是通過識別圖片上有沒有白雪來完成的“虛假正確”分類。此外，不僅在數(shù)據(jù)采集上存在有偏的風(fēng)險，甚至在與性別相關(guān)的自然語言分析上，人工智能也會體現(xiàn)出與性別相關(guān)的傾向性回答。因此，在治理現(xiàn)代化中需要謹(jǐn)慎分析和解決治理相關(guān)數(shù)據(jù)的有偏問題，從數(shù)據(jù)源和處理方式上保證治理的公平性。

數(shù)據(jù)造假。人工智能模型也不是完全可依賴的，其也有可能提供偽造的數(shù)據(jù)。具體來說，自2014年以來，人工智能已經(jīng)經(jīng)歷了新一輪的升級換代，通過Ian Goodfellow提出的生成對抗網(wǎng)絡(luò)及其變種生成的“假”數(shù)據(jù)幾乎可以達(dá)到以假亂真的地步。盡管生成對抗網(wǎng)絡(luò)最初的提出是為了增加數(shù)據(jù)量，幫助模型進(jìn)行充分訓(xùn)練，但在實(shí)際應(yīng)用中，卻有不法分子利用這一漏洞來生成可用于詐騙的數(shù)據(jù)。除此之外，現(xiàn)有的深度學(xué)習(xí)模型也存在穩(wěn)定性方面的不足，容易被一些小的擾動數(shù)據(jù)攻擊而導(dǎo)致出現(xiàn)明顯的錯判。因此，未來要想使人工智能及相關(guān)技術(shù)在國家治理領(lǐng)域發(fā)揮更大功效，需要進(jìn)一步研發(fā)出一些新型設(shè)備和算法，在充分利用人工智能優(yōu)勢提升治理能力的同時，實(shí)現(xiàn)對偽造或虛假數(shù)據(jù)攻擊的有效防御。

人機(jī)協(xié)作失衡。另外，人工智能在治理領(lǐng)域的應(yīng)用并不意味著其能完全取代人在治理現(xiàn)代化進(jìn)程中的角色，尤其是在當(dāng)前我們對人類智能還沒有完全參透的前提下。在治理過程中，完全依賴人或完全依賴機(jī)器這兩個極端的情況都存在潛在的重大風(fēng)險。比如2014年馬航MH370事件，就是過分相信飛機(jī)駕駛員的結(jié)果；而2019年3月發(fā)生的埃航墜機(jī)事件，則是過度依賴飛機(jī)的自動駕駛系統(tǒng)，致使機(jī)器在出現(xiàn)高度誤判后駕駛員無法接管，從而導(dǎo)致了機(jī)毀人亡的慘痛事故。因此，如何更好平衡人類智能與機(jī)器智能，實(shí)現(xiàn)人類智能與機(jī)器智能的有效融合，將是未來更好發(fā)揮人工智能在國家治理中作用的重要努力方向。

總之，人工智能是把雙刃劍。它可以基于自身特性提升治理現(xiàn)代化的水平，保證治理過程的效率與公平，提高治理效能，并提升老百姓的獲得感、幸福感。但同時，人工智能在隱私保護(hù)、數(shù)據(jù)有偏、數(shù)據(jù)可信度等方面存在的潛在風(fēng)險，可能對社會穩(wěn)定、人民安全等帶來負(fù)面影響。還要提醒的是，人工智能在很多方面還沒有完全達(dá)到人類的智能水平，因此借助人機(jī)混合的混合增強(qiáng)智能實(shí)現(xiàn)對治理現(xiàn)代化的助力，有可能是更為有效的治理模式。

【本文作者為復(fù)旦大學(xué)計(jì)算機(jī)科學(xué)技術(shù)學(xué)院教授；本文受“教育部指導(dǎo)高?？萍紕?chuàng)新規(guī)劃項(xiàng)目”支持】

責(zé)編：李 懿 / 司文君