【摘要】算法是數(shù)字科技時代的關(guān)鍵信息技術(shù)，是人工智能社會的核心生產(chǎn)要素，在每一項人工智能科技背后都會有一套相應的計算機算法作為支撐?，F(xiàn)階段，雖然我國已構(gòu)建了較為完善的算法治理法律體系，但仍存在算法追責難題制約治理實效、主體合力不足加深治理難度、依賴硬性治理忽視柔性治理等現(xiàn)實問題。因此，需夯實算法治理法律制度基礎、構(gòu)建多元主體參與治理范式、發(fā)揮柔性規(guī)范手段激勵作用，從而構(gòu)建多元共治的算法治理體系。

【關(guān)鍵詞】算法治理 數(shù)字經(jīng)濟 多元共治

【中圖分類號】D912.1 【文獻標識碼】A

【DOI】10.16619/j.cnki.rmltxsqy.2023.03.014

作為數(shù)字經(jīng)濟時代的生產(chǎn)力要素，算法早已被嵌入社會運行的諸多層面。黨的二十大報告指出，要“推進國家治理體系和治理能力現(xiàn)代化”。在這一背景下，如何規(guī)范算法應用，實現(xiàn)算法精準、高效治理，已成為國家治理現(xiàn)代化和智能社會秩序構(gòu)建中的主要問題。

我國算法治理的實踐發(fā)展

算法指的是由計算機執(zhí)行的一系列程序化的運算規(guī)則[1]。它是數(shù)字科技時代的關(guān)鍵信息技術(shù)，是人工智能社會的核心生產(chǎn)要素，在每一項人工智能科技背后都會有一套相應的計算機算法作為支撐。當前，隨著我國數(shù)字經(jīng)濟規(guī)模的不斷增長，算法早已被普遍應用于包括電子商務、智能診斷、無人駕駛等在內(nèi)的互聯(lián)網(wǎng)商業(yè)場景以及交通安全、城市管理、司法判決等電子政務公共服務領域。雖然算法的普遍應用能夠賦能社會發(fā)展，但對其的濫用，也導致了算法霸權(quán)、算法歧視、信息繭房等問題的出現(xiàn)。因此，必須加強對網(wǎng)絡算法的治理。近年來，我國根據(jù)互聯(lián)網(wǎng)和人工智能技術(shù)發(fā)展形勢，以及現(xiàn)階段頻現(xiàn)的算法濫用等問題，制定了一系列算法治理規(guī)范性文件和法律法規(guī)。

2020年12月，中共中央印發(fā)的《法治社會建設實施綱要（2020－2025年）》指出，應“制定完善對網(wǎng)絡直播、自媒體、知識社區(qū)問答等新媒體業(yè)態(tài)和算法推薦、深度偽造等新技術(shù)應用的規(guī)范管理辦法”。2021年9月1日，《中華人民共和國數(shù)據(jù)安全法》正式實施，該法將網(wǎng)絡算法運用過程中的數(shù)據(jù)安全與主體權(quán)益保障作為監(jiān)管重點。2021年9月17日，國家互聯(lián)網(wǎng)信息辦公室等九部門聯(lián)合發(fā)布的《關(guān)于加強互聯(lián)網(wǎng)信息服務算法綜合治理的指導意見》明確指出，要“利用三年左右時間，逐步建立治理機制健全、監(jiān)管體系完善、算法生態(tài)規(guī)范的算法安全綜合治理格局”。2021年12月31日，國家互聯(lián)網(wǎng)信息辦公室等四部門聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》，對算法推薦活動中信息服務規(guī)范、用戶權(quán)益保護、監(jiān)督管理、法律責任等方面進行了規(guī)范。這是我國首部聚焦于算法治理的部門規(guī)章。2022年3月1日，《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》正式施行。2022年12月12日，國務院印發(fā)的《“十四五”數(shù)字經(jīng)濟發(fā)展規(guī)劃》明確指出，要“著力強化數(shù)字經(jīng)濟安全體系”。其中，作為整個數(shù)字經(jīng)濟整體治理與系統(tǒng)治理的關(guān)鍵環(huán)節(jié)，算法治理不僅涉及市場治理，還涉及社會治理與國家總體安全。

總之，近年來國家有關(guān)部門陸續(xù)出臺的一系列涉及算法治理的規(guī)范性文件和法律法規(guī)，正是我國算法治理的重要實踐成果，意味著現(xiàn)階段我國針對網(wǎng)絡空間、互聯(lián)網(wǎng)經(jīng)濟和電子政務公共服務等領域的算法治理法治化水平有所提高，尤其是《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》的出臺，標志著我國進入算法系統(tǒng)性治理階段。

我國算法治理面臨的問題挑戰(zhàn)

現(xiàn)階段，雖然我國構(gòu)建起了較為完善的涉及算法治理的法律體系，但大多屬于規(guī)范性文件和指導性意見，欠缺強制執(zhí)行力，再加之算法本身就容易遭遇技術(shù)性困境。因此，在算法治理過程中，算法濫用導致的諸多問題仍未得到解決，與此同時，還出現(xiàn)了一些新的情況。

算法追責難題制約治理實效。數(shù)字經(jīng)濟的快速發(fā)展使算法在公共事務治理領域得到了廣泛應用，通過融入算法技術(shù)，公共治理模式得到有效優(yōu)化。但由于算法追責機制尚不健全，加大了國家及公民權(quán)益維護的難度。首先，存在程序性治理困境。比如，在招聘員工等相關(guān)的算法設計中，部分算法會侵害員工的正當權(quán)益，但由于權(quán)利救濟缺位，員工無法找到可以依照的法定程序來維權(quán)。其次，一些企業(yè)憑借算法技術(shù)優(yōu)勢遠端監(jiān)控勞動者的勞動行為，這不僅使勞動者承受較大的工作壓力，而且在實質(zhì)上侵犯了其合法權(quán)益，也增加了算法治理工作的難度。例如，外賣騎手在勞動過程中的行為受算法控制、網(wǎng)約車司機在算法監(jiān)控下進行經(jīng)營活動等都是典型案例[2]。最后，算法在智能醫(yī)療、輔助量刑等情境中得到廣泛應用，但在此過程中人身財產(chǎn)損害時有發(fā)生，對于因算法技術(shù)困境所帶來的損害，有必要進行責任劃分。當前，有關(guān)算法設計者、經(jīng)營平臺、用戶個體分別該承擔怎樣的責任以及責任權(quán)重如何確定，尚未有明確的規(guī)定，從而加大了治理實踐難度。

主體合力不足加深治理難度。算法治理作為一項復雜的系統(tǒng)工程，需要政府機構(gòu)、相關(guān)企業(yè)、行業(yè)組織等各主體的密切配合，然而目前各治理主體缺乏成熟的治理經(jīng)驗及技術(shù)，這造成彼此之間無法形成治理合力。首先，政府機構(gòu)內(nèi)部往往存在“監(jiān)管競爭”，部門之間容易立足自身職能出臺有關(guān)算法治理的法律文件，執(zhí)行職權(quán)范圍內(nèi)的算法治理措施。例如，有些較為關(guān)注金融領域的算法治理，而有些更關(guān)注數(shù)字勞動問題的算法治理等。鑒于各個部門職能不同，算法治理工作較為分散，這種多頭治理的模式往往會造成算法治理重疊或真空問題的出現(xiàn)，不利于提升治理實效。其次，作為算法應用的重要主體，互聯(lián)網(wǎng)企業(yè)在利用算法開展業(yè)務方面具有十足優(yōu)勢，但一些企業(yè)存在算法濫用等不合規(guī)行為，據(jù)此必須要強化企業(yè)自查自糾，加大算法治理力度。最后，行業(yè)組織是算法治理的重要主體，對于規(guī)避因“黑箱化”所導致的算法風險具有重要作用，但目前我國互聯(lián)網(wǎng)行業(yè)的相關(guān)組織尚未針對算法治理形成統(tǒng)一標準、算法備案制度不健全、行業(yè)黑名單制度存在短板，這些問題加大了算法治理實踐工作的難度。在這方面，德國已經(jīng)成立由專業(yè)媒體人士和技術(shù)專家組成的非營利性組織，用以對算法運用全過程進行動態(tài)監(jiān)測和評估，并借力第三方獨立組織的力量來強化算法治理效果，為我國行業(yè)組織參與算法治理提供了借鑒。

依賴硬性治理忽視柔性治理。當前，我國在算法治理方面過于依賴法治手段和行政手段，而對市場調(diào)節(jié)、技術(shù)支持等柔性手段的補充價值重視不足，即算法治理停留于事后治理上，缺少對日常算法隱患的監(jiān)管和排查，這勢必會加大事后算法治理的難度。在這方面，歐美等國家已經(jīng)取得了寶貴經(jīng)驗，例如，美國算法治理十分強調(diào)市場調(diào)節(jié)的作用，其利用動態(tài)敏捷的監(jiān)管原則和技術(shù)加持，極大提升了算法治理實效性。又如，歐盟的算法治理十分強調(diào)公民個人的權(quán)利運用，數(shù)字保護機構(gòu)作為算法治理的核心主體，通過制定系列“數(shù)據(jù)規(guī)則”來實現(xiàn)對算法行為的全過程管理，從而有效滿足了公民個人訴求，體現(xiàn)出極強的人文精神和技術(shù)理性。

我國算法治理的體系構(gòu)建

夯實算法治理法律制度基礎。由于相關(guān)機制的不健全，算法治理實踐過程中會暴露諸多問題，因此，需提高算法治理法治化水平，不斷健全算法治理法律體系。應基于算法治理的內(nèi)在需求構(gòu)建完善的監(jiān)管體系，對算法備案及系統(tǒng)性審查、按照不同級別和類型確定治理方案等事宜進行管理，形成常態(tài)化機制，使“算法法治”產(chǎn)生強勁的內(nèi)生動力。一是重視算法備案工作，通過建立相關(guān)制度來完善算法登記備案系統(tǒng)。算法備案基于服務入口開展，要對算法系統(tǒng)中的重要信息內(nèi)容進行登記，以備損害發(fā)生時監(jiān)督機構(gòu)能進行精準的故障溯源。算法備案制度可提高風險防范和管控能力，使算法監(jiān)管形成高效的態(tài)勢和格局，實現(xiàn)對算法運行的即時觀測與處理分析。相關(guān)法律法規(guī)明確了算法備案的定位屬性，促成算法備案系統(tǒng)落地實施，但實踐中算法有著多元的形態(tài)和類型，要求算法備案系統(tǒng)持續(xù)擴大覆蓋范圍，秉持程序合法化原則確定規(guī)范性的實施程序，針對多元備案主體，應明晰權(quán)責邊界，從而使各主體有的放矢地開展相關(guān)工作。二是算法治理不可“一刀切”，需體現(xiàn)差異化的治理特點。當前，我國已針對數(shù)據(jù)安全建立了分類分級保護制度，算法治理也可借鑒這一模式，實現(xiàn)對檢索過濾類、個性化推送等算法推薦技術(shù)的差異化管理。不同算法推薦服務由于社會動員能力、輿論引領能力、關(guān)涉數(shù)據(jù)重要性的不同，可能對用戶行為造成不同影響。因此，一方面，應采取差異化的措施進行算法治理；另一方面，要出臺系列規(guī)章制度，明晰風險級別，確定操作性較強的標準體系，結(jié)合企業(yè)實際制定分級分類算法管理策略。三是開展算法審查工作，拓展監(jiān)管的深度和廣度，以制度化的形式促進算法審查有序開展。針對算法審查建立專門化的組織機構(gòu)，實現(xiàn)定期與隨機審查相結(jié)合，通過系統(tǒng)審驗來揭示并防范潛在的算法風險。算法審查應覆蓋全過程、全環(huán)節(jié)，形成閉環(huán)式的審查樣態(tài)，審查工作不僅包括數(shù)據(jù)輸入審查、算法設計審查，且應涵蓋算法運行及結(jié)果影響的審查，通過全方位審查監(jiān)督有效降低算法風險的發(fā)生幾率。此外，審查監(jiān)督還應重視對數(shù)據(jù)偏見的審查及對算法模型設計的審驗，減少算法決策的技術(shù)性偏差所帶來的負性效應。

構(gòu)建多元主體參與治理范式。首先，政府部門的引導。政府是算法治理的重要力量。網(wǎng)信部門應做好牽頭工作，與教育、工信、市場監(jiān)管等部門加強合作，形成聯(lián)動協(xié)作工作機制，共同打造算法安全治理體系，以促進算法治理工作的常態(tài)化、高效化。不同部門和機構(gòu)需明晰自身職責，根據(jù)工作要求全方位開展監(jiān)管工作，積極發(fā)揮主體功能，構(gòu)建系統(tǒng)化的算法標準體系，持續(xù)提高普法、執(zhí)法力度，促進算法治理形成良好態(tài)勢。其次，相關(guān)企業(yè)的執(zhí)行?；ヂ?lián)網(wǎng)企業(yè)在算法設計、算法使用等方面具有優(yōu)勢，應成為最富活力的行動者。旗艦型的互聯(lián)網(wǎng)企業(yè)不僅擁有前沿算法技術(shù)，且人才、資金方面的資源充沛，其在參與算法治理標準體系構(gòu)建、規(guī)則制定等事宜上更具優(yōu)勢。對于算法霸權(quán)、算法歧視等所造成的負面影響，相關(guān)企業(yè)應積極踐行社會主義核心價值觀，加大對算法倫理等社會普遍關(guān)注問題的研究力度，使科學技術(shù)的正性功能得到有效發(fā)揮。再次，行業(yè)組織的融入。人工智能企業(yè)發(fā)展聯(lián)盟等行業(yè)組織應在算法治理中發(fā)揮積極的能動性作用，這些組織的社會功能具有多元性、多樣化等特點。它們既可提供高品質(zhì)的服務，亦可起到溝通協(xié)調(diào)作用，在行業(yè)標準制定等方面擁有較大的優(yōu)勢。因此，在現(xiàn)階段算法治理過程中，建議行業(yè)組織立足行業(yè)發(fā)展需求加強相關(guān)學術(shù)及技術(shù)研究，促進產(chǎn)學研用一體化格局的形成，推動算法技術(shù)快速發(fā)展。最后，社會大眾的參與。社會大眾是算法相關(guān)產(chǎn)品的使用者，算法應用基于公眾需求而開展，因而，公眾也應擔當起算法治理的主體職責。算法治理應面向公眾開放更多參與渠道，及時吸納公眾的反饋意見，促進公眾與政府、平臺等其他治理主體的相互溝通。

發(fā)揮柔性規(guī)范手段激勵作用。作為信息時代的特殊風險，算法風險不僅普遍存在，且表現(xiàn)形式復雜多元，依托法律手段進行治理只能在一定程度上取得成效。因此，應在當前算法治理法律法規(guī)的指導下，積極運用技術(shù)治理、算法評估等更具柔性特點的治理手段，補齊法律治理的短板，防止企業(yè)因法律的強制性管控而喪失創(chuàng)新活力。第一，風險防范應與算法評估相結(jié)合。作為內(nèi)外部監(jiān)督一體化的治理模式，算法評估有助于大幅提高監(jiān)督效能，在實踐過程中專門機構(gòu)應對設計好的算法模型進行全方位評估，以規(guī)避歧視等情況的發(fā)生。應針對性構(gòu)建算法安全檢查評估制度，督促企業(yè)進行內(nèi)部評估，相關(guān)部門也須審驗算法推薦服務的合規(guī)性，當發(fā)現(xiàn)問題時及時作出提示并提出整改意見。第二，針對日常隱患監(jiān)測進行技術(shù)治理。運用算法安全監(jiān)管體系對數(shù)據(jù)使用、影響效果等進行全面監(jiān)測，藉此預判信息內(nèi)容的傳播態(tài)勢、網(wǎng)民的反應與行為方式等。當前，一些算法企業(yè)為了防止用戶隱私泄露、規(guī)避算法偏見，已在相關(guān)產(chǎn)品中融入了算法倫理原則，在數(shù)據(jù)篩選、模型優(yōu)化等方面加強了技術(shù)支持，促進了算法風險的預防與化解。為了進一步提高算法治理效能，應重視算法全生命周期安全監(jiān)測等技術(shù)的開發(fā)設計，同時推進第三方監(jiān)測工作開展，從而加快算法標準化研究的成果轉(zhuǎn)化。第三，構(gòu)建完善的行業(yè)標準。行業(yè)標準既是對企業(yè)需求、市場需求的一種規(guī)則上的回應，也是一系列可操作、可執(zhí)行、具體化的技術(shù)規(guī)范。其通過對技術(shù)特性進行編碼處理并匯總整理而形成標準化程式，行業(yè)產(chǎn)品生產(chǎn)需滿足相關(guān)程式要求?，F(xiàn)階段我國算法行業(yè)標準的構(gòu)建，一方面，應以《中華人民共和國數(shù)據(jù)安全法》《中華人民共和國個人信息保護法》為依據(jù)，積極打造與人工智能、人臉識別等新技術(shù)、新應用相關(guān)的標準技術(shù)體系；另一方面，還需強化算法標準之間的對接，并對立法規(guī)范加以細化，使之形成較為完備的操作細則。

（本文系中央支持地方高校改革發(fā)展基金項目“黑龍江省宗教治理體系與治理能力研究”和黑龍江大學博士創(chuàng)新科研項目“CAS視域下事實與價值關(guān)系研究”的階段性成果，項目編號分別為：2021GSP-15、YJSCX2022-011HLJU）

注釋

[1]劉澤剛：《論算法認知偏差對人工智能法律規(guī)制的負面影響及其矯正》，《政治與法律》，2022年第11期。

[2]陳聯(lián)俊、張寶麗：《算法技術(shù)推動網(wǎng)絡空間意識形態(tài)話語權(quán)變革及其治理》，《理論學刊》，2022年第5期。

Practical Development and Systemic Construction of Algorithmic Governance

Qu Shiwen Zhang Benxiang

Abstract: Algorithm is the key information technology in the digital technology era, and the core production factor in AI society. Behind every AI technology there is a set of corresponding computer algorithm supporting it. At the present stage, although China has built a relatively complete algorithm governance legal system, there are still real problems such as algorithm accountability problems restricting the effectiveness of governance, insufficient cooperation of major entities which adds difficulty to governance, and reliance on administrative means ignoring flexible governance. Therefore, it is necessary to strengthen the institutional foundation of algorithmic governance legal system, build a paradigm of governance with the participation of multiple entities, and give full play to the incentive role of flexible normative tools, so as to build a pluralistic algorithmic governance system.

Keywords: algorithmic governance, digital economy, pluralistic governance

責 編／肖晗題