隱私計算是在保障數(shù)據(jù)安全前提下，實現(xiàn)數(shù)據(jù)價值合規(guī)有序釋放的技術(shù)體系。主要包括，基于協(xié)議規(guī)則的安全多方計算、基于現(xiàn)代密碼學的聯(lián)邦學習、基于硬件閉環(huán)的可信執(zhí)行環(huán)境、基于信息論和概率論的差分隱私以及構(gòu)建于格密碼算法之上的同態(tài)加密等技術(shù)。黨的二十大報告重申了建設(shè)“網(wǎng)絡(luò)強國、數(shù)字中國”的發(fā)展愿景，隱私計算對于訓(xùn)練大語言模型、抹平數(shù)據(jù)飛輪效應(yīng)意義重大。盡管如此，隱私計算同樣可能帶來決策失誤、權(quán)益侵害、隱私泄露等風險。當務(wù)之急，是結(jié)合我國國情，厘清隱私計算的行業(yè)價值及潛在風險，以便有針對性地從技術(shù)和法律兩方面補齊風控短板。

隱私計算的應(yīng)用場景

隱私計算的理念根源于“通過設(shè)計保護隱私”，即在設(shè)計之初就將數(shù)據(jù)安全需求“嵌于其中”，成為技術(shù)運作的缺省規(guī)則。我國相關(guān)部門也提出了“倫理先行、敏捷治理”的理念，體現(xiàn)出積極預(yù)防而非被動救濟、正和共贏而非零和博弈的全周期數(shù)字正義價值觀。

數(shù)據(jù)不同于石油、天然氣等不可再生資源，不會因過度使用而枯竭。隱私計算旨在解決數(shù)據(jù)規(guī)范共享的痛點，以滿足企業(yè)和部門間數(shù)據(jù)效能釋放的剛需。目前，我國已經(jīng)形成較為成熟的隱私計算應(yīng)用場景。例如，在小微信貸業(yè)務(wù)中，金融機構(gòu)如果要對企業(yè)進行準確的資信審查，必須對企業(yè)的銷售、物流、財務(wù)、倉儲、稅務(wù)等數(shù)據(jù)進行交叉驗證，但金融機構(gòu)通常只能申請貸款企業(yè)提供的基本數(shù)據(jù)以及過往的業(yè)務(wù)數(shù)據(jù)；多方安全計算可在數(shù)據(jù)不出本地的情況下解決機構(gòu)間信息不對稱、判別不精確、風險難以識別等問題，拓展中小微企業(yè)的融資渠道。再者，鑒于醫(yī)療數(shù)據(jù)的敏感性，智慧醫(yī)療服務(wù)商很難同時掌握來自醫(yī)療報告、基因序列、病理特征、生理狀況等不同源頭的樣本足夠、特征完整、能夠全面反映患者癥狀的數(shù)據(jù)；聯(lián)邦學習為此類問題提供了解決方案，無需交換各個機構(gòu)的私有數(shù)據(jù)，便能協(xié)同各方參與診療模型的訓(xùn)練。對于那些具有安全保密級別的內(nèi)部信息不能明文共享的困境，相關(guān)部門通過可信執(zhí)行環(huán)境的構(gòu)建，創(chuàng)造無風險聚合內(nèi)部信息的封閉環(huán)境，實現(xiàn)對特殊安全級別信息的處理。

隱私計算的主要風險

隱私計算雖在破除行業(yè)壁壘、化解信息孤島方面具有得天獨厚的優(yōu)勢，但當前各項技術(shù)面臨通信開銷大、性能效率低、傳輸復(fù)雜度高、與主流技術(shù)體系磨合不佳等瓶頸，且存在三方面的系統(tǒng)性風險。

對公共安全等方面構(gòu)成威脅。隱私計算是嵌入數(shù)據(jù)處理環(huán)節(jié)的基礎(chǔ)性技術(shù)，應(yīng)用不當極有可能造成傳統(tǒng)算法歧視的泛化和異化，導(dǎo)致自動化決策失誤。因此，對公共部門、醫(yī)療領(lǐng)域等這些與公民基本權(quán)利、公共安全密切相關(guān)場景中的隱私計算應(yīng)用，必須進行嚴格監(jiān)管和治理。

數(shù)據(jù)處理活動的責任主體虛化。由于有為數(shù)眾多的參與方橫亙在數(shù)據(jù)處理者和數(shù)據(jù)主體之間，數(shù)據(jù)處理的層層委托經(jīng)常演化為“層層甩鍋”，連帶責任和分配責任等制度安排均無法實現(xiàn)實質(zhì)正義。因此，以數(shù)據(jù)主體為保護對象的法律關(guān)系，須在“數(shù)據(jù)處理復(fù)合化”的語境下進行重構(gòu)。

無法完全保證數(shù)據(jù)安全。隱私計算的過程具有“半透明性”，意味著攻擊者可以偽裝成誠實參與方竊取運算結(jié)果、破解可信環(huán)境或植入惡意代碼。研究表明，即便有所防范，訓(xùn)練集中只要包含3%的中毒數(shù)據(jù)，模型誤差將從12%上升至23%。通過反匯編語言，惡意參與方可以將病毒等悄無聲息地傳輸至目標設(shè)備中，攻擊成功的概率在九成以上。因此，適用于隱私計算的技術(shù)安全流程，有必要通過技術(shù)手段予以改良。

如何應(yīng)對隱私計算的風險

當前，各國圍繞隱私計算的立法多停留在“政策促進”、“應(yīng)用指引”、“技術(shù)標準”和“部門立法”層面，尚未形成可因應(yīng)發(fā)展性風險的動態(tài)規(guī)范。因此，應(yīng)超越傳統(tǒng)人工智能法律規(guī)制的路徑依賴，采取新方法、新手段回應(yīng)隱私計算帶來的新問題、新挑戰(zhàn)。隱私計算的良法善治有賴于個人信息保護和技術(shù)效能釋放的精妙平衡，具體的應(yīng)對策略可從技術(shù)和法律層面分別展開。

在技術(shù)層面，可通過三種方式構(gòu)建“根植式”的中心化管理機制。提升安全事件的溯源能力。其一是統(tǒng)一身份認證管理，可結(jié)合云平臺指紋、人臉、聲紋、掃碼等多因素推行細粒度即將業(yè)務(wù)模行中的對象加以細分從而實現(xiàn)訪問控制，建立支持服務(wù)器集群認定和客戶端與服務(wù)器之間的雙通道認定機制，利用服務(wù)器證書等技術(shù)手段嚴控應(yīng)用層、傳輸層的數(shù)據(jù)傳輸，在應(yīng)用邊界內(nèi)構(gòu)建零信任數(shù)據(jù)控制體系。其二是統(tǒng)一資產(chǎn)管理，所有隱私計算的機構(gòu)參與方應(yīng)通過協(xié)商建立資金池，共同應(yīng)對技術(shù)升級、安全維護以及侵權(quán)賠償?shù)?。對機構(gòu)參與方的資產(chǎn)投入實施臺賬管理，建立方便機構(gòu)參與方資產(chǎn)“入網(wǎng)—變更—監(jiān)控—退網(wǎng)”流程的智能平臺，實現(xiàn)資產(chǎn)數(shù)據(jù)的盤點展示、查缺補漏、動態(tài)更新和責任鏈化。其三是統(tǒng)一日志審計管理，宜在隱私計算數(shù)據(jù)加密傳輸?shù)幕A(chǔ)上，支持分布式實時計算組件對接過程性數(shù)據(jù)，全方位感知數(shù)據(jù)安全態(tài)勢。一方面，監(jiān)控異常瀏覽軌跡、賬號違規(guī)共享、數(shù)據(jù)惡意投毒、高危指令錄入、非正常模型運算等行為；另一方面，將過程數(shù)據(jù)儲存至彈性搜索引擎的服務(wù)器中，配合隨機森林算法對打標數(shù)據(jù)進行安全感知分析和威脅預(yù)判處理。

在法律層面，可通過三方面措施健全平衡隱私計算各參與方利益、促進技術(shù)增益數(shù)據(jù)價值、保護數(shù)據(jù)主體綜合權(quán)益的法律框架。其一是完善風險控制的外部審查制度。隱私計算的執(zhí)行方案，必須經(jīng)過獨立的第三方機構(gòu)審查，參與審查的專家委員會由具備相關(guān)技術(shù)背景、同各參與方無利益往來的專家組成。“專家會診”不宜簡單地將安全凌駕于精準度、效率、公平和收益等價值之上，而需要通過最低限度的盡職調(diào)查，平衡縱橫交錯的多元訴求，在保障基本安全的前提下盡可能促進數(shù)據(jù)價值的變現(xiàn)。其二是引入以變應(yīng)變的知情同意框架。知情同意框架是數(shù)據(jù)處理活動的“第一閘口”，數(shù)據(jù)主體因知情而同意或不同意，共同勾勒出數(shù)據(jù)處理活動的能動性邊界。隱私計算的動態(tài)特征，決定了知情同意框架也要相應(yīng)改進，數(shù)據(jù)主體只有做到與時俱進的“知曉”，才能作出真正符合其意思表示的“同意”，否則無異于“刻舟求劍”。數(shù)據(jù)處理者必須就關(guān)鍵事項的改變同數(shù)據(jù)主體依次達成合意。其三是細化數(shù)據(jù)主體的法律權(quán)利保障。無權(quán)利則無救濟，“個人信息自決”觀念下的知情權(quán)、獲解釋權(quán)、拒絕權(quán)、更正權(quán)、刪除權(quán)、被遺忘權(quán)等，在隱私計算中仍然有適用的空間，除此之外，還應(yīng)加速人工干預(yù)權(quán)、脫離自動化決策權(quán)、免受算法支配權(quán)等新興權(quán)利的立法工作，確保數(shù)據(jù)主體面對隱私計算要約時，有為自身權(quán)益“討價還價”的籌碼。