隱私計算是在保障數據安全前提下，實現(xiàn)數據價值合規(guī)有序釋放的技術體系。主要包括，基于協(xié)議規(guī)則的安全多方計算、基于現(xiàn)代密碼學的聯(lián)邦學習、基于硬件閉環(huán)的可信執(zhí)行環(huán)境、基于信息論和概率論的差分隱私以及構建于格密碼算法之上的同態(tài)加密等技術。黨的二十大報告重申了建設“網絡強國、數字中國”的發(fā)展愿景，隱私計算對于訓練大語言模型、抹平數據飛輪效應意義重大。盡管如此，隱私計算同樣可能帶來決策失誤、權益侵害、隱私泄露等風險。當務之急，是結合我國國情，厘清隱私計算的行業(yè)價值及潛在風險，以便有針對性地從技術和法律兩方面補齊風控短板。
隱私計算的應用場景
隱私計算的理念根源于“通過設計保護隱私”，即在設計之初就將數據安全需求“嵌于其中”，成為技術運作的缺省規(guī)則。我國相關部門也提出了“倫理先行、敏捷治理”的理念，體現(xiàn)出積極預防而非被動救濟、正和共贏而非零和博弈的全周期數字正義價值觀。
數據不同于石油、天然氣等不可再生資源，不會因過度使用而枯竭。隱私計算旨在解決數據規(guī)范共享的痛點，以滿足企業(yè)和部門間數據效能釋放的剛需。目前，我國已經形成較為成熟的隱私計算應用場景。例如，在小微信貸業(yè)務中，金融機構如果要對企業(yè)進行準確的資信審查，必須對企業(yè)的銷售、物流、財務、倉儲、稅務等數據進行交叉驗證，但金融機構通常只能申請貸款企業(yè)提供的基本數據以及過往的業(yè)務數據；多方安全計算可在數據不出本地的情況下解決機構間信息不對稱、判別不精確、風險難以識別等問題，拓展中小微企業(yè)的融資渠道。再者，鑒于醫(yī)療數據的敏感性，智慧醫(yī)療服務商很難同時掌握來自醫(yī)療報告、基因序列、病理特征、生理狀況等不同源頭的樣本足夠、特征完整、能夠全面反映患者癥狀的數據；聯(lián)邦學習為此類問題提供了解決方案，無需交換各個機構的私有數據，便能協(xié)同各方參與診療模型的訓練。對于那些具有安全保密級別的內部信息不能明文共享的困境，相關部門通過可信執(zhí)行環(huán)境的構建，創(chuàng)造無風險聚合內部信息的封閉環(huán)境，實現(xiàn)對特殊安全級別信息的處理。
隱私計算的主要風險
隱私計算雖在破除行業(yè)壁壘、化解信息孤島方面具有得天獨厚的優(yōu)勢，但當前各項技術面臨通信開銷大、性能效率低、傳輸復雜度高、與主流技術體系磨合不佳等瓶頸，且存在三方面的系統(tǒng)性風險。
對公共安全等方面構成威脅。隱私計算是嵌入數據處理環(huán)節(jié)的基礎性技術，應用不當極有可能造成傳統(tǒng)算法歧視的泛化和異化，導致自動化決策失誤。因此，對公共部門、醫(yī)療領域等這些與公民基本權利、公共安全密切相關場景中的隱私計算應用，必須進行嚴格監(jiān)管和治理。
數據處理活動的責任主體虛化。由于有為數眾多的參與方橫亙在數據處理者和數據主體之間，數據處理的層層委托經常演化為“層層甩鍋”，連帶責任和分配責任等制度安排均無法實現(xiàn)實質正義。因此，以數據主體為保護對象的法律關系，須在“數據處理復合化”的語境下進行重構。
無法完全保證數據安全。隱私計算的過程具有“半透明性”，意味著攻擊者可以偽裝成誠實參與方竊取運算結果、破解可信環(huán)境或植入惡意代碼。研究表明，即便有所防范，訓練集中只要包含3%的中毒數據，模型誤差將從12%上升至23%。通過反匯編語言，惡意參與方可以將病毒等悄無聲息地傳輸至目標設備中，攻擊成功的概率在九成以上。因此，適用于隱私計算的技術安全流程，有必要通過技術手段予以改良。
如何應對隱私計算的風險
當前，各國圍繞隱私計算的立法多停留在“政策促進”、“應用指引”、“技術標準”和“部門立法”層面，尚未形成可因應發(fā)展性風險的動態(tài)規(guī)范。因此，應超越傳統(tǒng)人工智能法律規(guī)制的路徑依賴，采取新方法、新手段回應隱私計算帶來的新問題、新挑戰(zhàn)。隱私計算的良法善治有賴于個人信息保護和技術效能釋放的精妙平衡，具體的應對策略可從技術和法律層面分別展開。
在技術層面，可通過三種方式構建“根植式”的中心化管理機制。提升安全事件的溯源能力。其一是統(tǒng)一身份認證管理，可結合云平臺指紋、人臉、聲紋、掃碼等多因素推行細粒度即將業(yè)務模行中的對象加以細分從而實現(xiàn)訪問控制，建立支持服務器集群認定和客戶端與服務器之間的雙通道認定機制，利用服務器證書等技術手段嚴控應用層、傳輸層的數據傳輸，在應用邊界內構建零信任數據控制體系。其二是統(tǒng)一資產管理，所有隱私計算的機構參與方應通過協(xié)商建立資金池，共同應對技術升級、安全維護以及侵權賠償等。對機構參與方的資產投入實施臺賬管理，建立方便機構參與方資產“入網—變更—監(jiān)控—退網”流程的智能平臺，實現(xiàn)資產數據的盤點展示、查缺補漏、動態(tài)更新和責任鏈化。其三是統(tǒng)一日志審計管理，宜在隱私計算數據加密傳輸的基礎上，支持分布式實時計算組件對接過程性數據，全方位感知數據安全態(tài)勢。一方面，監(jiān)控異常瀏覽軌跡、賬號違規(guī)共享、數據惡意投毒、高危指令錄入、非正常模型運算等行為；另一方面，將過程數據儲存至彈性搜索引擎的服務器中，配合隨機森林算法對打標數據進行安全感知分析和威脅預判處理。
在法律層面，可通過三方面措施健全平衡隱私計算各參與方利益、促進技術增益數據價值、保護數據主體綜合權益的法律框架。其一是完善風險控制的外部審查制度。隱私計算的執(zhí)行方案，必須經過獨立的第三方機構審查，參與審查的專家委員會由具備相關技術背景、同各參與方無利益往來的專家組成。“專家會診”不宜簡單地將安全凌駕于精準度、效率、公平和收益等價值之上，而需要通過最低限度的盡職調查，平衡縱橫交錯的多元訴求，在保障基本安全的前提下盡可能促進數據價值的變現(xiàn)。其二是引入以變應變的知情同意框架。知情同意框架是數據處理活動的“第一閘口”，數據主體因知情而同意或不同意，共同勾勒出數據處理活動的能動性邊界。隱私計算的動態(tài)特征，決定了知情同意框架也要相應改進，數據主體只有做到與時俱進的“知曉”，才能作出真正符合其意思表示的“同意”，否則無異于“刻舟求劍”。數據處理者必須就關鍵事項的改變同數據主體依次達成合意。其三是細化數據主體的法律權利保障。無權利則無救濟，“個人信息自決”觀念下的知情權、獲解釋權、拒絕權、更正權、刪除權、被遺忘權等，在隱私計算中仍然有適用的空間，除此之外，還應加速人工干預權、脫離自動化決策權、免受算法支配權等新興權利的立法工作，確保數據主體面對隱私計算要約時，有為自身權益“討價還價”的籌碼。
