中國信通院袁博等：隱私計算產品評估體系

0 引言

當前，全球進入數據驅動的數字經濟時代，數字經濟已成為新一輪數字科技革命和產業變革的焦點，數據也成為了關鍵生產要素。數據要素要合規自由流通才能源源不斷地釋放價值，但受限于數據盜用、錯用、濫用等安全事件的頻發，國家、企業和個人對數據安全保護的重視程度空前提高，要實現數據利用和數據安全并重，“可用不可見的”隱私計算（Privacy Preserving Computing）技術正是破題的關鍵。通過對隱私計算從前沿技術到落地產品的發展歷程進行研究，進而分析了隱私計算產品的現狀，并結合實際工作提出一套隱私計算產品評估體系，最后對隱私計算產品評估體系未來的發展進行了展望。

1 隱私計算發展情況

1.1 隱私計算技術發展歷程

隱私計算是在保護數據本身不對外泄露的前提下實現數據分析計算的一類信息技術，主要包括多方安全計算（Secure Multi-Party Computation，MPC）、可信執行環境（Trusted Execution Environment，TEE）、聯邦學習（Federated Learning，FL）等核心技術。

1978年，同態加密^[1]的出現，將加密技術研究從靜態引向動態；1979年，Shamir^[2]提出秘密分享方案，使分發者能夠通過秘密多項式將信息分解為多個秘密并發送給持有者，各持有者無法獲得原始信息；1981年，不經意傳輸協議^[3]也被提出，在這個協議中，消息發送者會從一批待發送消息中發送一條給接收者，但發送者無法知曉實際發送了哪一條消息。基于上述的研究工作基礎，圖靈獎得主姚期智院士于1982年首次提出了多方安全計算協議^[4]，協議主要研究了在無可信第三方情況下的安全計算約定函數問題。在隨后的幾年內，姚期智院士針對百萬富翁問題又提出了混淆電路解決方案^[5]，基于布爾電路的思想構造安全計算函數，使參與者可以使用某個數值來進行計算，而無需知道具體數字內容。至此，依賴同態加密、秘密分享、不經意傳輸、混淆電路等基礎技術、協議的多方安全計算逐漸走向成熟。

聯邦學習可以在不同的數據結構、不同的機構間發揮作用，沒有領域和算法限制，同時具有模型質量無損、保護隱私、確保數據安全的優勢。2013年，王爽教授團隊提出了分布式隱私保護在線機器學習的概念^[6]，隱私保護與機器學習第一次被關聯起來；隨后，谷歌也于2016年提出了橫向聯邦學習^[7]，以解決安卓手機終端用戶在本地更新模型的問題；2018年，楊強教授提出聯邦遷移學習^[8]的解決方案，將遷移學習與聯邦學習進行了結合。

可信執行環境技術是指運行在隔離硬件之上的隔離安全操作系統，以及提供授權安全軟件的安全執行環境。該技術實現了不同程序的隔離運行，從而保障了用戶關鍵代碼和數據的機密性、完整性不受惡意軟件破壞。可信執行環境的標準是在2009年由開放移動終端平臺組織（Open Mobile Terminal Platform，OMTP）智能終端安全工作組提出^[9]；2011年，國際標準化組織Global Platform也著手開始研究、制定可信執行環境的相關標準^[10]。

隨著以上各類基礎技術的發展，隱私計算技術最終成型。隱私計算技術融合了人工智能、密碼學、數據科學等眾多領域，借助于多方安全計算、可信執行環境、聯邦學習、去標識化及脫敏技術等為代表的現代密碼學和信息安全技術，在保證原始數據安全隱私性的同時，實現了對數據處于加密狀態或非透明狀態下的計算和分析。2019年，Gartner在Hype Cycle中首次將隱私計算列為處于啟動期的關鍵技術^[11]；2020年，隱私計算被列為Gartner的十大重要戰略趨勢之一^[12]。

1.2 隱私計算的可用性

隱私計算相關技術雖然從20世紀80年代左右就開始出現，但因為其計算效率是明文的10萬倍以上，因此幾乎不具備實際使用價值，更多作為前沿技術被持續探索研究。

近年來，隱私計算逐步從技術走向了應用。一方面算法和硬件優化極大提升了計算效率。得益于長期以來隱私計算底層算法的持續優化，更高效的算法不斷提出，GPU、FPGA等硬件輔助加速，跨公網的計算節點間通信速率不斷提升，隱私計算產品初步具備了使用價值。另一方面，國家和社會對數據安全保護和數據合規流通的意識和要求逐步提高，以往的明文數據交易流通方式在很多場景下不再適用，也使得隱私計算具備了更多使用動力和使用空間。因此，隱私計算逐步從技術研究走向實際應用，當前在一些特定的聯合查詢、隱私統計、聯合建模和聯合預測等場景上已經可以滿足實際生產需要，相應的隱私計算產品也逐步成熟和豐富。

2 隱私計算產品化概況

2.1 隱私計算產品現狀

近年來，隱私計算相關產品數量呈現爆發式增長的態勢，相關產業蓬勃發展。根據中國信息通信研究院云計算與大數據研究所統計，參照中國信息通信研究院云計算與大數據研究所公布的隱私計算相關測評的產品情況，2019年下半年為5款、2020年上半年為10款、2020年下半年為26款，增長十分迅速^[13]。從互聯網頭部企業、電信運營商、知名大數據公司到隱私計算技術研發初創公司，越來越多類型的企業加入隱私計算技術提供者的行列中。技術及應用的發展也使得隱私計算相關產品的架構、功能逐漸成熟。當前，大部分產品都已支持對外提供服務，具有較高的產品化、商業化程度，普遍具備了調度管理、數據處理、聯合計算、運維管理等基礎功能，能夠滿足用戶的通用性需求。

隨著技術發展以及各廠商在觀點驗證（Proof of Concept，POC）階段的不斷嘗試，隱私計算產品呈現出相關技術深度融合，以及工具化、模塊化的特點。應用隱私計算能夠實現數據的可用不可見，但這只解決了數據流通中的一個環節。若要真正發揮出隱私計算的技術價值，推動數據可信流通，還需要產品具有多技術儲備，并與相關技術不斷融合，共同發揮作用。就隱私計算三大技術融合而言,多方安全計算重安全，聯邦學習重效率，可信執行環境重通用，一些隱私計算產品兼容了多種技術，使用戶能夠在面向不同業務時，根據需求選擇與之相適應的技術。就隱私計算產品與其他相關技術融合而言，與云計算融合，在支持云端數據存儲、處理的同時加強安全與隱私的控制；與大數據平臺融合,通過嵌入大數據平臺、共享接口，成為大數據平臺中的關鍵組件；與人工智能融合，支撐多方數據安全共享，優化訓練效果、提升模型精度；與區塊鏈融合，借助區塊鏈的特性實現存證與審計，增強多方信任。

在提供完備功能的通用平臺的基礎之上，如何滿足用戶的個性化與定制化需求、提升用戶使用效率將成為產品形態趨同的形勢之下，技術提供者提升競爭力的關鍵。以金融機構為代表（特別是銀行）的業務需求方，對于計算任務中的具體算法通常有定制化的需求。當前，大部分產品都能夠根據用戶需求提供封裝好的定制算法，在此之上，少量產品已經支持用戶在產品前端自定義配置算法。針對用戶在應用過程中的個性化功能配置需求，部分產品通過模塊“自定義”，組件“拖拉拽”的形式，以支持用戶應用流程自定義配置。現階段，隱私計算產品普遍采取輕量化部署形式，在幾個小時內便可完成部署，并針對不同系統提供多樣化的客戶端。

2.2 隱私計算產品面臨的挑戰

2.2.1 隱私計算產品亟需統一規范和評估

從生產角度來看，隱私計算行業作為新興行業，相關產品數量和種類在增長迅速的同時，也出現了產品質量參差不齊、魚龍混雜的現象，行業需要一個統一的門檻來提升整體產品質量。從使用角度來看，作為新興技術，隱私計算產品的使用者很難綜合判定選擇使用什么樣的隱私計算產品，因此亟需建立統一的隱私計算產品規范和產品評估體系。

2.2.2 隱私計算產品性能仍需提升

在技術特點上，隱私計算相關的密碼學技術有“犧牲性能換來安全”的特點，這使其在計算效率上存在先天劣勢。雖然算法算力的優化在促進多方安全計算性能不斷提升，但由于其加密機理復雜、交互次數繁多，當應用逐步向更大規模數據推廣時，性能不足將成為其關鍵的阻礙。

2.2.3 隱私計算產品安全性有待驗證

隱私計算產品的安全邊界和等級的界定需要考慮不同行業、不同技術的差別，也要平衡實際應用中計算的準確性和計算效率的要求，因此作為一項保護數據隱私的新技術，因其技術復雜，市場尚不成熟，隱私計算產品的安全性仍有待驗證。

3 隱私計算產品評估體系

制定共性的評估體系和標準，能夠將各類復雜的隱私計算產品轉化為易于理解的指標形態。從供應商角度來看，共性的評估體系能夠有效促進廠商之間的有序發展，建立行業的技術門檻，提升供應商的服務能力。從市場用戶角度來看，共性的評估體系能夠幫助用戶理解技術特點與能力，便于用戶選型。

本文提出的評估體系包含基礎能力評估、性能專項評估、安全專項評估（見圖1）。基礎能力評估能夠反映出隱私計算產品功能的通用性程度；性能專項評估能夠反映出隱私計算產品在滿足安全性和準確性門檻下的計算效率；安全專項評估能夠反映出隱私計算產品在各安全維度下的安全等級。

圖1 隱私計算產品評估體系

3.1 基礎能力評估

3.1.1 基于多方安全計算的數據流通產品

基于多方安全計算的數據流通產品主要功能是在保證數據安全的前提下實現多方數據的聯合計算，需要從數據相關基礎能力、編譯及計算能力、數據流通相關管理能力、流通產品安全性健壯性穩定性相關能力、性能等角度評估此類產品。表1為基于多方安全計算的數據流通產品基礎能力測試項。

表1 基于多方安全計算的數據流通產品基礎能力測試項列表

3.1.2 基于聯邦學習的數據流通產品

基于聯邦學習的數據流通產品主要功能是在保證多個參與方各自原始私有數據不出數據方定義的私有邊界的前提下，協作完成某項機器學習任務。需要從調度管理能力、數據處理能力、算法實現、效果及性能、安全性等角度評估此類產品。表2為基于聯邦學習的數據流通產品基礎能力測試項。

表2 基于聯邦學習的數據流通產品基礎能力測試項列表 

3.1.3 基于可信執行環境的數據計算平臺

基于可信執行環境的數據計算平臺是通過軟硬件方法構建的一個安全區域，可保證在安全區域內部加載的代碼和數據在機密性和完整性方面得到保護。需要從任務處理能力、算法拓展性、環境驗證、通信安全性、計算機密性、一致性、數據存儲、審計、運維等角度評估此類產品。表3為基于可信執行環境的數據計算平臺基礎能力測試項。

表3 基于可信執行環境的數據計算平臺基礎能力測試項列表

3.1.4 區塊鏈輔助的隱私計算技術工具

隱私計算雖然實現了在多方協作計算過程中的數據可用不可見，但是計算過程和結果均缺乏可驗證性。將區塊鏈技術對計算的可信證明應用到隱私計算中，可以輔助增強隱私計算任務中數據端到端及全生命周期的隱私性、安全性和可追溯性。對于區塊鏈輔助的隱私計算技術工具，需要從系統管理能力、數據處理能力、計算能力、安全性、性能等角度進行評估。表4為區塊鏈輔助的隱私計算產品基礎能力測試項。

表4 區塊鏈輔助的隱私計算產品基礎能力測試項列表

3.2 性能專項評估

隱私計算產品普遍具備的計算功能可以概括為基礎運算、聯合統計、隱匿查詢、安全求交、特征工程、聯合建模和聯合預測七大類，各類算法的安全性、結果的準確性、計算耗時，三者之間相互影響、相互抵消，需要持續不斷優化，才能達到更高層次的平衡。滿足安全性與準確性要求是評估的必要條件，計算耗時是評估的主要參考維度。面向不同場景的計算耗時測試只有滿足安全性、準確性要求才具備有效性。基于多方安全計算和基于聯邦學習的隱私計算產品在覆蓋的場景范圍和安全性要求上略有差異。

3.2.1 安全性要求

隱私計算產品應滿足通信信道安全、身份認證、計算結果安全、安全參數、密碼安全等通用性安全要求。對于每種不同的算法，產品也應滿足算法層面的安全要求，從而保證在產品的使用過程中，用戶數據隱私不會被泄露。

性能專項評估的主要功能是在盡可能保證相同效果的前提下對比不同產品的性能表現。因此，該評估的安全性要求僅為最低可接受的門檻值，評估方式包括專家評審、一致性檢驗等。首先，需要對產品的設計文檔、算法說明、參考文獻、已公開發表的論文進行評審，確定產品的安全等級；其次，需要對隱私計算產品的核心代碼、關鍵日志、通信報文進行交叉核驗，確認產品的實際方案與評審內容一致。

3.2.2 準確性要求

隱私計算產品在某些特定算法中會舍棄或丟失部分精度，這導致了其最終的計算結果與明文直接計算存在一定程度的偏差，小范圍內的偏差在實際應用中是可以被接受的。因此，針對各種不同的算法，應設置不同的準確性要求，計算結果滿足該要求則表示其他成績有效。

在基礎運算、聯合統計、特征工程等場景中，使用隱私計算產品得到的結果和明文本地計算結果的相對誤差進行核驗，相對誤差應保持在業務可接受的范圍內；在隱匿查詢、安全求交和聯合預測等場景中，隱私計算產品得到的結果和明文本地計算結果應保持一致；在聯合建模場景中，使用同樣的數據集樣本、輸入特征、訓練參數，分別使用隱私計算產品和傳統機器學習程序進行建模訓練，核驗隱私計算產品訓練得到模型的評價指標和明文基準模型的評價指標是否保持在較小的絕對誤差范圍內。

3.2.3 計算耗時

計算耗時是性能專項評估的主要參考維度，當任務的執行過程滿足安全性要求且結果滿足準確性要求時，計算耗時能夠直觀地反映出產品性能的優劣，具有一定程度的可比性。在計算耗時的測試中，除了需要記錄任務的總耗時外，還應記錄任務各階段耗時，以體現不同的產品的差異性。

3.3 安全專項評估

隱私計算產品的安全評估方法主要包括專家評審及一致性驗證。首先，需要對產品的設計文檔、算法說明、參考文獻、已公開發表的論文進行評審，確定產品的安全等級；其次，需要對隱私計算產品的核心代碼、關鍵日志、通信報文進行交叉核驗，確認產品的實際方案與評審內容一致。

安全評估的參考維度包括算法安全、安全參數、數據安全、通信安全、系統安全、結果安全、日志與存證。與性能專項評估中的安全性要求不同，安全專項評估的主要功能是對比不同產品的安全性、隱私性。在安全專項評估中，設置了多個等級的安全需求，根據產品在每個維度中每個測試項的表現綜合定級。

4 結束語

由于隱私計算技術是解決當下數據利用與數據安全并重發展的關鍵，隱私計算產品化、商業化進程逐步加快，因此對隱私計算產品進行綜合評估顯得尤為重要。本文闡述了隱私計算產品化的發展歷程和現狀，并為當前處于早期發展的隱私計算提出了一套產品評估體系，主要就隱私計算相關的多方安全計算、聯邦學習、可信執行環境等關鍵技術和區塊鏈隱私計算融合技術提出了功能評估方法，驗證產品的調度管理、數據處理、聯合計算、運維管理等基礎功能，并在此基礎上提出了隱私計算產品的性能、安全性的評估方法，以此衡量隱私計算產品在關鍵風險點上的安全性和重點算法場景下的性能表現。

隱私計算存在多種不同的技術路徑，技術路徑之間的差異明顯，同一技術路徑下不同產品的實現也相互獨立，數據資源的互聯互通只能基于不同的技術平臺分塊實現，增加了應用側的使用成本。作為數據合規流通的關鍵技術手段，隱私計算技術打造的產品和平臺下一步將有更廣泛的互聯互通趨勢，未來可能會演變為數據流通的基礎設施，具備公共用品屬性。因此，隱私計算跨平臺互聯互通的技術規范和評估方法也是下一步需要關注的重點。