中國信通院程瑩等：規范算法推薦，縱深推進數字時代網絡平臺治理 ——《互聯網信息服務算法推薦管理規定》解讀

當前，新一輪科技革命和產業變革蓬勃發展，數字化、網絡化、智能化加速推進，算法正成為網絡平臺的底層架構。在繁榮數字經濟、推動社會發展的同時，算法操縱、算法歧視、算法黑箱等一系列問題凸顯，對算法治理越來越必要，也越來越重要。習近平總書記多次強調，要加強網絡新技術新應用的管理，確保互聯網可管可控。為貫徹落實黨中央要求，及時回應廣大人民群眾關切，2022年1月4日，國家網信辦會同工信部、公安部、市場監管總局出臺《互聯網信息服務算法推薦管理規定》（以下簡稱“《管理規定》”），對算法推薦服務做出全面規范，科學構建網絡平臺問責體系，成為我國乃至全球第一部對算法進行全面、系統規范的立法。

總體來看，《管理規定》是在數字化變革時代對算法治理的有效回應，在立法目的上，旨在實現算法技術創新與用戶權益保障之間的良性動態平衡。在監管機制上，逐步由行業分散監管轉向整體統籌協調。在治理理念上，體現了綜合治理和精細治理并進的思路。

一、順應國際算法治理趨勢，提出中國本土化方案

從全球范圍來看，算法治理已經成為國際社會廣泛關注的重要議題。在國際組織層面，OECD、G20、IEEE等相繼發布人工智能、算法等倫理指南，推動算法實現透明可釋、公平公正、安全可控等。在區域和國家層面，歐盟提出技術主權話語體系，重點關注算法帶來的人類自主性、人性尊嚴威脅，以及日益突出的極端言論、政治生態等問題，通過《通用數據保護條例》《數字服務法（提案）》《數字市場法（提案）》《人工智能法（提案）》等制度構建，持續遏制美國巨頭平臺攫取歐洲數據資源，保障歐洲公民基本權利。基于多種族多文化、對公權力信任缺失等社會背景，美國在公共治理、招聘、司法等場景下，頻繁出現算法種族歧視、操縱政治選舉等問題，直接促使《紐約算法問責法》《機器人披露和責任法》等相關法律問世。

近年來，我國《電子商務法》《網絡信息內容生態治理規定》《個人信息保護法》《反壟斷法（修正草案）》等相關立法對算法問題已作出相關規定。從規制范圍來看，《管理規定》覆蓋對象頗為廣泛。不僅包括用于社交媒體、電商場景、搜索平臺的個性化推送算法、排序精選算法、檢索過濾算法，也包括適用于網約車、外賣場景下的調度決策類算法，還包括用于游戲和虛擬環境中生成內容的生成合成類算法。同時，不僅限于當前討論熱烈的具有典型算法黑箱性、數據依賴性和通用目的性的人工智能算法，同時也包含了當前應用廣泛，僅基于數學、邏輯學，用以實現輔助人類功能的非人工智能算法。

一方面，《管理規定》的出臺順應國際算法治理趨勢，體現算法公平正義、安全可信等共同價值，有助于我國參與國際算法治理合作，在全球范圍內發揮算法治理引領作用。另一方面，《管理規定》聚焦我國本土實踐，回應較為突出的信息繭房、干預信息呈現、網絡沉迷、大數據殺熟、勞動保障等熱點問題，重點關注商業領域算法應用場景，高度體現我國本土需求。

二、強化算法透明度要求，同時注意精細化區分

算法透明度是一種針對算法運行的規制原則，要求算法的設計方或者使用方披露算法邏輯、輸入數據等算法要素，有效解決算法操縱用戶思想行為、問責缺失等問題。對于深度學習算法，還面臨更為復雜的不可解釋問題。當前，揭開算法面紗、強化算法透明度已成為公眾熟知且被普遍認可的算法倫理準則，在部分國家和地區也已經寫入立法。

《管理規定》將算法公開透明列為基本原則，并從三個維度進行精細化設計，注重算法透明度目的和制度的統一，有效平衡算法透明和企業利益。首先，強調對用戶透明，明確告知機制。《管理規定》第16條規定平臺應當以顯著方式告知用戶其提供算法推薦服務的情況，并以適當方式公示算法推薦服務的基本原理、目的意圖和主要運行機制等。該條款并不要求披露源代碼，僅要求說明算法的運行邏輯、運行目的，同時強調以簡明有效的方式實現有意義的透明度，便于用戶實現知情權和選擇權。其次，對監管部門透明，確立算法備案制度。《管理規定》第24條要求通過算法備案系統填報服務提供者的名稱、服務形式、應用領域、算法類型、算法自評估報告、擬公示內容等信息。一方面，算法備案有助于監管部門掌握算法運行狀況，評估算法風險。另一方面，可作為固定證據的手段，在損害發生時，平臺應就算法損害結果、輸入數據、運行目的等是否符合備案信息進行說明解釋，并承擔不利后果。最后，對社會透明，推動廣泛監督。《管理規定》要求，遵循公開透明原則，鼓勵行業組織加強行業自律，督促指導平臺制定完善服務規范并接受社會監督，制定并公開算法推薦服務相關規則。由于大型平臺公共屬性增強，算法公開成為平臺履行社會責任的重要內容。

此外，算法透明度要求也進一步推動平臺積極探索人工智能算法的透明度方案。如引入知識圖譜、因果推斷等可解釋的技術；在深度學習算法中引入可理解的人工規則，不完全由深度學習算法模型完成自動化決策；對于算法模型進行可視化分析，輔助人們理解算法模型的決策邏輯，提升透明度等。

三、維護用戶自主選擇權利，亟需軟法配合落地

算法人工干預和自主選擇是重塑人類在算法應用中的自主性，避免算法操控的重要手段。歐盟《通用數據保護條例》第22條確立免于自動化決策權，其初衷即是避免人類受到未經人工干預的算法控制，以免造成人類自主性喪失、人類責任缺失等有損人類尊嚴的問題。隨著算法應用的普及，自主選擇權的實現需求更為迫切。在工信部開展的侵害用戶權益專項整治行動中，“剛剛聊到某個話題，很快就能在某個APP中收到相關廣告”“APP沒有關閉推薦算法的選項，有關閉選項的也隱藏在很難找到的地方”“用蘋果手機叫車，打車費用更高”等侵害用戶權益問題突出。

《管理規定》落實《個人信息保護法》《電子商務法》有關退出算法推薦的權利內容，要求平臺應當向用戶提供不針對其個人特征的選項，或者向用戶提供便捷的關閉算法推薦服務的選項。美國2021年6月《過濾氣泡透明度法（提案）》、俄羅斯立法等均提出應向用戶提供非基于算法生成的信息選項。同時，《管理規定》首次提出對用戶標簽進行選擇管理的權利，確保對輸入數據的干預。用戶標簽作為一種輸入數據，直接影響算法模型訓練和結果的生成。賦予用戶對針對個人特征用戶標簽的選擇、刪除權利，有助于用戶在一定程度主導個人興趣、避免歧視等。

在具體落地層面，單純退出算法推薦是否能滿足用戶最佳需求，如何在界面設計中滿足用戶對大量標簽的選擇刪除權利，針對隱性標簽如何實現標簽管理等，需要發揮行業標準、倫理規則、企業實踐等軟法作用，積極探索用戶賦權方式。如有平臺對用戶退出界面進行精細化設計，用戶既可以選擇關閉全部個性化推薦，也可僅關閉基于所在位置、基于搜索記錄、基于關注列表的個性化推薦，為更好平衡用戶體驗、個人自主及風險控制，提供了優質企業實踐方案。

四、全面確立平臺主體責任，同時注重場景回應治理

數字經濟背景下，平臺借助算法技術，成為數據生產要素的提煉加工者和資源配置方，同時扮演市場參與者和組織者雙重身份，具備了一定的社會權力。近年，國外網絡平臺責任改革趨勢顯著。2020年9月，美國司法部提出改革《通信規范法》230條款的法律提案指出，因使用算法推薦內容，平臺具備了審查言論，并將特定觀點施加于用戶的能力。2021年10月，美國眾議院提出《對抗惡意算法的正義法案》 ，指出為獲取利潤，平臺主動設計個性化算法宣揚極端主義、傳播虛假信息和有害內容，應當改革美國《通信規范法》第230條對平臺責任的豁免規則。2020年底，歐盟也發布《數字服務法（提案）》，擬對《電子商務指令》中的平臺責任進行改革。法案對超大型平臺使用算法推薦系統作出規范，要求向用戶說明推薦系統的運行規則、采用參數，并賦予用戶調整參數的權利。同時要求平臺定期向數據服務協調員和歐盟委員會提交審計報告，其內容包括風險評估、采取的風險控制措施等。

在我國平臺責任設置上，《管理規定》注重遵循主客觀相一致、權責一致的原則，并遵循《數據安全法》《個人信息保護法》等立法精神，進行分級分類和場景化治理。一方面，《管理規定》劃清算法推薦服務的紅線，規定了不得設置誘導用戶沉迷或過度消費、不得利用算法虛假注冊賬號等十項“不得”要求。另一方面，《管理規定》提出應當定期進行算法審核、評估，完善網絡日志留存，配合安全評估和監督檢查等十六項“應當”要求。在分級分類管理方面，確立了輿論屬性或者社會動員能力、內容類別、用戶規模、算法推薦技術處理的數據重要程度、對用戶行為的干預程度等判定標準，為平臺監管和企業合規提供指引。

同時，《管理規定》對部分重點場景進行集中回應。如對于未成年人網絡沉迷問題，落實《未成年人保護法》網絡保護專章內容，規定應當開發適合未成年人使用的模式、提供適合未成年人特點的服務，提出不得利用算法推薦服務誘導未成年人沉迷網絡等要求。在老年人權益保障方面，提出應按照國家有關規定提供智能化適老服務，依法開展涉電信網絡詐騙信息的監測、識別和處置，便利老年人安全使用算法推薦服務。在勞動者權益保障方面，要求平臺建立完善訂單派送、報酬構成及支付、工作時間和獎懲等相關算法，維護新就業形態勞動者的勞動權益。針對大數據殺熟問題，要求不得根據消費者的偏好、交易習慣等特征，利用算法在交易價格等交易條件上實施不合理的差別待遇等違法行為。

總體來看，數字經濟發展不斷提速，算法作為數字社會新型生產力的地位和作用日趨明顯，《管理規定》的出臺是上層建筑構建的重要步驟。下一步，以《管理規定》為重要法律依據，必將促進形成治理機制健全、監管體系完善、算法生態規范的算法安全綜合治理格局，推動數字經濟發展行穩致遠。