把算法推薦裝到制度規范的“籠子”里

隨著數字經濟的快速發展，大數據、算法已經成為人工智能的核心，算法推薦服務已融入社會生活的各個領域。應當看到，算法歧視、“大數據殺熟”、流量造假、電商平臺強制“二選一”、誘導沉迷等算法亂象給社會帶來嚴峻挑戰，依法保護用戶權益不受侵害，規范算法推薦服務行為，強化互聯網企業算法合規體系建設，促進算法相關行業健康發展成為當務之急。

中共中央印發的《法治社會建設實施綱要（2020—2025年）》提出制定完善對算法推薦、深度偽造等新技術應用的規范管理辦法。《網絡安全法》《數據安全法》《個人信息保護法》等法律和《關于加強互聯網信息服務算法綜合治理的指導意見》《互聯網信息服務算法推薦管理規定》等政策文件出臺并作出相關頂層設計，預示著國家對網絡空間的治理已經從數據治理邁向算法治理。

算法推薦服務規范的范圍

算法推薦服務，屬于信息自動化篩選、個性化分發的行為，需要以信息采集及分析等處理為基礎。算法已經歷多次變化，從開始的技術產品變為現在的網絡平臺工具，被用于向用戶提供網絡服務，承擔網絡空間的日常治理任務。尤其是人工智能技術的發展，算法已廣泛應用于社會生活和公共管理的各種場景，目前整個社會信息分發市場中，智能算法推薦型分發模式占比已超過70%，依法對算法推薦服務的規制及法律責任承擔，已成為全社會關注的熱點話題。算法推薦涵蓋了社會普遍關注的算法推薦熱點問題，如用戶模型、流量造假、個性化推送、未成年人身心健康保護、互聯網平臺勞動者權益保障、“大數據殺熟”等，容易影響政治安全、意識形態安全、社會秩序等。通常情況下，用戶在注冊使用某軟件前需要提供基本個人信息，用戶和算法推薦服務提供者之間存在著地位懸殊、認知局限等因素，用戶的知情同意權難以得到有效保障。由于算法推薦技術的專業性、復雜性和不透明性等技術特征，引發個人信息泄露、算法歧視、算法歸責困難等諸多法律問題，對用戶的個人信息知情同意權、平等權和財產權等權益產生深刻的影響。

在《網絡安全法》《數據安全法》《個人信息保護法》等頂層立法框架下，《互聯網信息服務算法推薦管理規定》與國家網信辦等出臺的《網絡信息內容生態治理規定》《互聯網用戶公眾賬號信息服務管理規定》《網絡音視頻信息服務管理規定》《互聯網直播服務管理規定》《具有輿論屬性或社會動員能力的互聯網信息服務安全評估規定》等互聯網信息服務相關法律規范有效銜接，確定了算法推薦服務依法治理的主要制度。依法規范算法推薦保護用戶權益的范圍包括：生成合成類，主要規范內容聚合、內容自動化生成及內容合成服務；個性化推送類，主要規范基于用戶畫像而進行的內容、商品或服務的個性化推送服務；排序精選類，主要規范內容服務提供者的版面頁面管理，諸如首屏、熱搜、精選、榜單、彈窗等；檢索過濾類，主要規范搜索引擎、內容檢索、內容干預等服務或行為；調度決策類，主要規范工作調度服務，諸如快遞平臺、出行平臺等。

依法規范算法推薦行為的制度

確立算法服務治理的基本原則。目前，少數算法推薦服務提供者采用技術手段實施流量造假、流量劫持以及虛假注冊賬號、非法交易賬號、操縱用戶賬號等違法行為，組織“水軍”制造虛假閱讀量、評論量、轉發量、點贊量、下載量、曝光量等，嚴重損害用戶合法利益，迫切需要確定算法推薦服務的治理原則。算法推薦服務提供者既應當遵守法律法規，尊重社會公德和倫理，遵守商業道德和職業道德，也應當遵循公正公平、公開透明、科學合理和誠實信用的原則；堅持主流價值導向，優化算法推薦服務機制，積極傳播正能量，促進算法應用向上向善。

確保算法推薦透明度和可解釋性。算法作為蘊含在軟件和網絡平臺內部的運行規則，具有很強的隱蔽性，長期以來，算法推薦服務的商業模式和競爭模式缺乏透明度，無法保證用戶個人的知情權和自決權。算法透明是實施算法監督、自主選擇的重要前提，也是用戶進行權利救濟的必要保障。為此，《個人信息保護法》明確要求個人信息處理者進行自動化決策時，應當保證決策的透明度。通過自動化決策方式作出對個人權益有重大影響的決定，個人有權要求個人信息處理者予以說明，并有權拒絕個人信息處理者通過自動化決策的方式作出決定。用戶認為算法推薦服務提供者應用算法對其權益造成重大影響的，有權要求算法推薦服務提供者予以說明并采取相應改進或者補救措施。

建立分類分級管理制度和備案管理制度。目前，“網絡水軍”實施有償刪帖、虛假刷評、造謠引流、假冒新聞媒體敲詐勒索等違法行為，誤導社會公眾，嚴重損害了網民的合法權益，擾亂網絡輿論環境，破壞公平競爭的市場秩序。根據算法推薦服務的輿論屬性或者社會動員能力、內容類別、用戶規模、算法推薦技術處理的數據重要程度、對用戶行為的干預程度等，對算法推薦服務提供者實施分類分級管理，并實施嚴格的監管措施。特別是具有輿論屬性或者社會動員能力的算法推薦服務提供者，應當依法填報名稱、服務形式、應用領域、算法類型等信息，履行備案手續，避免網絡安全隱患，有效防范網絡安全風險。

開展評估和監督檢查。強化網絡平臺在算法運行中的全流程主體責任，規范具有輿論屬性或者社會動員能力的算法推薦。國家相關政策文件明確將完善記入用戶模型的用戶標簽管理規則作為算法推薦服務提供者的合規義務，要求完善有關事前事中評估，禁止迎合用戶“惡趣味”的信息推送。《個人信息保護法》規定，利用個人信息進行自動化決策的，個人信息處理者應當事前進行個人信息保護影響評估，并對處理情況進行記錄。評估內容主要包括：個人信息的處理目的、處理方式等是否合法、正當、必要；對個人權益的影響及安全風險；所采取的安全保護措施是否合法、有效并與風險程度相適應等。

重視特殊群體的權益保護。算法推薦服務提供者借助算法對用戶消費數據及個人屬性數據進行分析整理，形成用戶模型或用戶標簽，并以此為基礎進行精準推送。在互聯網時代，未成年人沉迷網絡和老年人上當受騙的問題引起社會的廣泛關注。由于未成年人價值觀尚未健全，缺乏辨別正確價值觀的能力，老年人擋不住騙局的誘惑，極易掉進網絡平臺的“算法陷阱”里。算法推薦服務提供者應當向用戶告知算法的基本原理、目的意圖和主要運行機制等，充分保障用戶選擇關閉和獲得算法解釋的權利。依法對未成年人、老年人和勞動者履行特殊的保障義務，建立特殊群體維權投訴處理機制和賠償制度，確保其獲得法律保護。

保障算法實施結果的公平性。互聯網平臺企業運用大數據收集消費者的信息，分析其消費偏好、消費習慣、收入水平等，將同一商品或服務以不同價格賣給不同的消費者從中獲取更多利益，這種交易價格差別待遇的違法行為嚴重損害了消費者權益。《個人信息保護法》響應社會對“大數據殺熟”規制的呼吁，規定網絡平臺利用個人信息進行自動化決策，應當保證決策的透明度和結果公平、公正，要求個人信息處理者必須對所用算法進行檢查和審視，保證自動化決策的透明度和結果的公平、公正，不得對個人在交易價格等交易條件上實行不合理的差別待遇，以保證算法公平，維護廣大網絡用戶的平等權。