聚焦算法推薦亂象問題 構建算法安全治理體系
隨著大數據和人工智能技術的快速發展，算法推薦技術在互聯網信息服務中得到廣泛應用，與此同時算法應用中存在的違法和不良信息傳播、侵害用戶權益、操縱社會輿論等亂象問題也屢次出現。2021年12月31日，國家互聯網信息辦公室、工業和信息化部、公安部、國家市場監管總局聯合發布《互聯網信息服務算法推薦管理規定》（以下簡稱《規定》）。作為互聯網信息服務領域貫徹落實《網絡安全法》《數據安全法》《個人信息保護法》的重要舉措，《規定》聚焦算法推薦服務亂象問題，構建算法安全治理體系，有效規范了互聯網信息服務算法推薦活動。
一、《規定》為應對算法推薦亂象提供指引和規范
（一）聚焦違法和不良信息傳播問題，引導算法應用合理規范
當前，算法推薦服務提供者在開展新聞信息推送、熱點榜單、信息發布等活動時，存在傳播違法和不良信息的亂象：一是利用生成合成類算法自動合成新聞、帖子等，未作顯著標識造成虛假信息夸大傳播；二是采用定向推送類算法在首頁首屏、彈窗等，扎堆推送惡性案件、災難事故等負面信息誘發社會恐慌；三是利用排序精選類算法生成熱搜、榜單等，片面追求流量，大肆炒作娛樂八卦、低俗惡俗等有悖社會主義核心價值觀內容。
針對違法和不良信息傳播問題，《規定》明確算法推薦服務向上向善的原則，提出算法推薦服務提供者應建立健全用于識別違法和不良信息的特征庫、顯著標識算法生成合成信息、加強版面頁面生態管理、重點環節積極呈現主流價值導向信息等多項措施，鼓勵符合主流價值導向的正能量傳播。
（二）聚焦侵害用戶權益亂象，引導算法應用公正公平
當前，算法推薦服務提供者在開展調度決策、個性化推薦等活動時，存在侵害用戶權益的亂象：一是大數據殺熟問題，即根據消費者的偏好、交易習慣等特征，在交易價格等交易條件上實行不合理的差別待遇；二是誘導沉迷網絡問題，即設置誘導用戶沉迷、過度消費的算法模型，尤其是利用算法推薦誘導未成年人沉迷網絡；三是勞動權益保障問題，采用調度決策類算法進行工作調度時，未保障平臺內勞動就業者（如網約配送員、網約車駕駛員等）在勞務報酬、休息休假等方面的勞動權益；四是偏見歧視問題，將違法和不良信息關鍵詞記入用戶興趣點，或者設置歧視性、偏見性用戶標簽來推送信息內容；五是未成年人和老年人權益保障問題，向未成年人推送可能影響身心健康的信息，未充分考慮老年人適老化需求等。
針對侵害用戶權益亂象，《規定》明確算法推薦服務公正公平的原則，提出算法推薦服務提供者應定期審核評估算法、加強用戶模型和用戶標簽管理、公開算法推薦服務相關規則、保障用戶選擇或退出使用算法推薦服務的權利、建立用戶申訴渠道等多種措施，保障未成年人、老年人、勞動者權益，引導算法應用遵守社會公德和倫理，遵守商業道德和職業道德。
（三）聚焦操縱社會輿論亂象，引導算法應用公開透明
當前，算法推薦服務提供者在開展個性化推薦、熱點榜單、信息發布等活動時，存在操縱社會輿論亂象：一是采用個性化推薦算法按照用戶偏好頻繁推薦感興趣的內容，久而久之形成用戶意見極化的“信息繭房”；二是利用算法注冊虛假賬號、雇傭網絡水軍，實施虛假點贊、轉發等流量造假，或者鼓動“飯圈”粉絲互撕謾罵、刷量控評等飯圈亂象；三是利用算法屏蔽信息、過度推薦，操縱干預熱搜、榜單或檢索結果排序；四是實施自我優待，影響網絡輿論、規避監管，如惡意屏蔽其他企業的網址鏈接等。
針對操縱社會輿論亂象，《規定》明確算法推薦服務公開透明的原則，鼓勵算法推薦服務提供者綜合運用內容去重、打散干預等策略、增強規則透明度和可解釋性；明確規定算法推薦服務禁止行為，如不得利用算法對其他互聯網信息服務提供者進行不合理限制等，保障國家安全、公共利益及組織和個人合法權益。
二、《規定》為國家建立算法安全治理體系打下制度基礎
（一）強化企業主體責任，建立多方參與的算法推薦服務治理機制
《規定》圍繞算法推薦服務，建立政府、企業、行業組織和網民多方參與的治理機制。一是明確政府監管職責。《規定》明確國家網信部門負責統籌協調全國算法推薦服務治理和監督管理工作，工信、公安、市場監管等有關部門依據各自職責負責監督管理工作，同時通過《關于加強互聯網信息服務算法綜合治理的指導意見》建立網信、宣傳、教育、科技等多部門協同聯動長效機制，共同開展算法安全治理工作；二是強化企業主體責任。《規定》要求算法推薦服務提供者應當落實算法安全主體責任，建立健全算法安全管理制度和技術措施，配備相應的專業人員和技術支撐；三是鼓勵行業自律。《規定》鼓勵相關行業組織加強行業自律，建立健全行業準則，督促指導算法推薦服務提供者接受社會監督；四是倡導社會監督。《規定》鼓勵廣大網民積極參與算法安全治理工作，要求算法推薦服務提供者設置公眾投訴舉報入口，及時處理網民投訴舉報請求。
（二）創新技術監管模式，建立事前事中事后的算法推薦服務監管措施
《規定》提出貫穿算法推薦服務事前事中事后的監管體系。一是分級分類安全管理。《規定》根據算法推薦服務的輿論屬性或者社會動員能力、用戶規模、處理的數據敏感程度等對服務提供者實施分級分類管理，并對具有輿論屬性或者社會動員能力的算法推薦服務提供者提出更嚴格的管理要求；二是建立算法備案制度。《規定》要求具有輿論屬性或者社會動員能力的算法推薦服務提供者在提供服務之日起十個工作日內，對服務提供者的名稱、服務形式、應用領域等信息進行備案；三是建立算法安全評估機制。《規定》要求具有輿論屬性或者社會動員能力的算法推薦服務提供者應按照國家有關規定開展安全評估；四是開展算法監督檢查。《規定》規定網信部門會同有關部門開展算法安全評估和監督檢查工作，同時嚴厲打擊算法推薦違法違規行為。
三、小結
互聯網信息服務算法安全管理以《規定》為基礎，打造政府監管、企業履責、行業自律、社會監督的算法安全多元共治局面，在促進算法健康、有序、繁榮發展，營造風清氣正的網絡空間，弘揚社會主義核心價值觀的道路上邁出了重要的一步。下一步為貫徹落實《規定》可開展以下措施：
一是大力加強《規定》宣傳貫徹培訓。做好《規定》宣傳推廣、普及培訓，面向互聯網企業、人工智能企業、重點行業企業等開展針對性宣傳解讀，形成共識；鼓勵行業組織制定行業自律規則，指導會員加強算法推薦行業自律；針對廣大網民當前最關心、反映最強烈的算法安全問題，積極開展算法安全科普培訓，形成國家、企業、個人共同參與算法安全治理工作的良好局面。
二是建立算法安全檢查評估機制。盡快建立《規定》配套的算法安全檢查評估機制，推動算法推薦服務提供者開展算法安全自評估，督促具有輿論屬性或者社會動員能力的算法推薦服務者按照國家有關規定開展算法安全評估，建設安全檢查評估力量，支撐有關部門對算法推薦服務進行安全檢查，督促算法推薦服務提供者及時發現和整改相關問題。
三是開展算法安全技術能力建設。算法推薦技術作為一種新技術模式，面臨一些新型技術安全、應用安全甚至倫理安全風險，為支撐《規定》落地實施，亟需加強算法安全技術能力建設，深入研究生成合成、個性化推薦、排序精選、檢索過濾、調度決策等算法的安全問題，建設算法推薦服務備案、算法安全評估、算法安全風險監測等平臺，提升互聯網信息服務算法推薦技術監管能力。
四是加強算法安全標準化工作。基于問題導向、急用先行原則，加快推動算法相關技術標準發布，研究制定算法安全評估、算法分級分類安全管理等標準，進一步發揮標準對算法安全評估等工作的支撐作用；積極開展新技術新應用標準化前瞻研究，圍繞人工智能、區塊鏈等新技術新應用帶來的安全問題和風險挑戰，開展標準化前沿研究和標準化技術文件研制，不斷提升標準化工作的引領性、前瞻性。
