中國信通院聯合發布《大模型治理藍皮報告（2023年）——從規則走向實踐》

近一年來，以ChatGPT為代表的大模型技術引發通用人工智能新一輪發展熱潮，成為改變世界競爭格局的重要力量。與此同時，圍繞人工智能治理的議題探討顯著增多，全球人工智能治理體系加速構建。我國人工智能治理框架和治理規則日漸成熟完善，積極開展技術工具和評估方法研發落地，推動人工智能治理從規則走向實踐，力圖為全球人工智能治理提供可行方案。

2023年11月24日，中國信息通信研究院和中國科學院計算技術研究所在“2023江西國際移動物聯網博覽會”上發布了《大模型治理藍皮報告（2023年）——從規則走向實踐》。中國信通院政策與經濟研究所所長辛勇飛對藍皮報告進行了深度解讀。

藍皮報告首先分析了大模型技術變革引發的風險挑戰，提煉出大模型治理基本框架；然后聚焦各方高度關注的四大議題，探討相應制度方案，同時挖掘歐美等主要國家和地區在大模型治理領域最新動態趨勢；最后聚焦到我國以事前備案、全流程評估、事后溯源檢測為代表的大模型治理落地實踐，期望為完善大模型治理體系提供有益參考。

報告核心觀點

1. 大模型變革帶來的風險挑戰

大模型基于大數據、大算力、多模態的技術優勢，實現了從感知世界、理解世界向創造世界的躍遷，成為內容生產方式的“顛覆者”、通用人工智能的“先行者”、人機交互的“協作者”。技術變革的同時帶來四維度風險挑戰，大模型幻覺、涌現效應等加劇模型自身風險，大模型技術濫用、情感計算等侵犯個人人格尊嚴，大模型版權侵權、數據泄露等危及企業商業秘密等利益，同時在就業替代、加深數字鴻溝等方面沖擊社會穩定。

2. 大模型治理聚焦四大核心議題

一是探索數據治理規則，構建高質量訓練數據。關注數據流通共享、數據標注、合成數據應用等，積極探索數據來源合法性基礎、透明度保障、刪除權等權利困境。二是創新知識產權保護，優化從訓練數據的輸入端的版權治理到人工智能生成物輸出端的版權保護，激勵技術創新。三是探索大模型倫理治理應對策略，探索RLHF、解釋性等價值對齊方案，確保大模型可控可信。四是強調信息內容治理，標識工具和平臺責任成為信息內容治理的主要抓手。

3. 全球大模型治理最新動態趨勢

全球大模型治理體系加速構建。美國從各部門松散式行業治理走向拜登政府統籌的政府集體行動，總體仍體現“對內發展、對外競爭”的治理內核。歐盟繼續發揮人工智能治理領域的布魯塞爾效應，加緊推進《人工智能法案》的制定進程。英國力圖以促進創新的監管方法引領全球治理，打造本土產業發展優勢。聯合國、G7和金磚等國際組織在大模型治理國際合作中各顯其能，各有側重推動大模型治理的國際化進程。

4. 探索我國大模型治理的主要落地工具

事前階段，我國通過備案制度推進大模型實現面向監管的透明度，報告梳理了備案要求和備案現狀。在風險動態管控方面，我國主張全流程安全評估，各界積極推進安全評估標準化、智能化，目前學界業界發布了各類評測工具和評測平臺，但存在評價方式、標準不統一、評估結果差異大等問題。事后溯源檢測方面，我國探索基于隱式標識的檢測、基于內容分布的檢測等技術工具，實現細粒度來源追蹤和責任追溯。

報告目錄

一、大模型治理的重要性緊迫性凸顯

（一）大模型技術浪潮興起    

（二）大模型引領數字化變革

（三）大模型帶來的典型風險

二、技術變革下大模型治理框架日漸明朗   

（一）治理模式：敏捷治理成為國際較為通行的治理方案

（二）治理主體：激勵多元主體協同治理成為全球共識    

（三）治理機制：軟硬兼施推進大模型治理

三、聚焦大模型治理核心議題規則   

（一）數據治理規則    

（二）知識產權保護    

（三）倫理問題治理    

（四）信息內容治理    

四、把握全球大模型治理最新動態趨勢 

（一）美國從松散碎片式治理逐步趨向體系化治理

（二）歐盟繼續發揮人工智能治理領域布魯塞爾效應  

（三）英國力圖以促進創新的監管方法引領全球治理  

（四）國際組織在大模型治理國際合作中各顯其能

五、探索我國大模型治理主要落地工具  

（一）事前備案

（二）全流程評估  

（三）事后溯源檢測    

六、完善我國大模型治理體系的思路建議    

（一）確立促進創新的人工智能敏捷治理理念  

（二）聚焦人工智能場景應用細化制度方案

（三）立足當前治理實踐創新人工智能治理工具    

（四）激勵企業積極管控風險以推動平臺合規   

（五）促進全球人工智能合作治理體系構建