生成式人工智能的風險挑戰與監管框架

4月11日，國家互聯網信息辦公室發布《生成式人工智能服務管理辦法（征求意見稿）》（以下簡稱《征求意見稿》）向社會公開征求意見，擬進一步促進生成式人工智能技術健康發展和規范應用，對類似ChatGPT、Midjourney、文心一言等生成式人工智能服務提出明確合規要求。

生成式人工智能的風險挑戰與監管回應

生成式人工智能，是指基于算法、模型、規則生成文本、圖片、聲音、視頻、代碼等內容的技術，它可以憑借自主學習和自我優選的技術能力，實現較好的內容生成效果，在傳媒、零售、法律、醫療、金融等領域提供專業化、個性化內容生成服務。從ChatGPT到百度的文心一言，再到OpenAI公司發布的最新版本GPT-4等各類生成式人工智能，一場生成式人工智能技術熱與淘金熱正愈演愈烈。

然而，由于生成式人工智能所生成的內容直接與其輸入數據源密切相關，且輸入數據類型和輸出內容攜帶的價值判斷往往多種多樣且參差不齊，這使得在技術開發與使用過程中面臨全新的法律規制風險與科技倫理挑戰，如數據源違規收集、算法失控風險、內容真假難辨、虛假信息泛濫、隱私保護缺位、侵害知識產權以及不正當競爭等問題。這將不可避免地打破技術創新與安全管控的平衡，給監管提出前所未有的挑戰。

對此，共21條的《征求意見稿》從不同角度對開發和利用生成式人工智能的行為作了監管回應，對生成式人工智能服務提供者提出遵守法律法規尊重社會公德公序良俗的基礎原則性要求，明確人工智能服務提供者的準入手續、產品責任、訓練數據來源合法性責任、個人信息保護義務、內容管控義務、標識義務等以及違反規定后將面臨的責任追究等問題。

生成式人工智能應用的全過程監管框架

《征求意見稿》形成了關于生成式人工智能應用的全過程監管框架。從準入門檻到技術研發、算法設計、數據訓練，再到產品使用和事后反饋，均被納入監管。

首先，準入環節嚴格，《征求意見稿》規定了生成式人工智能的安全評估與算法備案制度，如第六條明確，生成式人工智能產品向公眾提供服務前，應當按照《具有輿論屬性或社會動員能力的互聯網信息服務安全評估規定》向國家網信部門申報安全評估，并按照《互聯網信息服務算法推薦管理規定》履行算法備案等手續。這成為人工智能服務提供者開展生成式人工智能服務的前置性要求。該規定承繼了《互聯網信息服務深度合成管理規定》第十九條、第二十條的管理原則，有助于國家監管機構借助外部監督對生成式人工智能產品的潛在風險進行事前評估，增強人工智能產品的安全性、可解釋性及可問責性。

其次，《征求意見稿》針對生成式人工智能產品的技術開發和服務提供過程，明確了內容治理方面的要求。生成式人工智能的發展，進一步強化了深度合成技術治理場景下各類虛假信息的制造和傳播風險。對此，《征求意見稿》第四條對內容治理的基本原則作了具體規定，明確生成式人工智能的生成內容應當避免出現法律法規禁止或限制的行為和內容，應當尊重社會公德、公序良俗，體現社會主義核心價值觀。該條還特別指出，利用生成式人工智能生成的內容應當真實準確，并要求人工智能服務提供者采取措施防止生成虛假信息。此外，《征求意見稿》還具體明確了人工智能服務提供者的內容生產者責任、內容管控義務及舉報義務、違法信息的及時處置義務以及生成內容的審核標識義務，并就不得生成歧視性信息的問題作了明確規定。這有助于防止利用生成式人工智能開展社會輿論操縱、認知對抗等擾亂網絡社會秩序的行為發生。

最后，《征求意見稿》針對生成式人工智能產品的算法設計、數據訓練、產品使用與事后反饋過程，明確規定了數據合規、算法安全、知識產權保護以及用戶權益保護等方面的要求。除對知識產權侵權、個人信息安全、數據泄露風險、不正當競爭等傳統數字治理領域風險的規制外，《征求意見稿》還明確規定了人工智能服務提供者應當對生成式人工智能產品的預訓練數據、優化訓練數據來源的合法性負責，并強化了數據訓練過程中的算法合規要求，這有助于避免算法歧視和信息繭房等問題。此外，《征求意見稿》還特別回應了用戶權益保護的監管要求，在第四條原則性規定的基礎上，要求生成式人工智能產品服務提供者履行防沉迷義務、個人信息保護義務、用戶教育義務，確保服務安全穩健透明，并建立了投訴處理機制。

全球人工智能科技競爭背景下的監管框架完善

評判當前生成式人工智能的監管框架是否合理，除考量其是否能有效應對當前技術變革帶來的風險挑戰外，還需立足于全球人工智能服務科技競爭的大背景，判斷其是否有助于引領我國相關行業創新。值得肯定的是，《征求意見稿》提出的關于數據標注以及生成內容真實準確性問題，有助于倒逼科技創新者進行技術迭代和創新；在處罰措施方面的規定相對克制，給出了鼓勵發展、強化溝通的監管信號。結合《中華人民共和國網絡安全法》《中華人民共和國數據安全法》《中華人民共和國個人信息保護法》《互聯網信息服務算法推薦管理規定》《互聯網信息服務深度合成管理規定》等既有法律法規，我國在人工智能領域的法律治理體系已初步形成，這將引領人工智能產業朝著合規方向穩健發展。

仍待完善的是，《征求意見稿》對于人工智能服務提供者的合規要求可能標準過高，很難落地，也容易抑制技術創新。例如，《征求意見稿》明確了人工智能服務提供者對不法內容進行過濾、防止再次生成的內容管控義務。然而在實踐中，為有效過濾不法信息，要求在內容生成階段就必須同步進行監測與審核，這對相關技術開發提出了較高要求。對新技術的治理，需要在創新發展與風險規避之間尋求平衡，阻礙技術創新帶來的風險可能遠遠大于技術應用的風險。因此，在生成式人工智能技術早期探索階段，應當適度降低內容審查方面的要求，只要求人工智能服務提供者在現有技術可及的監測能力之合理范圍內對人工智能生成內容承擔管控義務。又如，由于當前相關技術尚處于發展初期，人工智能生成內容很難保證完全真實準確，因此《征求意見稿》所提出的防止生成虛假信息、從數據源頭確保數據標注真實準確等要求，應當被理解為一種監管政策的引導，不宜在實踐中被機械地運用，否則將可能極大削弱相關企業的創新積極性。