《生成式人工智能服務 安全基本要求》（征求意見稿）發布

2023年10月11日，全國信息安全標準化技術委員會發布《生成式人工智能服務 安全基本要求》（征求意見稿）。文件給出了生成式人工智能服務在安全方面的基本要求，包括語料安全、模型安全、安全措施、安全評估等。

文件適用于面向我國境內公眾提供生成式人工智能服務的提供者提高服務安全水平，適用于提供者自行或委托第三方開展安全評估，也可為相關主管部門評判生成式人工智能服務的安全水平提供參考。

相關政策回顧

今年7月，國家網信辦聯合國家發展改革委、教育部、科技部、工業和信息化部、公安部、廣電總局公布了《生成式人工智能服務管理暫行辦法》（簡稱《辦法》）。《辦法》提出國家堅持發展和安全并重、促進創新和依法治理相結合的原則，采取有效措施鼓勵生成式人工智能創新發展，對生成式人工智能服務實行包容審慎和分類分級監管。

在生成式人工智能服務規范方面，《辦法》要求采取有效措施防范未成年人用戶過度依賴或者沉迷生成式人工智能服務。規定提供者應當按照《互聯網信息服務深度合成管理規定》對圖片、視頻等生成內容進行標識。規定提供者發現違法內容的，應當及時采取停止生成、停止傳輸、消除等處置措施并采取模型優化訓練等措施進行整改。明確提供者發現使用者利用生成式人工智能服務從事違法活動的，應當依法依約采取有關處置措施，保存有關記錄，并向有關主管部門報告。