發布 | 《人工智能安全風險及治理研究》

9月16日，第十七場“工信安全智庫”系列報告在線發布活動成功舉辦。信息政策所網絡安全研究室工程師葉曉亮發布了洞察報告《人工智能安全風險及治理研究》。報告界定了人工智能風險的范圍，闡述了人工智能安全的內涵，分析了人工智能及其典型應用場景的風險，跟蹤了國內外人工智能安全治理動向，針對我國人工智能安全發展提出了對策建議。

報告指出，當前人工智能技術迎來了新的發展高潮，但在其技術發展和落地過程中，由于技術不確定性等因素，給個人隱私保護、社會倫理甚至國家安全帶來諸多風險和挑戰，針對人工智能安全的研究迫在眉睫。《中華人民共和國國民經濟和社會發展第十四個五年規劃和2035年遠景目標綱要》提出加快人工智能安全技術創新，人工智能安全已成為未來國家戰略、政府工作的重要組成部分。

報告認為，人工智能技術及其應用存在技術本身脆弱性、被惡意利用、數據泄露以及倫理道德等安全風險。世界主要國家、地區及國際組織紛紛在人工智能風險識別及安全治理領域發力，積極推動人工智能應用可信可靠。我國應加強人工智能自身及安全技術研究，完善政策法規及倫理道德規范體系，優化多層監管治理體系及監管力度，建立安全檢測評估及應急處置機制，強化多領域實操性人才深度及廣度。

作者簡介：葉曉亮，就職于國家工業信息安全發展研究中心信息政策所網絡安全研究室，主要研究領域為：網絡安全、工業信息安全、AI安全等。

聯系方式：yexiaoliang@cics-cert.org.cn.

作者簡介：陳羽凡，就職于國家工業信息安全發展研究中心信息政策所網絡安全研究室，主要研究領域為：網絡安全產業、網絡安全保險、網絡安全產教合作等。

聯系方式： chenyufan@cics-cert.org.cn.