BCS2022|AI安全論壇舉辦 共建AI安全新生態

7月30日，2022北京網絡安全大會AI安全論壇在京舉行。論壇由奇安信集團、百度安全聯合主辦，以“智能改變生活，安全構筑基石”為主題，邀請來自復旦大學、浙江大學和清華大學的資深教授，圍繞人工智能的安全和隱私保護進行深入探討。

百度副總裁馬杰指出，人工智能安全不僅成為業內高度關注的議題，也是我國網絡安全能力體系建設過程中不可或缺的關鍵一環。2020年百度率先提出了Security、Safety、Privacy——AI安全研究三大維度。自動駕駛安全研究項目“鐵馬冰河”打造了一個聚焦于沉浸式高擬真場景、富含AI對抗的安全測試平臺，在評測中結合元宇宙，創造更接近于真實路測效果的隨機狀況，降低測試的綜合成本。百度安全也將在未來與產學研各界合作伙伴開放合作，共筑AI安全新防線，探索AI未來的新可能。

復旦大學計算機科學技術學院副院長楊珉圍繞聯邦學習安全、自動駕駛安全和機器學習及服務安全三個主要應用場景，分享了團隊的最新研究發現。他表示，AI模式在開放網絡環境應用中存在著新興風險，亟待提高重視。而在安全攻防視角下AI系統的安全研究，需要把兩大領域的技術能力進行融合，也對相關人才提出了更高的要求，希望相關單位聯合推進人才培養。

針對保護用戶隱私和數據資產的問題，百度安全部數據安全業務副總經理韓祖利分享了“隱私計算構筑數據要素市場安全體系”。他介紹，基于聯邦學習、安全多方計算、機密計算、安全數字沙箱等一系列隱私計算技術的百度點石目前已擁有政務數據、增強營銷、金融服務等多領域解決方案，具備全生命周期、一體化平臺、靈活可嵌入的特點。并且，希望未來通過參與標準制定、開源代碼等方式，能與更多企業和研究機構一起，把更安全的數據方式推廣到各行各業，將隱私計算落地到更多行業之中。

圍繞物聯網安全，浙江大學教授徐文淵給設備安全和信息安全比喻為“軀體”和“靈魂”。她表示，物聯網已經發展到“有感有控”的階段，作為信號和信息之間理想映射和實際映射不一致而引發的缺陷，帶外脆弱性可以通過檢測及時發現。徐教授呼吁，希望更多同學、同行在保護網絡安全的同時，也考慮綜合譜信號安全風險。如何系統性挖掘帶外脆弱性，也將是未來的發展方向。

圍繞AI賦能安全主題，清華大學副教授張超分享了“二進制代碼相似性智能檢測”的報告。他指出，近年來的探索表明，基于AI的二進制代碼相似性檢測方案比傳統方案更有效，而智能化的方案也經歷了基于CNN直接提取代碼特征、基于GNN提取特征、基于NLP模型提取特征的三個階段，最新的jTrans方案基于NLP模型融合代碼知識取得了更好的效果。有了AI的加持，軟件供應鏈安全分析、知識產權保護、漏洞搜索等多領域應用將會迎來更大發展。

百度安全部主任架構師包沉浮分享了“人臉實名認證的安全風險及應對”。他表示，人臉認證作為AI技術的重要產業應用，是從終端數據采集、數據傳輸到服務端認證邏輯的一整套流程，因此不可避免的存在各種安全挑戰，而防御角度不只是針對AI 本身模型或AI算法模型，而是一整套防御系統，實現端到端的全鏈路防護。提高人臉認證安全性，也需要新的、系統性的AI安全技術手段作為支撐。

圍繞人臉識別，奇安信人工智能研究院高級算法工程師劉昱均以“洛基平臺”為例，分享了人工智能安全檢測算法研究與實踐。她介紹，洛基平臺針對目前人工智能領域中的安全問題，從數據可信和模型安全兩個角度，全面建設AI安全能力。目前平臺部署了對抗攻擊與防御、深度偽造與鑒別、隱寫信息加解密三大模塊。