360杜躍進WAIC演講：AI安全面臨“七宗罪”挑戰
在近期舉辦的世界人工智能大會上，《數據安全法》引起熱議。“比起石油或者黃金來說，數據更像全球數字時代的血液，數據安全重要性不言而喻。”360集團副總裁、首席安全官杜躍進作了題為“數據與人工智能安全”的演講。他表示，未來數字世界的三大基礎是數據、智能（軟件、計算）與網絡，三者缺一不可構成數字時代，而數字時代則對安全提出了更大挑戰，其中，數據安全和AI安全，是兩個新的、相互關聯的基礎性安全領域，需要廣泛協作與開放創新來解決其中的安全問題。
作為國內網安龍頭，三六零(601360.SH，下稱“360”)還攜智能汽車、人臉識別、觸控一體機、IoT等人工智能和網絡安全前沿產品，集體亮相此次世界人工智能大會。
玩偶能通過人臉識別設備？AI安全面臨“七宗罪”挑戰
杜躍進指出，AI安全可以用“七宗罪”來形容，包括硬件、軟件、協議、算法、數據、應用與社會。具體來說，硬件層面，人工智能元器件在物理層面缺乏安全設計；軟件層面，任何軟件都有漏洞；協議層面，很多專用通信協議設計缺乏安全考慮；算法層面，算法本身可以被欺騙、誤導；數據層面，數據有可能被污染，被“投毒”；應用層面，人工智能技術可能被用于危害人類利益；社會層面，人工智能技術簡單化地應用于解決社會問題，可能導致事與愿違。
以應用越來越廣泛的人臉識別設備為例，“我們的AI安全研究團隊總共分析了7個廠商的7款人臉識別設備，發現每臺設備都有問題，包括存在后門、流量重放實現登錄，DLL劫持、APK組件泄露隱私信息、低權限實現開門控制，模型文件泄露、服務端口開放、未授權訪問等等。” 杜躍進舉例說，360曾做過一次實驗，可利用一臺人臉識別設備的漏洞攻擊算法模型，令其將小熊玩偶識別為人臉，并通過驗證。
為此，360 AI安全實驗室長期致力于研究人工智能基礎設施領域的安全問題，目前共發現了150多個機器學習框架及供應鏈漏洞，涉及被廣泛使用的Tensorflow，Caffe，PyTorch等主流深度學習開源框架，這些漏洞可造成任意代碼執行、拒絕服務攻擊、信息泄露等危害。
此外，風口上的智能汽車中也存在安全漏洞。“研究發現一些車輛可以通過互聯網直接控制，比如突然開啟車門、遠程發動。”杜躍進表示。據悉，360 Sky-Go團隊發現梅賽德斯-奔馳19個安全漏洞，利用漏洞可以構造攻擊鏈，可以實現對多個系列200余萬輛奔馳汽車的電力、動力系統的遠程無接觸控制，其控制場景包括對前后車門、車窗、車前燈、雨刷器的開啟關閉。
大數據殺熟？數據安全面臨被竊取、濫用和誤用問題
今年6月，我國首部關于數據安全的法律《中華人民共和國數據安全法》獲審議通過，并將于9月1日正式施行。
“數據安全，是當前最恐慌、最混亂的新問題。”在杜躍進看來，數據安全不僅是傳統的數據文件保密、數字版權保護、數據庫安全，也不僅是大數據平臺的安全，而是大數據和智能化時代下，從不同視角關注的數據防竊取/破壞、防濫用、防誤用三大問題。
具體來說，數據破壞，即黑客潛入其他主體的電腦，對文件加密、竊取或者刪除；數據濫用，即用戶的個人隱私和信息在別人手里，對方未經許可訪問這些敏感信息；數據誤用，即擁有大數據的主體對大數據的使用方法不當，導致用戶權益受損。
不同角色視角下，數據安全面臨不同的問題。杜躍進表示，對于個人來說，數據安全涉及隱私問題、不公正問題等，其中最典型的例子是大數據殺熟；對于企業和機構來說，數據安全則涉及資產損失、知識產權、利益分配、跨組織流動時的風險控制與合規要求；對于國家來說，數據安全則涉及國家安全問題。
開放創新，護航數據與AI安全
對于如何解決數據與人工智能安全問題，杜躍進表示，“沒有成熟方案，只有最佳方法，即廣泛協作、開放創新。” 因此，具體技術還需要迭代創新，而且在基本方法上要以數據為中心，以組織為單位，以能力成熟度為抓手；要從傳統的管理體系轉向社會化治理體系來應對解決；要建立復合機制，從只有處罰，轉變為處罰、幫助、獎勵并舉。
杜躍進介紹道，為應對人工智能與安全面臨的挑戰，360發揮龍頭企業優勢，踐行社會責任，承擔了國家級開放創新平臺的建設任務。一是建設“安全大腦國家新一代人工智能開放創新平臺”，該平臺致力于解決人工智能自身存在的安全風險、人工智能創新環境匱乏及在網絡安全領域創新成果落地難等問題。同時，平臺還將賦能中小初創安全企業、垂直行業、人工智能產業，提升國家人工智能安全整體防御能力，打造人工智能的“安全底座”。據悉，該平臺是科技部批復的由企業牽頭建設的15家“國家新一代人工智能開放創新平臺”中唯一聚焦人工智能與安全的平臺。
另一個是牽頭構建大數據安全協同技術國家工程實驗室。據悉，大數據協同安全技術國家工程實驗室，是針對我國大數據環境下數據安全和系統安全監測、預警和控制處置能力不足等問題，圍繞提升大數據安全分析能力和保障大數據系統自身安全的需求，建設大數據協同安全技術應用研究平臺。
最后，杜躍進表示，數字經濟還在快速發展變化中，因此，解決數據安全問題不能閉門造車，一定要從產業中來，到產業中去，在產業實踐中找問題，找方法，并不斷迭代和完善。
