人工智能的安全挑戰

近兩年人工智能（Artificial Intelligence）已經成為一個炙手可熱的名詞，各行各業尤其是信息產業已將人工智能視為行業的下一個發展方向。

遍地開花的人工智能 人工智能不斷涌現的各種成果頻繁刺激著社會的認知，改變著人們的生產生活方式。各類智能機器人不斷面世，機器人索薇婭成為全球首位被賦予法律公民身份的機器人；繼AlphaGo橫掃圍棋大師后，來自國產的人工智能程序星陣圍棋（Golaxy）也戰勝了中國圍棋第一人柯潔；在自動駕駛領域，美國和中國的人工智能無人駕駛進展遙遙領先，無人車上路正在逐步變為現實?? 無論是資本領域，還是國家層面，都敏感地意識到了人工智能可能帶來的變革。各國在頂層設計上出臺各種政策規劃，促進人工智能產業發展，力圖搶占未來科技制高點。美國的《美國國家人工智能研究和發展戰略計劃》，歐盟的《歐盟人工智能》草案積極推動發展人工智能行業；我國的《新一代人工智能發展規劃》、《促進新一代人工智能產業發展三年行動計劃》以及十三五規劃，更是對人工智能的創新發展做出了戰略部署。 在中國這個最大的全球市場支撐下，人工智能的應用在中國發展的風生水起。人們日常的信息獲取、出行、網購、身份識別、語音互動等場景，人工智能技術早已深植其中。2017年麻省理工科技評論公布年度全球十大突破技術，包括深度學習、刷臉支付、自動駕駛等在內的人工智能領域熱門技術均入選，而這些技術的主要研究者包括了科大訊飛、阿里巴巴、百度等多家中國企業，表明我國在人工智能技術研究方面已經走在了世界前列。 在政務應用上，我國也開始采用人工智能技術提升工作效能，促進政務服務創新。如應用了人工智能技術的“天網”目前已在全國16個省市自治區部署，其動態人臉識別技術成效顯著；在司法領域，法院智能研判系統可以為法官提供辦案規范和量刑分析等精準信息，刑事案件智能輔助辦案系統可對幾萬份刑事案件的卷宗、文書數據進行“深度學習”；部分城市已經開始試點為市民提供基于智能語音技術的人機互動咨詢服務?? 顯然，人工智能無論在改善民眾生活還是提升政府能力方面，都在發揮著越來越重要的作用。雖然美國是當前人工智能領域的領跑者，但中國正在迎頭趕上，尤其在應用方面更勝一籌。

利大于弊 人工智能存爭議 在人工智能如火如荼發展的同時，對人工智能的未來也存在著不同的聲音。 科技界對人工智能存有深深的擔憂，他們認為人工智能所帶來的改變，將對現有的法律體系、道德標準以及利益分配模式帶來沖擊，從而影響到現有的社會體制。人工智能越“聰明”，就越會威脅到人類的生存。 著名的物理學家霍金生前一直堅定認為人類應該節制甚至停止發展AI技術。他認為當人工智能發展的足夠成熟時，尤其是機器人擁有獨立思維和邏輯判斷能力時，將是人類最危險的時候。 特斯拉的CEO馬斯克也對人工智能發出了自己的警告。盡管作為前沿的科技領袖，馬斯克夫對人工智能的典型應用無人駕駛技術情有獨鐘，但他一直以來都認為人工智能是人類生存的最大威脅，最直接的就是人工智能將取代人類工作，導致大量失業。他在回應俄羅斯總統普京提出的誰能成為人工智能領域的領導者，就可能主宰這個世界的言論時還表示，對人工智能統治權的爭奪可能引發第三次世界大戰，因為人工智能時代的戰爭不是由某國領導人發起的，人工智能會自動規劃戰略，如果算法認為能夠獲勝，就有可能發起戰爭。 阿里巴巴董事長馬云也表示，機器學習和人工智能會逐步消滅工作崗位，但馬云同時認為，機器本質上是人制造出來的，永遠不會獲得堪比人類的智慧和經驗。 樂觀者如Facebook創始人扎克伯格，他表示關于人工智能基礎研究的進步能夠在很多的領域得到應用：診斷疾病、自動駕駛、得出最優的搜索結果，幫助人們得到更多科技進步所帶來的福祉。 谷歌董事長施密特親身參與了許多復雜的人工智能系統研發，他認為所有對機器將搶走人類工作、占領世界的恐懼都毫無根據，并且希望人們能夠意識到：機器人會成為人類的朋友。 微軟創始人比爾蓋茨也曾就人工智能可能帶來的挑戰發出過警告，但他認為人工智能帶來的好處將遠超這些潛在的隱患。 種種爭議表明，人工智能技術在人們的眼里已經成為一把“雙刃劍”。它既是人類寄予厚望以促進經濟發展、提升生活水準的利器，也同樣給人類帶來了潛藏的巨大威脅，如何讓人工智能最終走向樂觀尤為重要。

人工智能放大網絡安全威脅 體現在網絡安全領域，人工智能的“雙刃劍”屬性更為明顯。安全研究專家認為，網絡世界中的薄弱環節會因為人工智能的出現而不斷被放大，早在五年前就已經有黑客利用人工智能技術進行網絡犯罪活動。 如作為熱衷于新技術并舍得投入的黑灰產業，已經開始了對人工智能的利用。人工智能領域的人臉識別技術，同樣可以被用來破解圖片驗證碼，甚至被用來收集特定目標信息，實現精準釣魚攻擊。去年就有“刷臉支付”被成功破解的報道。 人工智能的自動化也被應用于很多被廣泛使用的惡意軟件，這些軟件帶有諸多自動化功能，使用者不需要懂得任何黑客技術，只需要點擊鼠標便可實現攻擊。 除此之外，人工智能自身也存在安全風險，如針對算法的欺騙、機器學習所使用的數據污染、模型安全風險，代碼安全風險等。 所幸的是，作為網絡的保衛者，網絡安全行業對人工智能技術更為敏感。人工智能技術正在引發網絡安全領域的新熱潮和新增長。不僅投資機構青睞在人工智能領域有創新能力的網絡安全公司，傳統的科技巨頭也在加緊研究人工智能與網絡安全中的結合。 人工智能中的機器學習很早就用于惡意軟件檢測上，當前，更多的人工智能技術如神經網絡、Agent系統等廣泛應用在入侵檢測、態勢分析、云防御、反欺詐、物聯網安全等領域。 得益于其通過新機器學習算法模型和技術檢測的能力，Google 去年利用人工智能從Play Store中移除超過 70 萬款惡意應用。而在我國不僅傳統網絡安全企業在繼續深化人工智能技術的應用，阿里巴巴、騰訊、360等互聯網企業也在積極利用人工智能，來開展反欺詐、終端防御、隱私保護等工作。 在國家安全層面上，對人工智能的重視程度也越來越高，有專家認為人工智能將成為未來網絡軍備競賽的關鍵所在。哈佛大學的《人工智能與國家安全》報告稱未來的AI技術有可能與核武器、飛機、計算機和生物技術一樣，成為給國家安全帶來深刻變化的顛覆性技術。 國外已加緊展開人工智能在網絡安全國家層面的部署。2018年3月，美國國際戰略研究中心（CSIS）在題為《美國機器智能國家戰略》的報告中，明確提出美國政府應在戰略層面注重機器智能與人工智能發展齊頭并進。4月，美國美國防部宣布將成立“聯合人工智能中心”， 作為聯邦政府國家安全機構的重點優先事項，負責領導軍隊和工業機構研發和采辦人工智能工具。在具體做法上，美國國土安全部和國防部都在積極推動“人工智能+網絡安全”的研究，將更多人工智能的創新技術引入網絡安全領域。 人工智能所帶來的深刻變革已有目共睹，歷史的經驗證明，過去的經濟繁榮時期，大多數是因為采用新技術而引發的。我們需要用長遠的眼光看待人工智能的發展，如何使用好人工智能這把“雙刃劍”，不僅是網絡安全領域，更是全世界所需解決的實際問題。 來源：中國信息安全