白山云李國：AI大模型對網絡安全的影響是利大于弊

2023年，AI大模型無疑是最火熱的話題。在AI大模型的驅動下，整個信息科技領域故事不斷。而聚焦網絡安全，AI大模型同樣上演著連臺好戲，全球眾多網絡安全廠商紛紛布局。例如微軟在ChatGPT基礎之上推出了安全分析助手Security Copilot，谷歌推出人工智能安全工作臺Security AI Workbench，AI大模型正在為網絡安全開辟出新的想象空間。

日前，白山云科技產品副總裁李國在接受安全牛采訪時表示，AI大模型技術帶來的安全挑戰和安全防護能力提升并存，兩者相愛相殺，動態博弈，這也將推動網絡安全應用市場形成翻天覆地的變化。

李國

現任白山云科技產品副總裁。擁有16年云領域業務、實踐與管理經驗。2015年入職白山云科技，先后在資源建設、質量規劃、業務運營、產品規劃等多個業務領域有突出的貢獻和沉淀。現負責公司安全產品、產品市場等規劃和管理工作，致力于做強邊緣云安全能力，打造云大物移新場景、新技術下的安全產品矩陣和場景化解決方案。

AI大模型引發安全市場變革

談到AI大模型對于網絡安全領域的影響，李國認為，任何事物都有其兩面性。一方面，AI大模型增加了被攻擊的風險面，而且模型本身可能存在缺陷或后門，被利用來生成有害內容。同時，隨著AI大模型應用的普及，黑客的攻擊成本和難度都大幅降低，導致攻擊威脅量上升。

比如，在網絡釣魚攻擊這一常見場景中，AI大模型能夠大大降低攻擊的成本和難度，從而帶來新的挑戰。傳統網絡釣魚攻擊通常靠黑客手動創建欺騙性郵件內容，費時費力，且容易出現破綻。而利用AI大模型來生成釣魚郵件，可通過分析大量合法郵件樣本，學習模仿真實機構的郵件格式、用語和風格，再結合攻擊對象的個性和實際狀態，生產定制化內容，快速生成更逼真的欺騙性郵件，讓被攻擊者更容易受騙。

同時，攻擊者還可以通過精心設計的對抗性樣本來欺騙AI模型，使其產生誤判。此外，AI大模型可能通過學習包括個人隱私數據的大量數據來訓練模型。這也引發了大眾和行業對隱私泄露和數據濫用的擔憂，特別是在涉及用戶敏感信息的安全應用中。

但另一方面，AI大模型的分析學習能力可以用來發現網絡異常、優化防御策略、對抗新型攻擊等，這些有利于提高網絡安全防護能力。

李國認為，AI大模型不僅可以分析海量非結構化文本，發現網絡安全威脅的跡象，還可以通過機器學習快速發現未知的網絡攻擊模式并建立檢測模型；借助強化學習進行紅藍對抗找出安全漏洞；通過上下文關聯進行更有效的網絡安全決策、風險評估、資源分配和制定安全策略。此外，還可以通過自然語言交互，降低對運營人員的專業要求，從而緩解安全領域人才短缺問題，同時提高運營效率，實現降本增效。總之，AI大模型將極大增強網絡安全分析、檢測、策略制定等多個方面的能力，使網絡安全從以前的半自動化，沿著智能化快速轉變。

網絡安全防線與攻擊手段進行“軍備競賽”，這促使雙方的AI能力不斷提高。在這個過程中，防守方利用AI的優勢進行主動防御，進而促使整個網絡環境向著更安全的狀態演進。因此總體來說，AI大模型為網絡安全帶來的影響將是利大于弊。

AI在網絡安全領域大有可為

隨著AI在安全領域的應用不斷深化，安全市場的格局或將發生變化。在當前的網絡安全領域，專家經驗非常重要。但隨著AI大模型的應用，這種經驗很快就能積累起來，還能不斷學習進步。因此那些能夠更快地整合和提供AI技術和安全能力，以及擁有大量數據和資源的廠商，會在市場中占據領先地位。

從目前的市場情況來看，國內眾多企業已經在AI大模型的網絡安全應用方面進行了探索和驗證。而對比傳統的安全企業，本身就擁有巨大的算力和數據資源優勢的云服務廠商，對AI技術和大模型的布局應用同樣值得關注與期待。

以白山云為例，公司目前在AI領域進行了積極的探索和積累。早在2017年，白山云就成功推出了基于AI的態勢感知平臺“深度威脅識別ATD”，以實時流式大數據分析為基礎，通過無監督學習算法，在不依賴標注樣本、不依靠人工規則的前提下，能夠準確識別異常威脅，尤其可以深層次發現用戶之前沒有感知到的未知威脅。當前，洞察到AI大模型在網絡安全領域的巨大應用潛力，白山云正基于大模型對現有產品進行迭代和升級，讓產品更加智能。

例如在云WAF產品方面，以前WAF產品主要采用規則匹配的方式來識別和阻斷攻擊流量。隨著Web漏洞數量的不斷增加，以及攻擊方式的不斷變化，需要通過持續更新和擴大規則庫的方式來進行維護，工作繁瑣且誤報和漏報頻繁發生。現在，白山云嘗試借助更加高級的語義理解能力，實現更加精準和智能的防護。

而在零信任安全訪問方面，白山云利用AI模型分析用戶行為模式，評估并動態調整用戶的可信度，實現基于行為的細粒度訪問控制，與由用戶及實體行為、大數據、威脅情報等構建的智能安全感知平臺聯動，為企業級用戶構建智能檢測、風險評估、預警響應的持續安全驗證平臺，幫助用戶完善面向實戰、高效、智能的安全運營體系。 

此外，白山云還將AI大模型應用在安全運營中心（SOC）場景中。安全信息和事件管理（SIEM）是SOC的基礎，涉及海量歷史日志的分析和取證、實時分析日志和事件數據、提供威脅監控和時間響應的關聯。利用大模型的語義理解和代碼生成能力，可以有效提升SIEM的效率和準確度。

同時，李國也表示，白山云希望能夠為客戶提供「網絡+安全+計算」一體化的邊緣云服務，對AI的探索與應用并不僅限于安全產品層面。例如，在網絡層面，白山云正在積極探索基于AI的下一代的無邊界網絡形態，為每個站點、云、遠程用戶或物聯網設備提供一體化、智能化的邊緣網絡鏈接能力，讓客戶可以從真正云網融合一體化方面受益；在計算層面，AI技術與邊緣計算技術結合，可使計算和網絡能夠更好地支持分布式應用和設備，給客戶帶來更智能、高效和安全的網絡體驗。

白山全球邊緣云服務架構

李國認為，盡管目前AI大模型在網絡安全領域的應用仍存在很多短板和挑戰，例如模型后門檢測和防范手段不夠完善、模型生成內容檢測質量參差不齊、模型的黑盒性質使得結果的可解釋可驗證性差、缺乏統一的AI安全標準與規范等等。但毋庸置疑的是，AI與網絡安全的融合必將成為主流，助力企業邁向智能化安全的新階段。同時，未來5—10年，網絡安全市場將成為技術創新的戰場，智能化、數據隱私保護、多維度防御等趨勢將推動網絡安全行業向更高的水平邁進，為數字世界的安全提供更加堅實的保障。