人工智能時代最關鍵的三種網絡安全技能

當今的網絡安全行業嚴重依賴傳統方法（主要是人工驅動的方法），隨著基于大語言模型的生成式人工智能變革浪潮襲來，首當其沖的網絡安全行業正面臨一次技術和方法的顛覆性革命，不想被淘汰的網絡安全從業人員需要重新點亮技能樹。

生成式人工智能是今年BlackHat黑帽大會的核心話題，一些快速涌現的，看似不成熟的生成式人工智能網絡安全用例也已經解決了一些艱巨的挑戰。例如將人類語言查詢即時翻譯成SQL語法，加快開發人員編碼的速度，或對安全事件進行分類等，大語言模型的影響已經顯現。在安全運營自動化、威脅檢測和響應、威脅情報管理三大熱門網絡安全領域，大量生成式人工智能產品已經開始進入生產環境。

總之，生成式人工智能時代在批判和質疑聲中已經到來，網絡安全專業人員必須提高自己的水平并獲得響應技能，才能在未來獲得新的競爭優勢。

本文我們將介紹生成式人工智能時代（大多數）網絡安全專業人員需要掌握的三種關鍵技能：

一、機器學習——了解AI的引擎

機器學習是驅動人工智能的引擎，網絡安全專業人員需要積極了解機器學習的工作原理——例如監督機器學習和無監督機器學習之間的區別，以及現有的不同算法。網絡安全人士也許不需要成為數據科學專家，但可以嘗試全面了解機器學習模型的工作原理，這對于在機器學習生命周期的各個階段實施安全控制將非常有幫助。

機器學習方面的知識和技能還將幫助網絡安全人士與人工智能專家溝通，后者將越來越多地出現在大企業的網絡安全團隊中。

機器學習技能還有助于網絡安全專業人士針對特定的安全相關用例訓練自己的ML模型。

最重要的是，不久的將來，懂得使用機器學習或微調大語言模型來檢測和響應特定威脅的網絡安全專業人士將成為網絡安全行業最炙手可熱的人才，市場需求巨大。

二、AI應用的威脅建模

隨著云應用的增加，威脅建模作為一門學科在網絡安全中變得越來越流行。威脅建模需要安全人士以攻擊者的視角檢查應用程序入口點、依賴項和信任級別。這是將應用安全分解成不同威脅區域并獲取風險列表的最佳方法。

如今，基于人工智能的應用程序已經開始暴露出大量漏洞（例如提示注入攻擊、數據投毒等），需要在部署之前進行識別。但與應用程序不同，對人工智能系統進行威脅建模需要采用全新的方法和模型：

你需要了解人工智能面臨的特定威脅，例如數據中毒、推理、模型規避等，以便能夠為人工智能系統創建有效的威脅模型。這里又涉及前文提到的機器學習技能！

同樣，隨著越來越多的人工智能應用程序融入生產環境中，AI威脅建模技能將變得越來越有價值。

三、人工智能數據隱私和道德

人工智能應用的模型訓練需要大量數據，這也是生成式人工智能“學習”并做出決策的方式。

業界關于ChatGPT等生成式人工智能應用最大的爭議是如何在數據隱私方面取得平衡，同時為這些應用程序提供所需的數據。

雖然歐盟和中國已經起草或頒布了一些針對人工智能的法規，但業界對快速野蠻生長的生成式人工智能的監管依然滯后，相關的隱私和道德問題將越來越復雜且代價高昂，相關技能的市場需求將快速增長，以確保生成式人工智能應用在隱私和道德方面的合規，同時保證其公平、透明、可追溯和無偏見。