揚長避短！CISO必須為ChatGPT安全應用做好準備 - 網安 - 專業的網絡安全產業、社區、知識平臺

歷史經驗表明，即便開發者最初是出于善意的研發目的，但先進的技術往往會不可避免地被用于很多負面、惡意的應用場景中，OpenAI公司最新推出的ChatGPT聊天機器人自然也不例外。現代企業有很多機會可以利用ChatGPT技術，提升與客戶的互動，尋找新的商業機會。但是在網絡安全界，也有越來越多的證據表明，這種基于AI的機器人服務很可能會成為網絡攻擊者們的強大工具。

客觀看待ChatGPT的安全影響

ChatGPT是一種非常有用的工具。它有非常強大的知識積累，可以將復雜主題化繁為簡。對于希望使用該工具編寫惡意軟件代碼以發動網絡攻擊的人來說，ChatGPT為編程技能或技術技能有限的威脅分子降低了準入門檻。威脅分子只需初步了解網絡安全和計算機科學的基礎知識，它就能收到奇好的效果。

但是，對網絡安全建設者，ChatGPT也有很多積極用途，研究人員一直在積極試驗ChatGPT的創新能力，并將網絡防御方面的很多人工事務實現自動化，這對推動新一代網絡安全防御技術發展大有前景。很顯然，這種工具同樣有助于為防御者提供幫助。

影響1實現安全事件處置的自動化（積極）

安全分析師收到警報后，首先需要提取相關數據源，以便確定這是不是真正的攻擊。這常常需要大量的手動工作。相比之下，從安全信息和事件管理（SIEM）工具中獲取數據輸出并交給ChatGPT處理，可以迅速生成有關安全事件的分析報告。使用ChatGPT由數據生成報告可以比分析師人工分析更快地洞察事件情況。

由于安全攻擊不斷增長，許多網絡安全專業人員的日常工作已經不堪重負，雪上加霜的是，市場中長期缺少技能嫻熟的安全專業人員。然而，ChatGPT有望使不堪重負的安全團隊運營工作實現自動化，同時有助于消除很多誤報信息干擾。

除了為安全運營團隊的網絡事件分析引入自動化功能外，ChatGPT還有望為測試網絡防御系統查找缺陷的滲透測試人員將一些工作實現自動化。比如說，ChatGPT提供的惡意軟件開發功能還可以幫助白帽黑客。

影響2彌補安全人員的知識鴻溝（積極）

ChatGPT有可能以更快的速度加深用戶對安全專業知識和技能的理解。這種聊天機器人能夠熟練地用高度相關的信息回答特定的問題，歸納為幾個段落或要點，這意味著相比傳統搜索引擎技術，ChatGPT常常可以讓用戶更快地了解某些問題，因此特別有利于那些希望深入了解網絡安全知識的人。由于ChatGPT能快速歸納復雜主題，這對推動網絡安全行業發展非常重要，它可以讓非安全專業的企業高級管理者和董事會成員快速了解網絡安全相關內容，從而獲得其對加強網絡安全建設工作的支持。

影響3加快惡意軟件的開發（負面）

據CyberArk研究人員發布的研究結果顯示，ChatGPT工具可以用來開發極難被發現的惡意軟件（即多態惡意軟件），同時可用于以高級方式幫助惡意軟件程序開發，包括利用開源存儲庫中發現的惡意軟件代碼訓練ChatGPT，以生成該代碼的獨特變體，從而逃避反病毒檢測機制。

此外，ChatGPT還可以用來生成用于分發的惡意軟件載荷本身，從而成為網絡攻擊的一部分。

實驗表明，ChatGPT有能力生成多種類型的惡意軟件載荷，包括信息竊取器、遠程訪問木馬和加密貨幣竊取器。對此，OpenAI的解釋是，當用戶請求ChatGPT生成代碼時，ChatGPT的功能更像是搜索引擎，還無法進行更復雜的合理性辨別和需求定制。

影響4助長網絡釣魚和社會工程攻擊（負面）

ChatGPT可以非常真實流暢地模仿人類寫作，這個特點使其有可能成為一種強大的網絡釣魚和社會工程工具，特別是當威脅分子需要進行跨語種的欺詐攻擊時，該工具有可能被用來更有效地分發惡意軟件。

研究人員測試ChatGPT后發現，由英語不流利的人撰寫的釣魚郵件中經常出現明顯的問題，比如拼寫和語法錯誤，或者濫用英語詞匯，而通過ChatGPT生成的郵件文本并不存在這類問題。因此研究人員認為，攻擊者可以使用ChatGPT，更有效地分發竊取信息的惡意軟件、僵尸網絡模擬工具、遠程訪問木馬以及勒索軟件可執行文件等。

為ChatGPT應用做好準備

作為一種創新技術，企業組織在未來數字化發展中會有很多機會應用ChatGPT或類似AI工具。CISO們需要為此提前做好應對準備，以避免可能出現的安全隱患。安全研究人員也提出了一些有益的措施和建議：

實施強身份驗證協議，加大攻擊者訪問賬戶的難度。攻擊者已經知道如何利用MFA疲勞攻擊來繞過現有的身份驗證機制，因此，企業需要利用AI/機器學習技術實現無密碼應用，這樣有助于提高企業的安全性，同時可以緩解MFA疲勞現象。
積極采用零信任模式。這樣即使攻擊者利用ChatGPT蒙蔽了一些缺乏戒備的內部員工，他們在訪問關鍵數據和系統時，仍必須驗證身份，而且即使驗證了身份，也只能訪問有限的資源。讓所有員工僅擁有執行工作所需的最低訪問權限，這可能會遇到一些阻力，但會使攻擊者更難利用任何未經授權的訪問權限來獲利。
嚴格監控公司賬戶活動，使用包括垃圾郵件過濾器、行為分析和關鍵字過濾在內的工具，以識別和阻止惡意郵件。基于郵件收發方的行為和關系而不是基于特定的關鍵字來監測惡意郵件，更有可能成功阻止惡意分子。
比攻擊者更早利用AI。網絡攻擊者肯定會大量利用AI，而ChatGPT只是其中的一種手段。企業必須充分利用AI/機器學習提供的功能來改善網絡安全，并更快地響應威脅和潛在攻擊。
加強全公司的安全意識教育，向所有員工宣講最新的網絡釣魚風險。如果員工充分了解ChatGPT工具如何被利用，面對聊天機器人及其他基于AI的工具時就可能更為謹慎，從而避免淪為這類攻擊的受害者。