網絡安全產品集成ChatGPT

OpenAI推出的ChatGPT可能遭到惡意濫用，造成安全威脅，但這款人工智能聊天機器人也能給網絡安全行業帶來諸多好處。

ChatGPT于2022年11月推出，很多人認為這是一款革新產品。ChatGPT依托OpenAI的GPT-3系列大語言模型，用戶可以通過彈出對話框與之交互。

媒體上已經有很多文章介紹過ChatGPT可能遭到惡意利用，比如用來編寫可信度極高的網絡釣魚電子郵件，或者用來創建惡意軟件。 

但是，ChatGPT也可以為安全防御者帶來許多好處，網絡安全行業也開始將之集成進各種安全產品和服務中了。此外，一些安全從業人員一直在測試ChatGPT的各種功能和限制。 

過去幾個月以來，多家網絡安全公司披露自己已經開始或計劃使用ChatGPT，有些研究人員甚至已經發現了這款聊天機器人的實際用例。

云安全公司Orca就是第一批宣布在自身平臺中集成ChatGPT（尤其是GPT-3）的安全公司之一。其目的是增強提供給客戶的修復措施，緩解客戶的云安全風險。 

Orca解釋稱：“用我們自己的安全數據集精調這些強大的語言模型之后，我們得以改善修復措施的細節，提高其準確度，為客戶奉上更好的修復計劃，并幫助客戶盡快妥善解決問題。” 

Kubernetes安全公司Armo將ChatGPT的生成式AI集成到了自己的平臺中，方便用戶基于開放策略代理（OPA）創建安全策略。

該公司宣稱：“Armo Custom Controls以安全與合規規則和額外的上下文預訓練ChatGPT，可以利用AI的力量通過自然語言生成所需的定制控制措施。用戶不需要學習一門新語言就能方便快捷地獲得ChatGPT生成的完整OPA規則及其自然語言描述，還能得到修復失效控制措施的建議。”

Logpoint最近宣布在實驗室環境中為其LogPoint SOAR（安全編排、自動化與響應）解決方案集成了ChatGPT。 

該公司聲稱：“將ChatGPT集成進Logpoint SOAR，我們的客戶就能夠探索通過ChatGPT使用SOAR劇本夯實網絡安全的種種可能。” 

信息物理安全融合軟件公司AlertEnterprise發布了基于ChatGPT的一款聊天機器人。用戶可通過這款聊天機器人快速獲得物理訪問、身份訪問管理、訪客管理、門禁讀卡器數據分析和安全報告的信息。用戶詢問聊天機器人的問題包括“上個月我們發放了多少新員工標識？”、“顯示即將到期的員工培訓禁區通行期限”等等。

Accenture Security一直在分析ChatGPT的各項功能，試圖以之自動化某些網絡防御相關任務。 

Coro和Trellix等網絡安全公司目前也在探索將ChatGPT嵌入其產品中的可能性。

網絡安全社區的一些成員分享了各自用ChatGPT進行測試的結果。例如，培訓提供商HackerSploit展示了如何使用ChatGPT識別軟件漏洞和進行滲透測試。 

卡巴斯基的一名研究人員進行了幾項入侵指標（IoC）檢測實驗，在某些領域得出了令人振奮的結果。這些測試包括檢查系統中的IoC、對比特征碼規則集和ChatGPT輸出結果以找出漏洞、檢測代碼混淆，以及查找惡意軟件二進制文件之間的相似之處。 

在線惡意軟件沙箱Any.Run使用ChatGPT分析惡意軟件。ChatGPT能夠分析簡單的樣本，但在更復雜一些的代碼面前沉沙折戟。

NCC Group用ChatGPT進行安全代碼審查，但發現其“實際上沒什么效果”。該公司發現，盡管能夠正確識別某些漏洞，但在很多情況下ChatGPT也會給出錯誤信息和誤報，導致其在代碼分析方面并不可靠。 

安全研究人員Antonio Formato和Zubair Rahim描述了他們是怎么將ChatGPT集成到Microsoft Sentinel安全分析與威脅情報解決方案中用作事件管理的。 

安全研究人員Juan Andres Cuerrero-Saade是約翰霍普金斯大學高級國際關系學院的兼職講師，最近將ChatGPT引入了惡意軟件分析與逆向工程課堂。學生們可以借助ChatGPT快速找到菜鳥問題的答案，防止打斷課堂教學。ChatGPT還能方便學生理解自己在用的工具、解釋代碼，甚至編寫腳本。