如何利用ChatGPT發起網絡攻擊

自11月底發布以來，美國人工智能研究公司OpenAI的高級聊天機器人ChatGPT已經被用戶玩出了花。如今，一家安全供應商發出警告稱，黑客可能利用該聊天機器人執行高度針對性的網絡攻擊。

圖：ChatGPT允許用戶提出簡單的問題或任務比如編寫托管服務提供商的賬單跟蹤電子郵件

ChatGPT是基于OpenAI GPT-3大型語言模型改進版的自然語言對話界面，且可訪問Codex——該公司開發的能理解和生成多種編程語言代碼的AI模型。

用戶可以給出具體指令，然后ChatGPT就會生成代碼和關于運行和實現的注釋。社交媒體上分享的例子包括用AI機器人監視股市并做出預測、編笑話，以及編寫簡單的辦公工具。

但安全公司Check Point Research警告稱，ChatGPT生成代碼提高工作效率的能力也給黑客打開了新世界的大門，讓他們能夠更為便捷地設計、編寫和執行惡意代碼。

Check Point的研究團隊記錄了利用該平臺生成惡意電子郵件、代碼和可部署到計算機或網絡的完整感染鏈的方法。

研究團隊利用ChatGPT模仿服務托管公司生成更接近真實郵件所用語言和語調的網絡釣魚電子郵件。然后，再進一步完善此網絡釣魚郵件，讓感染鏈更加絲滑順暢。

最后，Check Point的研究人員用ChatGPT生成了一段VBA代碼，該代碼可嵌入微軟Excel文檔中，只要文檔被打開就會感染計算機。

這段代碼可下載供連接遠程計算機的反向shell，并重定向目標系統shell的輸入和輸出連接，方便攻擊者遠程訪問。

利用ChatGPT，簡單三步就能做到這一點。第一步，讓ChatGPT模仿托管服務公司；第二步，讓它再次迭代，這一次生成帶有Excel附件的網絡釣魚電子郵件；第三步，讓ChatGPT生成惡意VBA代碼。

ChatGPT改變網絡攻擊態勢的“潛力”

Check Point威脅情報組負責人Sergey Shykevich表示：“ChatGPT具有深刻改變網絡威脅態勢的潛力。現在沒什么資源也根本不懂編程的人都能輕松利用ChatGPT危害四方了。”

Check Point研究團隊還能利用Codex創建惡意代碼，使之在Windows機器上執行反向shell腳本并連接特定IP地址，通過以管理員身份登錄并編寫對目標機器執行全面端口掃描的Python腳本，來檢查該URL是否能夠能夠進行SQL注入。

“很容易生成惡意電子郵件和代碼。”Shykevich補充道，“黑客還可以借助ChatGPT和Codex對惡意代碼進行迭代。為警示公眾，我們展示了組合利用ChatGPT和Codex創建惡意電子郵件和代碼有多么容易。”

“我認為，這些AI技術代表著日趨復雜和有效的網絡能力在危險演進過程中又踏出了一步。網絡安全世界快速變動，我們想要強調的是，在ChatGPT和Code日漸成熟的時候要保持警惕，因為這一不斷發展的新技術會影響危險態勢，可能帶來好的影響，也可能帶來壞影響。”

ChatGPT可能催生更多“腳本小子”

作為安全公司ExtraHop的高級技術經理，網絡專家Jamie Moles用ChatGPT進行了自己的微型實驗，實驗結果與Check Point研究人員的類似。他的實驗闡釋了如何使用滲透測試軟件Metasploit利用“永恒之藍”漏洞（美國國家安全局（NSA）開發的計算機漏洞利用程序，于2017年4月被“影子經紀人”黑客團伙泄露）。

“ChatGPT可不僅僅是最熱門的新時尚。”Moles說道，“這東西超級智能，影響好壞參半。其中一個潛在的負面用例就是能教會新手怎么做事。Metasploit本身并不是問題所在：沒有什么工具或軟件是天生壞種——除非遭到濫用。但是，教那些缺乏技術知識的人如何使用這種一旦濫用就會造成破壞的工具，可能會導致威脅增多，尤其是來自所謂“腳本小子”的威脅。”

“‘腳本小子’這個稱謂通常用于描述幾乎沒有什么實際黑客經驗，用其他有才黑客編寫的腳本來攻擊系統的青少年。他們最近頻頻出現在新聞報道中，但ChatGPT很可能會變成那個能寫腳本的‘有才’黑客。”

上個月發布的時候，OpenAI表示設置了檢查措施防止ChatGPT生成惡意代碼，但發布之后人們找到了多種方式騙過這個系統，讓ChatGPT認為產生惡意代碼僅僅是出于研究目的。據說最新的更新補上了部分此類漏洞。

該公司聲稱：“盡管我們努力讓模型拒絕不恰當的請求，但該模型有時仍會響應有害指令或表現出行為偏好。我們正在使用Moderation API警告或阻止特定類型的不安全內容，但預計目前會有一些漏報和誤報。我們熱切希望收集用戶反饋，幫助我們目前的系統改進工作。”

生成的代碼也不保證準確。開發人員用來問答代碼問題的網站StackOverflow就禁止使用ChatGPT答案，理由是很大比例的答案是貌似正確的錯誤答案。

甚至OpenAI的首席執行官Sam Altman都警告稱，ChatGPT尚未準備好投入主流應用，也不應在生產環境中依賴ChatGPT，因為這個模型仍會犯許多錯誤。他寫道：“ChatGPT限制頗多，但在某些事務上表現夠好，造成了這東西很偉大的錯誤印象。目前在任何重要事務上依賴ChatGPT都是個錯誤。這就是個進度預覽：在穩健性和真實性方面我們還有很多工作要做。”

人本人工智能（People-Centred AI）高級講師Eddy Zhu稱，雖然ChatGPT是支撐很多現實應用的“人工智能重大里程碑”，但它并不完美。“ChatGPT會犯嚴重錯誤，產生誤導用戶的錯誤信息，這就是ChatGPT工程師們需要警惕的地方。”