與ChatGPT一起火的還有新型人工智能網絡犯罪攻擊

   隨著生成式人工智能如今風靡一時，黑客將該技術重新用于自身利益，為加速網絡犯罪提供了途徑。根據SlashNext的調查結果，一種名為WormGPT的新型生成人工智能網絡犯罪工具已在地下論壇上宣傳，這是發起復雜的網絡釣魚和商業電子郵件入侵（BEC）攻擊的一種方式。

     安全研究員Daniel Kelley認為：“該工具將自己呈現為GPT模型的黑帽替代品，專為惡意活動而設計，黑客可以使用這種技術自動創建高度令人信服的虛假電子郵件，針對收件人進行個性化設置，從而增加攻擊成功的機會。”該軟件的作者將其描述為“眾所周知的ChatGPT的最大敵人”，“可以讓你做各種非法的事情”

   在黑客手中，像WormGPT這樣的工具可能是一種強大的武器，特別是OpenAI、ChatGPT和Google Bard采取越來越多地措施打擊濫用大型語言模型（LLM）來制造令人信服的網絡釣魚電子郵件并生成惡意代碼的行為。Check Point在本周的一份報告中表示：“與ChatGPT相比，巴德在網絡安全領域的反濫用限制措施明顯較低，因此，使用巴德的功能生成惡意內容要容易得多。”

    今年2月初，這家以色列網絡安全公司披露了黑客是如何利用API繞過ChatGPT 的限制，更不用通過使用大量電子郵件地址和密碼列表入侵 ChatGPT 帳戶，交易被盜的高級帳戶。

   WormGPT在沒有任何道德界限的情況下運行，這一事實突顯了生成式 AI 構成的威脅，甚至允許新手黑客在沒有技術手段的情況下迅速、大規模地發起攻擊。更糟糕的是，黑客正在為ChatGPT推廣“越獄”，目的是操縱該工具生成中可能泄露的敏感信息、制作不適當內容和執行有害代碼的輸出。

   生成式人工智能可以創建語法無可挑剔的電子郵件，使它們看起來合法，并減少被標記為可疑的可能性。它的使用使復雜的BEC攻擊的執行民主化。即使是技能有限的攻擊者也可以使用這項技術，使其成為更廣泛的網絡犯罪工具。