SlashNext如何使用生成式AI來阻止ChatGPT網絡釣魚攻擊

ChatGPT和生成式人工智能(AI)的興起無疑增加了安全團隊的負擔。只需寫一個簡短的提示，想成為黑客的人就能在幾秒鐘內生成一個釣魚電子郵件模板，然后將其發送給無數毫無戒心的用戶，坐等用戶錯誤地點擊惡意鏈接或附件。

電子郵件安全提供商SlashNext打算以人工智能對抗人工智能。BEC(商業電子郵件泄露)生成式AI是其正在申請專利的新解決方案，旨在幫助識別和阻止由ChatGPT和其他AI模型生成的詐騙消息。

BEC生成式AI使用AI數據增強和克隆技術自動生成數千個潛在的商業電子郵件泄露(BEC)威脅。SlashNext現有的人工智能解決方案通過自然語言處理分析這些數據，學習如何更好地檢測惡意電子郵件。

雖然SlashNext聲稱該解決方案是業界第一個使用生成式AI來阻止BEC攻擊的解決方案，但更廣泛地說，該發布演示了生成式AI如何在數據安全領域發揮積極作用——在該場景中，這主要是通過增強對釣魚電子郵件和社交工程騙局的檢測來實現的。

人工智能如何徹底改變網絡釣魚

在去年11月ChatGPT發布后，網絡釣魚騙局開始呈上升趨勢，Vade在2022年第四季度發現了2.783億封獨特的網絡釣魚郵件，而2022年第三季度該數字僅為7440萬封。

這些攻擊非常受攻擊者的歡迎，因為它們很容易獲得高回報。例如，惡意行為者可以創建一個虛假的Office 365登錄表單，向毫無戒心的用戶發送釣魚電子郵件模板，并在他們試圖登錄時獲取其帳戶的詳細信息。

對于最終用戶和安全團隊來說，審查每封電子郵件并確定內容是否合法通常十分耗時。事實上，研究發現70%的企業要花16-60分鐘來處理一封釣魚郵件。

如果用戶不堪疲勞轟炸，無意中觸發騙局可能會導致數百萬美元的數據泄露。隨著生成式人工智能的使用不斷增加，員工面臨的威脅數量只會進一步增加。

SlashNext公司的首席執行官帕特里克·哈爾(Patrick Harr)指出，“威脅行為者已經在使用生成式人工智能來自動化數千條量身定制的網絡釣魚信息，同時，它可以創造數以千計的信息變體，以進一步提高攻擊的成功率。像GPT-3這樣的大型語言模型通常也是免費的，惡意行為者可以很快地利用任何新工具來增加攻擊量，同時減少所涉及的時間、精力和成本。這對威脅行為者來說是有利的，安全界必須準備好以人工智能對抗人工智能。”

雖然生成式人工智能誘發的騙局增加帶來了新的挑戰，但企業可以使用人工智能來自動化和升級自身的安全操作，確保自身已經準備好快速檢測人工智能生成的惡意內容。

電子郵件安全市場

SlashNext的解決方案屬于基于云的電子郵件安全市場，魔多情報公司(Mordor Intelligence)在2020年對該市場的估值為7.682億美元，預計到2026年將達到12.4699億美元。

SlashNext的主要競爭對手之一是Abnormal Security，這是一家人工智能驅動的電子郵件安全提供商，提供了一個使用人工智能評估傳入問題的平臺，并將其與用戶的基線活動進行比較，然后，該平臺可以識別表明BEC企圖和網絡釣魚詐騙的異常通信，自動修復惡意電子郵件，而無需人類用戶的參與。

去年，Abnormal Security的估值達到了40億美元。

另一個競爭對手是云電子郵件安全提供商Avanan，該公司提供了一種基于API的解決方案，具有自然語言處理和圖像識別功能，據稱可以識別出99.2%的釣魚電子郵件。Check Point于2021年以約3億美元收購了Avanan。

Harr認為SlashNext與其競爭對手之間的關鍵區別在于其零時(zero-hour )威脅檢測的準確性。他介紹稱，“SlashNext是唯一一家將自然語言處理、計算機視覺、機器學習、深度上下文化和關系圖、文件附件檢查和發送者模擬分析結合到一個解決方案中的公司，可以實現行業中最好、最準確的零時威脅檢測。”