NCSC稱人工智能將在未來兩年“助長”勒索軟件的威力

英國國家網絡安全中心（NCSC）警告稱，人工智能工具可能會助長勒索軟件威脅的升級，將對網絡安全產生一定的不利影響。

該機構稱，網絡犯罪分子現在已經利用人工智能進行一些惡意攻擊行為，這種現象極可能在未來兩年內進一步惡化，這增加了網絡攻擊的數量和嚴重程度。

國家安全委員會認為，人工智能能夠幫助那些缺乏經驗的威脅行為者、以及雇傭黑客和低技能的黑客節省時間，進行更有效、更有針對性的攻擊。

大多數現有的大型學習模型（LLM）平臺，如 ChatGPT 和 Bing Chat，都有防止平臺創建惡意內容的保護措施。

但NCSC 稱目前網絡犯罪分子正在制作和營銷專門的生成式人工智能服務，以輔助他們進行犯罪活動。比如 WormGPT，這是一種付費的 LLM 服務，允許威脅行為者生成惡意內容，包括惡意軟件和網絡釣魚誘餌。這表明，該技術已經擺脫了受控安全框架的限制，并能夠在更廣泛的犯罪生態系統中使用。

國家安全委員會在另一份威脅評估報告中提到：目前包括勒索軟件行為者在內的不少威脅行為者都已經開始使用人工智能來提高網絡行動各方面的效率和效果，如偵察、網絡釣魚和編碼。可以確信這樣的趨勢將持續到 2025 年以后。

報告指出，人工智能在網絡風險領域的作用預計將是演變性的，它將增強現有的威脅，而不是變革性的。

國家計算機安全委員會的評估要點如下：

• 未來兩年，人工智能可能會加劇網絡攻擊，特別是通過當前戰術的演變
• 目前，包括國家和非國家實體在內的熟練和不太熟練的網絡威脅行為者都在利用人工智能
• 人工智能加強了偵察和社會工程學，使其更加有效和難以察覺
• 在 2025 年之前，人工智能在網絡行動中的復雜應用將主要局限于能夠獲得高質量數據、專業知識和資源的行為體
• 通過更快、更有效的數據分析和人工智能模型訓練，人工智能將使針對英國的網絡攻擊更具影響力
• 人工智能降低了網絡犯罪新手的準入門檻，加劇了全球勒索軟件威脅
• 到 2025 年，人工智能能力的商品化可能會擴大網絡犯罪分子和國家行為者獲取先進工具的渠道。

下表總結了人工智能對三種技能水平的特定威脅領域的影響：

NCSC 認為人工智能能夠幫助復雜的 APT幫助更便捷、更快速地生成躲避性定制惡意軟件。

人工智能有可能生成能夠躲避當前安全過濾器檢測的惡意軟件，但前提是必須使用高質量的漏洞利用數據對其進行訓練。還有一種可能性是，能力強大的國家已擁有足夠大的惡意軟件庫，可以為此有效地訓練人工智能模型。

分析報告指出：人工智能可能會通過提高現有技術的效率，協助惡意軟件和漏洞開發、漏洞研究和橫向移動。同時，中級黑客將在偵察、社會工程學和數據提取方面獲得優勢，而技能較低的威脅行為者將看到全面的提升，但橫向移動除外，因為它仍然具有挑戰性。

NCSC 認為，生成式人工智能和大型語言模型的出現，讓人們在識別網絡釣魚、欺騙和社交工程企圖等方面面臨巨大挑戰。

參考來源：UK says AI will empower ransomware over the next two years (bleepingcomputer.com)