全球首個AI蠕蟲面世：可在AI系統之間自動傳播

研究人員開發出首個第一代生成式AI蠕蟲，名為 “Morris II”，它能夠自動在AI系統之間傳播。

這種新型網絡攻擊，讓人回憶起1988年對互聯網造成重大破壞的初代Morris 蠕蟲的，凸顯了網絡安全威脅局勢中的一個潛在變化。

這項研究由康奈爾大學紐約科技校區研究員 Ben Nassi與另外兩名研究員 Stav Cohen 和 Ron Bitton 共同牽頭開展，展示了該蠕蟲的能力即滲透生成式AI郵件助手、提取數據和分垃圾郵件，從而攻陷聲名鵲起的AI模型如 ChatGPT 和 Gemini 的安全措施。

生成式AI的崛起和漏洞的增多

隨著生成式AI系統如 OpenAI 公司的 ChatGPT 和谷歌 Gemini 變得越來越強大且集成到多種應用中，這些系統被利用的可能性也在不斷提升。

研究人員創建的 Morris II 蠕蟲凸顯了利用AI生態系統互聯性和自動化的新型網絡威脅。媒體Wired報道稱，首批生成式AI蠕蟲已開發完畢。這些蠕蟲可能會從一個系統傳播到另一個系統，甚至可能在此過程中竊取數據或部署惡意軟件。通過應用對抗性自復制提示，該蠕蟲可通過AI系統進行傳播，劫持這些系統執行未授權操作如數據盜取和惡意軟件部署。

這類蠕蟲影響深遠，為依賴于生成式AI系統的初創企業、開發人員和技術公司帶來重大風險。該蠕蟲能夠躲避檢測，在不同的AI系統中自動傳播，這就為網絡攻擊引入一個新的向量，為現有的安全模型帶來挑戰。

安全專家和研究人員強調了這些攻擊的合理性以及開發社區認真對待這些威脅的緊迫性。

緩解威脅

盡管AI蠕蟲潛力強大，但安全專家認為傳統的安全措施和謹慎的應用設計可緩解這些風險。

從事AI企業安全業務的威脅研究員 Adam Swanda 提倡安全的應用設計和AI運營中人工疏忽的重要性。越權風險可通過確保AI系統不會在未獲得明確同意的情況下執行操作會得到大大減少。另外，監控異常模式如在AI系統中的重復性提示有助于在早期檢測到潛在威脅。

Ben Nassi及其團隊還強調了創建AI助手的開發人員和企業意識提升的重要性。了解這些風險并執行健壯的安全措施對于防止生成式AI系統的利用至關重要。

這一研究呼吁AI開發社區在設計和部署AI生態系統中優先考慮安全的重要性。Morris II蠕蟲的開發是評估網絡威脅流程中的重要時刻，強調了生成式AI系統的內在漏洞。隨著AI對技術和日常生活的影響日益加劇，全面的安全策略也變得愈發重要。通過提升意識和采取主動的安全措施，AI開發社區可防御AI蠕蟲的威脅并確保生成式AI技術能得到安全、負責任的使用。

原文鏈接

https://gbhackers.com/created-ai-worm/