機器學習發動攻擊的常見方式有哪些

機器學習發動攻擊的常見方式有以下這些：

• 垃圾郵件：但是，如果垃圾郵件過濾器泄露了檢測方法，那么攻擊者可以用它來優化攻擊行為。例如攻擊者會使用合法工具提高攻擊的成功率。“如果你提交的內容足夠頻繁，攻擊者可以重建模型，然后針對性優化攻擊以繞過這個模型。”易受攻擊的不僅僅是垃圾郵件過濾器。雖然并非所有廠商都有這個問題，但如果你不小心，就會泄露有用的輸出信息，攻擊者可以將其用于惡意目的。

• 釣魚電子郵件：攻擊者還會使用機器學習來創建網絡釣魚電子郵件。機器學習允許攻擊者以創造性的方式自定義網絡釣魚電子郵件，經過優化以觸發參與和點擊。他們不僅優化電子郵件的文本，人工智能還可用于生成逼真的照片、社交媒體資料和其他材料，以使交流看起來盡可能合法。

• 猜測密碼：犯罪分子也在使用機器學習來更好地猜測密碼，犯罪分子正在開發更好的字典并破解被盜的哈希值。他們還使用機器學習來識別安全控制，這樣他們就可以減少嘗試并猜出更好的密碼，并增加他們成功訪問系統的機會。

• 深度偽造：人工智能最可怕的用途是深度偽造工具，可以生成以假亂真的視頻或音頻。能夠模擬某人的聲音或面部對社會工程攻擊非常有用。事實上，在過去幾年中，一些備受矚目的深度偽造案件已經公開，其中一個案件犯罪分子通過偽造企業高管語音使公司損失了數百萬美元。

• 繞過流行的網絡安全工具：當今許多流行安全工具都內置了某種形式的人工智能或機器學習。人工智能模型有很多盲點，你可以通過改變攻擊的特征來逃避檢測，比如發送多少數據包，或者正在攻擊哪些資源。攻擊者不僅使用人工智能驅動的安全工具，還會使用其他人工智能技術。

• 偵察：機器學習可用于偵察，以便攻擊者可以查看目標的流量模式、防御體系和潛在漏洞。這不是一件容易的事，所以普通網絡犯罪分子不太可能參與此類活動。但是，如果在某個時候，該技術被商業化并通過地下犯罪網絡以服務的方式提供，那么它可能會變得更廣泛使用。

• 自治代理：如果企業檢測攻擊并對受影響系統進行斷網處理，那么惡意軟件可能無法連接回其命令和控制服務器以獲取指令。但攻擊者可能會開發出一個智能模型，即使他們無法直接控制它，它也會長期駐留下來。但對于普通的網絡犯罪，相信這不會是優先事項。

• 人工智能投毒：攻擊者可以通過提供干擾（對抗）信息來欺騙機器學習模型。攻擊者可以操縱訓練數據集，讓機器學習產生誤判。

• 人工智能模糊測試：合法的軟件開發人員和滲透測試人員使用模糊軟件生成隨機樣本輸入，試圖使應用程序崩潰或發現漏洞。該軟件的增強版本使用機器學習以更集中、更有條理的方式生成輸入，例如優先考慮最有可能導致問題的文本字符串。這使得模糊測試工具對企業更有用，但在攻擊者手中也更加致命。

回答所涉及的環境：聯想天逸510S、Windows 10。