Deepfakes（深度偽造）技術正在成為網絡犯罪新的幫兇。
Deepfakes（深度偽造）技術對企業組織來說是一種不斷升級的網絡安全威脅。如今，網絡犯罪分子正在大力投資人工智能和機器學習等Deepfakes技術，以創建、合成或操縱數字內容（包括圖像、視頻、音頻和文本），進行網絡攻擊和欺詐。這種技術可以真實地復制或改變外觀、聲音、舉止或詞匯，目的是進行欺詐，讓受害者相信他們所看到、聽到或閱讀的內容真實可信。
2021年3月，美國聯邦調查局警告稱，在現有的魚叉式網絡釣魚和社交工程活動中，惡意行為者利用合成或操縱的數字內容進行網絡攻擊的勢頭正呈增長趨勢。鑒于所用合成介質的復雜程度，這可能會造成更嚴重且廣泛的影響。因此，企業組織必須認識到這種不斷增長的Deepfakes網絡威脅，并采取有效措施抵御Deepfakes強化型網絡攻擊和欺詐。
網絡犯罪分子正在采用Deepfakes技術
信息安全論壇的高級研究分析師Mark Ward表示，“人們常說色情推動了技術的采用，這句話對于Deepfakes技術而言也是正確的。現在，這項技術正在其他領域中流行起來——特別是在有組織的網絡犯罪團體中。”
事實上，Deepfakes衍生的網絡攻擊很少見，它們通常只由專業團伙或背后有政府支持的團伙執行，目前只有少數記錄在案的成功案例。然而，當工具、技術和潛在回報廣為人知時，它將像所有此類技術一樣傳播開來。
事實證明，暗網論壇現在就遇到這種情況，犯罪分子正在暗網分享Deepfakes技術和專業知識。云基礎架構廠商VMware研究人員就曾發現很多介紹Deepfakes工具和技術的暗網教程，這表明威脅行為者已經轉向暗網提供定制服務和教程，這些服務和教程結合了旨在繞過和瓦解安全措施的視覺和音頻Deepfakes技術。
Deepfake是一種強化型社交工程技術
Mark Ward引用了包括暗網聊天在內的證據，表明專門從事復雜社交工程的犯罪集團對Deepfakes技術愈發感興趣。這些團伙傾向于利用Deepfakes技術開展商業電子郵件欺詐（BEC）活動，誘騙大型企業組織的財務和會計人員向詐騙者控制的賬戶轉移資金。據悉，目前在犯罪聊天室中討論的工具能夠利用高級管理人員的公開資料獲取視頻、音頻和博客文章，來創建令人信服的虛假信息，這些信息隨后將被用于發布轉移現金或快速付款的要求。
網絡犯罪分子利用Deepfakes技術生成的內容能夠重建可識別特征（例如某人的口音和講話方式），并提供額外的可信度。有了Deepfakes技術的助力，攻擊者更容易實施攻擊活動，這種攻擊更難防范。事實證明，Deepfakes音頻模擬在追蹤企業數據和系統訪問的社交工程攻擊中特別有效——它可以通過冒充正在出差或不在辦公室的高管，要求受害者重置密碼或執行允許欺詐者訪問企業資產的操作，這也是網絡犯罪分子利用Deepfakes技術實施詐騙的常見伎倆。
鑒于網絡犯罪分子正在利用員工在家遠程辦公的空子，未來這種攻擊只會增多。如今，我們已經目睹Deepfakes被用于網絡釣魚攻擊或破壞商業電子郵件和平臺（如Slack和Microsoft Team等）。犯罪分子通過商業通信平臺進行的網絡釣魚活動為Deepfakes提供了一種理想的交付機制，因為企業組織及其用戶不自覺地信任它們。
Deepfakes旨在繞過生物識別身份驗證
另一個有風險的Deepfakes趨勢是，創建內容并用于繞過生物特征驗證。當前，面部和語音識別等生物識別技術提供了額外的安全層，可用于根據某人的獨特特征自動驗證某人的身份。然而，可以準確重現一個人外表或聲音的Deepfakes技術，卻成功規避了這種身份驗證技術，為依賴生物識別特征進行身份和訪問管理策略的企業組織帶來重大風險。目前，在廣泛的遠程工作環境中，犯罪分子正在投資這一技術。
新冠肺炎疫情的大流行和遠程工作時代的到來，催生了大量音頻和視頻數據，這些數據可以輸入機器學習系統以創建引人注目的復制品。
身份識別與認證公司Onfido反欺詐副總裁Albert Roux承認，Deepfakes確實對基于生物識別的身份驗證構成了顯著風險。他解釋稱，“任何利用身份驗證來開展業務，并保護自身免受網絡犯罪分子侵害的企業組織都可能受到Deepfakes攻擊。欺詐者已經注意到一些熱門視頻，例如Tom Cruise的Deepfakes視頻以及流行的YouTube創作者（如Corridor Digital）等，并利用Deepfakes工具和代碼庫繞過在線身份驗證檢查。此外，一些免費的開源應用程序也允許技術知識有限的欺詐者更輕松地生成Deepfakes視頻和照片。”
防御Deepfakes網絡威脅
無論是通過文本、語音還是視頻操作，欺詐者都會投資Deepfakes技術來扭曲數字現實以獲取非法收益，而且，這種技術正在混亂和不確定的環境因素中蓬勃發展。
雖然借助Deepfakes技術的網絡攻擊所構成的威脅看起來很嚴重，但企業組織仍然可以采取多種措施來抵御它們，包括培訓和教育、先進技術以及威脅情報等，所有這些都旨在應對惡意的Deepfakes活動。
首先，教育和培訓員工有關Deepfakes社交工程攻擊（尤其是那些最有針對性的攻擊）的知識是降低風險的一個重要因素，而且必須將重點放在財務部門員工身上，并且提醒他們注意這種可能性，并允許其在懷疑時放慢付款進程。
其次，在技術方面，建議企業組織部署更多的分析系統，以及時發現異常行為等。同樣地，威脅情報也可以提供幫助，因為它可以顯示企業組織是否正淪為攻擊目標，某個部門是否正遭受監視，或者某一特定群體是否正在這一領域變得活躍。Deepfakes欺詐需要時間來設置和執行，這讓潛在受害者有足夠的時間來發現警告信號并采取行動。
除此之外，企業組織還可以通過隨機分配用戶指令來實現有效防御。因為Deepfakes創作者無法預測數以千計的可能請求，例如朝不同的方向看或閱讀一個短語等。雖然網絡犯罪分子可以實時操縱Deepfakes，但視頻質量會顯著下降，因為Deepfakes技術所需的強大處理能力使其無法快速做出反應。在此情況下，反復響應錯誤的用戶可以被標記，并進行進一步調查。
