語音克隆孫燕姿火爆全網，個人隱私將受到最大威脅

近日，有一個叫“AI孫燕姿”的歌手走紅社交網絡，這些通過技術手段訓練模擬孫燕姿的聲音來演唱的歌曲，最后生成的效果毫不違和。這種現象背后，“語音克隆”所帶來的個人隱私泄露問題值得反思。

此外，安全專家警告說，威脅行為者對暗網上的語音克隆即服務 (VCaaS) 產品的興趣激增，旨在簡化基于 deepfake 的欺詐。

Recorded Future 的最新報告《我沒有嘴巴，我必須犯罪》基于對地下網絡犯罪聊天的威脅情報分析。

Deepfake 音頻技術可以模仿目標的聲音，以繞過多因素身份驗證、傳播錯誤和虛假信息，并增強社交工程在商業電子郵件妥協 (BEC) 式攻擊等方面的有效性。

Recorded Future 警告說，越來越多的開箱即用語音克隆平臺在暗網上可用，降低了網絡犯罪分子的進入門檻。供應商聲稱，有些可以通過注冊帳戶免費使用，而另一些則每月只需支付 5 美元多一點。

在 Recorded Future 觀察到的聊天記錄中，假冒、回電詐騙和語音網絡釣魚經常在此類工具的背景下被提及。

在某些情況下，網絡犯罪分子濫用合法工具，例如用于有聲讀物畫外音、電影和電視配音、配音和廣告的工具。

一個顯然很受歡迎的選擇是 ElevenLabs的 Prime Voice AI 軟件，這是一種基于瀏覽器的文本到語音轉換工具，允許用戶上傳自定義語音樣本以收取額外費用。

然而，根據該報告，在將工具的使用限制在付費客戶方面，供應商鼓勵了更多的暗網創新。

報告中提到，“這導致越來越多地提到威脅行為者向 ElevenLabs 出售付費賬戶以及宣傳 VCaaS 產品。這些新的限制為一種新形式的商品化網絡犯罪打開了大門，需要以多層次的方式加以解決。”

幸運的是，許多當前的 deepfake 語音技術僅限于生成一次性樣本，無法用于實時擴展對話。然而，Recorded Future 認為，需要在威脅升級之前采取全行業的方法來解決威脅。

報告總結到，“風險緩解策略需要跨學科，解決社會工程、網絡釣魚和網絡釣魚、虛假信息等的根本原因。聲音克隆技術仍然被具有特定意圖的人類所利用——它不會自行進行攻擊。”

“因此，采用一個框架來教育員工、用戶和客戶了解它所構成的威脅在短期內比打擊技術濫用本身更有效——這應該是一個長期的戰略目標。”

當媒體聯系 Recorded Future 尋求進一步評論，但不愿提供報告以外的任何信息。