AI也要抓漏了？微軟震撼發布全新AI漏洞賞金計劃

   微軟宣布推出一項新的專注于人工智能的錯誤賞金計劃。該計劃最初專注于人工智能驅動的Bing，針對瀏覽器中bing.com的漏洞以及Edge、Microsoft Start應用程序和Skype移動應用程序中的Bing集成提供高達15,000美元的獎勵。

   據微軟稱，bing.com上人工智能驅動的Bing體驗（包括Bing Chat、Bing Chat for Enterprise和Bing Image Creator）中的任何漏洞都在該計劃的范圍內。對于人工智能驅動的Bing集成，微軟正在尋找Windows上的Edge瀏覽器（包括企業版Bing Chat）以及iOS和Android應用程序中的漏洞。

   與AI系統相關的安全漏洞涵蓋了推論操縱、模型操縱及推論資訊揭露，像是可注入指令導致模型偏離其預期行為，或是可干擾有效輸入而令模型產生錯誤輸出，或是可竄改模型架構、訓練程式碼、訓練數據或超參數來毒害模型，或是可自訓練數據集中重建個人資料紀錄等。

   微軟表示正在尋找以上漏洞的報告。它還將接受有關影響或修改Bing聊天行為、破壞Bing交叉對話內存保護、揭示Bing內部工作原理和提示以及繞過Bing聊天模式會話限制的錯誤和漏洞鏈的報告。

   雖然漏洞賞金獎勵范圍從2,000美元到15,000美元不等，但根據漏洞的嚴重性和影響以及提交的質量，也可能獲得更高的獎勵。不過，只有被微軟AI漏洞分類系統視為重要（Important）或重大（Critical）等級的安全漏洞才符合申請資格。參與的安全研究人員需要通過MSRC研究人員門戶的Bing部分提交報告，包括對話ID并描述攻擊向量。

   根據微軟日前所公布的年度抓漏成果，自去年7月1日到今年6月底之間，微軟總計推出了17個抓漏計劃，來自全球超45個國家的345個安全研究人員，總計提交了1180個符合資格的漏洞報告，獲得了1380萬美元的獎金，最高的一筆抓漏獎金為20萬美元。