通知 | 首屆人工智能安全大賽報名正式開啟！

VSole2022-07-19 08:30:45

為加快構建人工智能安全創新環境，進一步推動人工智能融合發展和安全應用，支撐我國人工智能安全健康發展。國家工業信息安全發展研究中心聯合中關村國家實驗室、清華大學人工智能研究院和北京瑞萊智慧科技有限公司共同主辦首屆人工智能安全大賽，現將有關事項通知如下：

一、大賽目的

大賽聚焦“新基建”時代人工智能產業發展所面臨的安全挑戰，針對人臉識別安全、深度偽造內容治理、自動駕駛安全等前沿領域，面向國內外高校、科研機構及企業設置賽題，旨在普及新型智能安全風險，以競賽方式解決現實場景中的需求問題，挖掘培育一批高水平、高層次的人工智能安全新型人才團隊，同時強化人工智能治理體系與安全評估能力建設，助力人工智能產業高質量發展。

二、大賽主題

共筑AI安全安享智能未來

三、大賽時間

2022年7月-9月

四、組織架構

? 指導單位：北京市科學技術委員會、中關村科技園區管理委員會、北京市經濟和信息化局；

? 主辦單位：中關村國家實驗室、國家工業信息安全發展研究中心、清華大學人工智能研究院、北京瑞萊智慧科技有限公司；

? 支持單位：中國電子信息行業聯合會人工智能工作委員會。

五、賽題設置

?深度偽造安全競賽

目前利用生成合成類算法偽造音頻、視頻等濫用現象日益加劇。例如，不法分子利用生物特征生成軟件偽造特定信息，用于電信詐騙、編造虛假新聞等，給個人和社會造成了嚴重的負面影響。而通過分析偽造音視頻的相似性，來溯源不同偽造內容是否來自同一種或同一類生物特征生成軟件，成為有效應對方案。本賽題模擬互聯網上深度偽造視頻傳播的場景，選手通過提交針對偽造方法的溯源算法，對相同生成方法的深度偽造視頻進行識別，最終根據準確率進行排名。

?自動駕駛安全競賽

目前自動駕駛在工業界迎來蓬勃發展，但結構性的技術缺陷也導致自動駕駛系統面臨安全威脅。以環境感知系統為例，在惡劣天氣、強日光照射等極端場景中自動駕駛車輛極易發生誤判。同時，對抗樣本等算法漏洞的存在，導致通過修改道路車輛等目標物的顏色、紋理特征，就能使車輛目標檢測模型失效。本賽題模擬自動駕駛場景下的對抗攻擊，提供仿真自動駕駛環境，選手提交對抗補丁，對主流自動駕駛目標檢測模型進行攻擊測試，最終根據攻擊成功率進行排名。

?人臉識別安全競賽

作為人工智能技術的典型應用，人臉識別廣泛滲透于社會生活的多個領域，如金融場景的刷臉支付、安防場景的人臉閘機驗證等。但在大規模落地的同時，人臉識別系統也面臨安全挑戰，容易受到對抗樣本攻擊，即通過對人臉圖像做微小的改動，能夠欺騙識別系統做出錯誤的判斷，破壞人臉認證系統，可能引發重大損失。本賽題模擬人臉比對場景下的對抗攻擊，在模型詳細信息未知的黑盒場景下，選手提交對抗補丁對模型進行攻擊測試，最終根據攻擊成功率進行排名。

六、主席評委團

本屆大賽是國內首個以人工智能安全為主題的賽事，匯聚業界頂級專家，五位院士強勢加盟，受邀擔任本屆大賽組委會主席，致力于打造人工智能安全領域最高水平的競技交流平臺。