與變異風險詞賽跑 阿里探索AI治理網絡風險

   最近，阿里安全一線風控小二可粒發現，在禁售的風險防控庫里，有人試圖“上新”新品種，不法份子借助在社交媒體上走紅的“魔法改運”等說辭，引人入玄學騙局。

  盡量提前發現風險問題，提早布防是阿里安全風控部門的日常工作。“但是，風險對抗是不斷升級的，各類風險詞不斷變異試圖躲避各家平臺管控，如果單靠人力防控，只會是杯水車薪。”可粒說。

  針對類似具有行業共性的風險治理難題，業界和學界推動以技術創新探索網絡風險治理。今年中國中文信息學會語言與知識計算專業委員會主辦了“CCKS 2021通用百科知識圖譜實體類型推斷”比賽，邀請國內283支隊伍參賽。

  12月25日，比賽結果出爐，阿里安全升級包含封建迷信、軟色情、野生動植物保護、血腥暴力等重難點風險治理域在內的AI技術獲得第一名。

圖說：“CCKS 2021通用百科知識圖譜實體類型推斷”競賽公布獲獎情況

  阿里安全高級風控專家杜衡介紹，阿里安全在平臺部署了上述新升級的新一代安全架構核心AI能力，讓AI對風險商品進行“聯想”，以此對抗突發新增、變異的風險商品。此前阿里風控平臺對多類風險商品出臺了明確的管理規則，進行了禁售規范，今年綠網計劃則針對相關風險詞，上線了科普宣導。

  雖然該AI技術在競賽的公開數據集上獲得了突出的成果，但據阿里安全反饋，技術應用在真實環境中遇到了更多難題。

  阿里安全算法工程師科藍解釋，第一個難點是商家發現相關風險詞被平臺管控后，立馬試圖用新詞代替，為了讓AI的能力跟上變異的節奏，甚至提前布防，AI會基于風險防控經驗以及公共新聞事件等，自動挖掘一些新詞，并對這些詞進行擴充解釋，讓AI系統理解這些詞的真正含義和匹配的風險場景，最后候選風險詞還要經過運營的人工校驗。

  “相當于你在跟一個不斷易容、換衣服的人賽跑，他跑著跑著就換一層皮，你得找準對手，不停地往前跑。”科藍說，目前依靠AI自動搜尋生產的非正常風險詞匯，最終被人工運營審核后的采納率為60%，逐步降低了人工尋找新風險詞的成本，同時盡量提升覆蓋更多風險區域的效率。

  第二個難點是，除了風險詞變異速度快，平臺發現有些商家會以正常商品介紹的“外套”引導消費者到其他社交工具上進行溝通和成交。

  “這種情況比較難以通過某種技術防控，一方面我們通過各種渠道向商家進行合規知識的宣導，一方面也希望互聯網平臺聯合起來，針對此類風險共同探索合作治理機制。”杜衡說。

  該AI目前升級覆蓋到17個風險場景。阿里安全資深算法專家薛暉介紹，阿里安全在加大技術治理風險場景的投入，比如建立人工智能治理與可持續發展的新型實驗室，與頂尖高校聯合發起“安全AI挑戰者計劃”等項目，培養實戰型AI人才。

  “要強調的是，AI技術不是萬能的，平臺遇到各種風險變異與挑戰也正說明，治理多類風險場景將是持續的博弈，但使用技術進行風險治理是其中一個發展方向，我們還在繼續提升AI聯想的準確率，希望依靠科技創新構建更清朗的平臺環境，探索如何更好地解決大眾遇到的網絡安全風險問題。”薛暉說。