中國信通院魏薇等：構建安全保障體系，護航人工智能新基建發展
0 引言
當前，受新冠肺炎疫情防控、國際競爭博弈等影響，我國傳統拉動經濟增長的外貿、投資和消費“三駕馬車”均受到不同程度的影響，經濟面臨下行壓力[1]。國家多次提出加快新型基礎設施建設，國家部委和地方政府積極出臺“新基建”相關指導意見和投資計劃。相較于傳統基建，“新基建”發展空間巨大，帶動效應明顯，正在成為我國穩投資、調結構、擴內需的經濟發展新引擎。人工智能作為“新基建”的核心板塊之一，其發展備受矚目。在新冠肺炎疫情防控期間，人工智能企業紛紛開放算力、算法和數據等基礎設施資源，助力提升傳統行業智能化水平，為對沖疫情影響、促進產能恢復發揮了重要支撐作用。
人工智能作為“新基建”，更加強調其基礎設施屬性，主要包含以下特征：一是基礎支撐性，人工智能新基建著力推進人工智能計算、存儲、網絡等硬件基礎設施和框架、算法、數據等軟性基礎設施建設，提升數字基礎設施支撐能力；二是公共服務性，人工智能基礎算力、行業算法、數據資源和通用軟件將更多以平臺服務或者授權許可方式來提供，便利各行業、各領域獲取普惠性的智能化服務；三是溢出帶動性，人工智能新基建會加快人工智能技術的融合應用推廣，推動傳統基礎設施智能化升級改造，賦能傳統行業高質量轉型發展，成為培育壯大數字經濟的重要支撐。
1 人工智能新基建推進面臨的挑戰
數字經濟時代，世界主要國家大力促進新興技術發展，搶抓新一輪科技革命和產業變革的重大機遇，以5G、人工智能為代表的新型基礎設施建設成為推進信息技術產業化的關鍵支撐，以及提升國家核心競爭力的重要抓手。面對國際競爭新形勢、技術推廣新困境、泛在安全新風險以及安全治理新問題，人工智能新基建的推進實施存在很多良機，同時也面臨諸多挑戰。
1.1 從國際形勢看，人工智能新基建發展主導權受到威脅
當前，我國人口紅利逐漸消退，傳統制造業有加速向外轉移趨勢，而具備高附加值的科技和服務產業又由發達國家把持[2]。為避免落入“中等收入陷阱”，我國亟需把握以人工智能為代表的新一輪科技革命戰略機遇，尋求新的經濟增長點。目前，我國在計算機視覺、智能語音等人工智能應用層面處于全球領先水平，但在算力芯片、學習框架、基礎算法等人工智能基礎設施方面，對外依賴較為嚴重。近年來，以美國為首的發達國家為鎖定其技術優勢和主導地位，持續加大基礎環節管控，遏制我國人工智能行業發展。自2019年至今，美國政府已將我國數十家知名人工智能企業列入“實體清單”，限制人工智能相關基礎軟硬件出口。后疫情時代，部分國家逆全球化思維呈現加速發展態勢。美國加入全球人工智能合作伙伴組織（Global Partnership on Artificial Intelligence，GPAI）并推動發布聯合聲明，強調以符合“人權、自由和共同的民主價值觀”的方式支持AI開發和使用，這將在一定程度上限制我國人工智能技術在全球范圍內的發展和應用。錯綜復雜的國際形勢給我國人工智能新基建推進帶來新的風險挑戰，影響自主發展能力，制約產業全球推廣。
1.2 從技術特征看，人工智能新基建推進本身存在復雜性
人工智能技術快速發展演進，通用智能的實現方法尚不清晰，以海量數據和深度學習為驅動的技術途徑雖然取得顯著成果，但仍存在數據強依賴性、算法弱魯棒性、技術高復雜性等諸多瓶頸，制約人工智能新基建推進應用。一是數據強依賴性制約垂直行業應用推廣。人工智能充分賦能行業需要依賴行業內海量優質的應用場景數據，但在傳統的工業制造、農業生產、衛生醫療等具體行業內，往往存在數字化轉型程度不高以及數據開放共享不足等問題，對數據資源的高要求將限制人工智能有效推廣[3]。二是算法弱魯棒性較難適應復雜場景應用。現階段深度學習算法存在魯棒性弱的問題，在具體應用場景的開放動態環境中，算法決策可能會產生意料不到的錯誤，導致人工智能不太適用于工業控制、能源輸配等安全可靠性要求高的場合。三是技術高復雜性限制新基建推進進程。人工智能具有多學科交叉、高度復雜性特征，導致專業人才無法及時供給，缺口較大，而人工智能新基建推進需要大量既懂人工智能技術、又有行業領域知識的復合型人才，此類人才目前更為稀缺。根據教育部門測算，我國人工智能人才缺口超過500 萬，供需比例嚴重失衡，這將限制人工智能新基建的快速推進。
1.3 從安全風險看，人工智能新基建面臨多層次安全挑戰
新基建戰略推進將促使人工智能成為具有基礎支撐性、公共服務性等特征的社會公共品，進而對其安全性和可靠性水平提出更高要求。然而，當前階段人工智能技術仍不斷演進完善，且安全防御理論和技術處于探索初期，尚無法有效應對愈加復雜、多維度、多層次安全挑戰。一是人工智能數據和算法安全風險更加突出。新基建戰略的實施將加速人工智能技術以開源開放的平臺、算法包、模型庫等形式，向社會提供開放共享的普惠性服務。但是，受限于人工智能數據安全保護技術和機制尚不健全成熟，用戶上傳至平臺的數據面臨被第三方竊取、隱私泄露等風險。此外，第三方預訓練人工智能算法包面臨惡意提供者嵌入新型后門和木馬的安全風險[4]。此類安全風險非常隱蔽，用戶難以檢測發現，給后續人工智能應用帶來安全隱患。二是人工智能外部安全攻擊威脅更加嚴峻。新基建推動人工智能基礎平臺向行業應用平臺加速演進，人工智能技術在交通、醫療、金融等行業應用持續深化，廣泛賦能云側平臺和端側設備。由此，人工智能產品外部攻擊面不斷延展，受攻擊的可能大大增加，不良分子可從智能終端等安全防護薄弱環節實施攻擊，通過劫持終端入侵系統，進而威脅云側人工智能基礎設施安全。
1.4 從治理體系看，人工智能新基建帶來安全治理新問題
從國家發展和改革委員會對于“新基建” 概念界定來看，基于人工智能的融合基礎設施成為未來經濟社會發展的重要支撐，將催生出大量的經濟新業態和商業新模式[5]。但是，融合基礎設施以及構建在其上的智能應用的安全監管工作會涉及到政府多個管理部門，原有基于傳統行業界限的部門管理職責劃分將無法適用新技術發展。例如，智能網聯汽車的安全監管會涉及國家多個部委，各部門會結合自身原有職責從不同維度和切入點開展監管工作，難免出現交叉監管、監管空白等機制體制問題。
另外，人工智能深度學習算法的不透明性、難以追責等問題，給現有安全監管技術帶來極大挑戰，如何對人工智能安全風險實時監測和及時處置，成為安全治理機制建設的重點內容。隨著人工智能技術的快速發展和應用場景的不斷泛在，亟需加強部門統籌協同、創新監管機制手段，以保障人工智能新基建的順利推進。
2 構建人工智能新基建安全保障體系思路建議
新基建為國家人工智能戰略落地注入新動能，成為我國人工智能技術產業補短板、強弱項、促應用的新機遇。我國人工智能新基建面臨著發展和安全、國內和國際、技術和治理等多維度挑戰，為保障我國人工智能新基建順利實施，亟需統籌考慮，加快推動人工智能核心技術創新、治理體系構建、安全能力提升以及國際合作深化，健全完善我國人工智能安全保障體系。
2.1 提升人工智能核心技術創新能力
一是立足自主創新補足技術短板。針對先進制程芯片、基礎設計軟件等“卡脖子”的關鍵核心技術環節，在新基建戰略推進過程中，注重發揮國家和地方政府專項產業基金引導作用，鼓勵龍頭企業聚集產業鏈上下游公司聯合開展短板技術攻關和國產化技術應用，縮短核心技術研發攻關周期。二是加強海外人才引進和本土人才培養。針對人工智能新基建面臨的高端人才短缺困境，加速引入海外知名人才中介服務機構，創新海外高端人才柔性引進機制，授予國有企業更大的海外高端人才薪酬激勵自由度。創新校企聯合教育模式，以新基建需求為導向，增強交叉領域復合型人才培養。三是利用全球創新資源提升技術創新能力。利用我國超大規模市場虹吸效應以及持續優化的外資營商環境，吸引面向我國市場的海外人工智能軟硬件企業加速在我國設立設計研發基地，增強我國人工智能產業整體技術創新能力。
2.2 建立多方參與的人工智能安全治理體系
一是政府發揮安全治理主導作用。整合多學科力量，加強人工智能新基建面臨的法律、倫理、社會等方面的突出問題研究，建立涵蓋政府、企業和社會各方的人工智能安全責任體系[6]，制定出臺人工智能安全治理政策指南，構建人工智能應用分級分類安全治理機制。二是企業積極踐行安全治理主體責任。企業作為人工智能技術研發與應用的主要力量和一線實踐者需承擔治理主體責任。企業建立內部人工智能安全治理規范和制度，設立人工智能治理機構，從法律、倫理、社會等視角加強對各項人工智能應用的合理性審查，探索并實施算法偏見、算法黑箱、算法弱魯棒性、數據隱私等問題的技術解決措施，加強出廠前人工智能產品安全性核實驗證。三是社會加強安全治理監督。加快培育人工智能安全檢測咨詢服務機構，構建人工智能安全檢測驗證公共服務平臺，依托行業聯盟建立人工智能安全投訴舉報、核實驗證、公開曝光渠道。
2.3 健全人工智能安全技術保障能力
一是完善人工智能安全技術標準體系。制定出臺人工智能安全標準體系框架，構建人工智能安全標準推進路線圖，加快研制人工智能數據安全、算法模型安全、產品和應用安全、安全檢測評估等亟需標準。在人工智能新基建先導應用領域，加強人工智能安全標準宣貫和試點驗證。二是加強人工智能安全技術和產品研發。新基建規劃加強了人工智能安全項目布局，針對人工智能新基建面臨的突出算法和數據安全風險，鼓勵人工智能企業和網絡安全企業充分發揮各自優勢，通過聯合研發等方式，開展人工智能安全防御技術和產品攻關。三是加快人工智能安全保障技術平臺建設。通過國家重點研發計劃等專項資金，加快人工智能安全檢測、監測預警、應急處置、追蹤溯源等技術平臺建設。
2.4 促進人工智能國際互信合作發展
一是增進人工智能發展國際互信。依托國際政府合作組織、標準化協會等，廣泛分享我國人工智能新基建推進、融合應用以及安全治理工作的有益嘗試和成功經驗，積極參與或主導人工智能國際標準制定工作，推動形成人工智能發展和治理國際共識，增進國家間包容互信。二是加強人工智能新基建國際合作。鼓勵國內人工智能龍頭企業持續加強全球布局，積極開展國際業務，以東盟、亞太地區以及“一帶一路”沿線國家為合作重點，努力向歐美市場拓展延伸，推進人工智能新基建全球化發展，為我國人工智能發展構建廣泛生態系統和寬松國際環境。
3 結束語
在國家加快推動“新基建”背景之下，人工智能將進入高速發展階段，其溢出帶動效應更為凸顯，為傳統行業數字化轉型和經濟社會智能化發展提供強勁引擎。立足當下，著眼未來，需高度重視人工智能新基建發展過程中的安全風險和問題挑戰，開展應對舉措前瞻研究，探索構建安全保障體系，為人工智能新基建的健康發展保駕護航。
