防范人工智能給決策帶來風險

習近平總書記指出，“人工智能是引領這一輪科技革命和產業變革的戰略性技術，具有溢出帶動性很強的‘頭雁’效應。”人工智能的快速發展不僅推動經濟社會的深刻變革，同時也為政府決策模式的變革提供了新路徑，對于建立健全大數據輔助科學決策機制、全面提升政府決策科學化民主化水平具有重要意義。

信息是決策的基礎，但信息規模越大，結構性越復雜，意味著處理難度也越大。與人類決策相比，人工智能技術可以更加高效、快速、準確地搜集和處理海量非結構化數據，并將主次矛盾、因果關系、約束條件等呈現出來，為確定政策目標提供有價值的參考，便于決策者把握決策需求、認清問題癥結、抓準主要矛盾、科學制定對策。

人工智能的機器學習方法可以通過分析數據中的模式和規律，自動訓練和模擬模型，更加精準地預測潛在問題和風險的發生概率、復雜性與嚴重程度，事前預估不同政策方案實施后果，從而幫助決策者設置政策議程、優選政策方案。同時，人工智能的自然語言處理技術和文本情感分析技術使政府與公眾可利用文字、聲音、圖片等多種形式進行互動，這不僅拓寬了公眾參與決策的渠道，還豐富了政府回應民眾訴求的途徑，提高政府決策的透明度。政府還可利用計算機識別技術和深度學習技術對海量民意進行識別、整理、分析，了解公眾共同的利益訴求、把握“最大公約數”，進而制定更符合民意的政策，實現價值聚合，提高政府信任度。

盡管人工智能提高了政府的決策能力，但也給政府決策帶來諸如決策失靈等相關問題。

一是公平性風險。公平是政府決策的核心價值之一，但數據偏見和算法偏見使人工智能輔助政府決策面臨公平性風險。一方面，大數據雖是海量數據，但卻不是全數據。與理想化的全數據相比，大數據反映的現實是不完備的，例如，一些數字素養較弱群體的數據信息就難以被人工智能抓取。在帶有“參與者偏差”的不完備數據基礎上進行的決策可能會延續數據本身蘊含的價值偏差，加劇社會不公平。另一方面，算法決定了海量數據的應用方向及其計算效果，而算法設計過程中難免受到研發者價值傾向的影響。當前絕大多數算法由經營主體開發，其價值導向與公共部門未必完全一致，加之算法黑箱的存在使政府決策的公平性難以得到有效保證。

二是安全性風險。利用人工智能技術輔助政府決策通常需要收集大量數據，其中包含涉及個人隱私、商業機密、國家安全等敏感信息。有些信息單個或少量的存在并不敏感，但海量匯聚和挖掘分析后可能具有一定的敏感性。如果這些數據未能受到足夠保護，可能會造成數據濫用甚至泄露，不僅損害個人和企業的隱私權，還可能對國家安全構成威脅。

三是倫理風險。算法和技術的加入使政府決策的影響因素日益復雜，原有的權責配置發生變化，造成責任主體虛化，帶來倫理風險。運用人工智能輔助政府決策在一定程度上賦予了算法與技術決策權，一旦出現算法失靈，就會導致決策失誤，公共利益受損。由于人工智能算法并不擁有責任主體地位，因此，決策失靈的責任追究和政治問責出現困境。

為防范人工智能技術給政府決策帶來的風險，更好地推動人工智能賦能政府決策，需要在審視現行決策模式和制度基礎上，針對人工智能技術的特點，采取多方面措施。

一是建立參與式算法決策框架。公共的價值觀既包括決策結果的公平公正，也包括決策過程的公開參與。為化解因數據偏見和算法偏見帶來的公平性風險，一方面，吸納政策利益相關主體代表參與算法設計與構建，提高算法的公開性和透明性，將公共價值融入到算法設計中去。另一方面，加強對算法決策的前期審核與后期評估，建立人工智能輔助政府決策的倫理審查機制，組織技術專家、公眾和協會等定期參與倫理審查，防范人工智能輔助政府決策的倫理風險。

二是加強適配算法決策的制度建設。一方面，建立算法救濟制度。算法的不透明性與不可解釋性客觀上壓縮了公眾遭遇算法不公時的申訴與反饋渠道。為此，在制度上保障公眾的知情權、選擇權與要求人工介入權，暢通算法決策的救濟渠道，及時根據公眾意見修正算法缺陷，矯正價值偏差。另一方面，建立算法問責制度。當基于特定算法決策嚴重損害公眾利益時，立即開展算法問責，清晰判定算法開發者、審查者和實施者責任，倒逼各方以更高價值標準開發、審查和執行決策算法。

三是注重復合型人才的分散化儲備。兼具技術能力和決策能力的復合型人才是推動人工智能賦能政府決策的關鍵，可以有效降低決策人員與技術專家之間的溝通成本，預估并規避算法決策的潛在風險。而復合型人才在少數組織的過度集中可能阻礙技術進步，更可能導致掌握人工智能前沿技術的大企業不當介入和影響政府決策。為此，政府積極設立專門的人工智能技術部門，促進復合型人才的分散化儲備，建立與經營主體的日常性互動及合作，掌握前沿技術進展，增強利用人工智能技術輔助決策的主動性。

四是動態選擇決策模式。根據算法對決策過程主導性的高低，可將決策模式分為算法主導型、算法輔助型和算法咨詢型三類。雖然人工智能為提高政府決策能力提供了重要的技術價值，但目前的算法決策仍然是一種有限理性的決策輸出，還需要發揮人類決策在價值判斷和自由裁量上的優勢。因此，既要在制度上明確算法決策的地位和權限，賦予算法決策應有的權威，也要根據決策任務的復雜性審慎選擇決策模式，實現人類決策與算法決策的耦合協同，有效防范政府決策風險。