理性應對ChatGPT網絡安全威脅

聊天機器人ChatGPT的最初功能定位是以貼近人類溝通的方式進行人機互動，但是用戶在使用過程中發現，ChatGPT除了能與用戶進行正常對話外，甚至能夠很好地完成代碼、論文、短評、新聞、翻譯、郵件等內容的創作，并讓人難以分辨其創作者為真人還是機器人。

ChatGPT作為一種現象級產品，表現出的強大功能展現了人工智能技術對社會人力資源分配和產業結構優化的潛在市場價值。但與任何一項新技術應用一樣，ChatGPT也會具有兩面性，在提升人類生活品質和工作效率的同時，也有可能因其濫用而產生一些負面的社會效果，特別是其有可能產生網絡安全威脅：

第一，ChatGPT的代碼編寫功能將拓展黑客攻擊的技術工具，使得原有的網絡攻擊呈現更加龐大的規模化趨勢。ChatGPT能夠輔助黑客高效完成惡意軟件的編寫，如此一來，針對關鍵信息基礎設施有組織、有規模的網絡安全攻擊頻次將會增加，同時，過去以大型企業為主要目標的攻擊模式可能轉變為囊括大中小型企業的攻擊模式。

第二，ChatGPT的信息編寫功能能夠輔助網絡詐騙分子生成規模化、低成本的網絡釣魚軟件，并且生成的詐騙信息由于具有智能化特征，使得被詐騙者識別信息真偽的難度增加。

第三，ChatGPT的信息編寫功能可能導致網絡虛假信息泛濫，并且網絡用戶更加難以甄別這些信息的真偽，由此網絡空間輿情治理壓力勢必增加。

針對這些問題，有專家學者提出應對ChatGPT“制定專門立法”“制定配套措施”。實際上，ChatGPT的市場成功不等于人工智能產業取得了突破性發展。考慮到ChatGPT目前能夠處理的工作任務具有鮮明的重復性、模板性特征，因此，監管機構沒有必要立即將ChatGPT技術監管作為現階段網絡空間治理的核心工作任務，否則，我國立法模式會陷入“出現一項新技術，制定一項新規定”的邏輯怪圈。

其實，我國已先后頒布了網絡安全法、《網絡信息內容生態治理規定》、《互聯網信息服務算法推薦管理規定》等法律法規，針對人工智能技術和算法技術濫用規定了詳細的法定義務和監管體系，足以應對短期內ChatGPT可能導致的網絡安全風險。現階段，我國監管部門可以充分利用現有法律制度，加強對ChatGPT相關產業的監管；未來在經驗成熟時，可以考慮啟動人工智能技術應用領域的立法，以應對各種潛在的安全風險。

首先，重點監管大型企業研發活動，落實人工智能技術標準。ChatGPT對于算法、數據乃至服務器的需求量驚人，具備開發類似產品的主體大多僅限于超大型互聯網企業或技術公司。在相關產品投入市場之前，可以利用算法備案機制，對具備影響網絡安全和國家安全可能性的產品或服務進行安全性審查。并且，相較于對用戶使用行為進行監管而言，從源頭上對研發企業進行監管成效更顯著，且研發企業也有技術能力對惡意軟件代碼片段編寫功能進行限制。

其次，明確研發機構、網絡平臺經營者對于人工智能產品應用的安全風險評估義務。ChatGPT及其類似產品本身不具有社會危害性，關鍵在于以不當方式使用可能導致一定的損害結果。針對ChatGPT可能引發的網絡釣魚郵件等網絡詐騙風險，應當明確作為“危險制造者”的研發機構、網絡平臺經營者在此類產品投入市場之前進行安全風險評估，確保風險可控。

最后，需要關注以人工智能信息審核技術規制人工智能可能誘發的虛假信息泛濫風險。為了避免ChatGPT等人工智能產品大量生成難以通過自動化批量審核的虛假信息內容，監管機構以及網絡平臺經營者可能需要進一步提升監管技術，充分利用人工智能技術的審核智能化特征，根據ChatGPT這類產品的發展水平和生成信息內容特征，鼓勵行業協會、大型企業或第三方專業機構積極推進人工智能違規信息審核產品的研發和推廣。（文 | 北京航空航天大學副教授，北京科技創新中心研究基地