嚴格監管ChatGPT，歐盟欲出臺全球首個AI法案

歐洲議會正就全球首部人工智能（AI）法案展開大規模協商，光修正案就有一千多項，創下了歐洲議會史上之最。

當地時間11日，歐洲議會內部市場委員會和公民自由委員會以84票贊成、7票反對和12票棄權通過關于《AI法案》的談判授權草案，其中包含了有關面部識別、生物識別監控和其他AI應用使用的新規則，并提出了嚴格監管ChatGPT等AI工具的新思路。

領導上述法案制定的歐洲議會議員土多拉舍（Drago? Tudorache）表示，歐盟的《AI法案》是全球首個此類立法，“歐盟可以在全球范圍內帶頭使AI以人為本，（變得）值得信賴和安全”。

“避免建立一個基于人工智能的受控社會”

歐盟于2021年首次提出《AI法案》，旨在制定管理使用AI系統的任何產品和服務的規則。

目前的提案采取了分級管理的思路，即基于AI的四個等級（從風險最小到不可接受），進行區別管理，風險較高的應用程序將面臨更嚴格的規則，需要更高的透明度和準確性。

歐洲議會認為，對人類安全造成不可接受風險的AI系統將被嚴格禁止，包括部署潛意識或有目的操縱技術、利用人們弱點或用于社會評分的系統。

譬如，用于預先確定犯罪發生地點和犯罪者的警務工具可能將被禁止，除打擊和預防特定恐怖威脅外，遠程面部識別技術也將被禁止。

《AI法案》的聯合推動人之一、歐洲議會意大利議員伯尼菲（Brando Benifei）表示，這樣做的目的是“避免建立一個基于人工智能的受控社會”。“我們認為這些技術可以用于好的地方，也可以用來做壞事，風險太高了。”他補充道。

此外，雖然原始提案并未詳細涵蓋聊天機器人，但由于在立法期間，ChatGPT橫空出世，立法者添加了一項修正案，將 ChatGPT和類似的生成式AI與高風險系統置于同一級別。

具體而言，此次歐洲議會的議員大幅修改了清單，以禁止侵入性和歧視性地使用AI系統的行為，例如：在公共場所“實時”使用的遠程生物特征識別系統；“事后”遠程生物識別系統，不過執法機關為起訴嚴重罪行且取得司法授權后例外；使用如性別、種族、公民身份、宗教、政治取向等敏感數據的生物識別分類系統；基于分析、位置或過去犯罪行為的預測性警務系統；執法、邊境管理、工作場所和教育機構中的情緒識別系統，以及不分青紅皂白地從社交媒體或閉路電視錄像中抓取生物識別數據來創建面部識別數據庫等行為。

針對ChatGPT等生成式AI專門監管

此次，歐洲議會議員擴大了AI高風險領域的分類，將對人們健康、安全、基本權利或環境的危害考慮在內。

目前，歐洲議會還有意針對ChatGPT等生成式 AI設立專門監管制度，大致與高風險系統須遵守的義務相同。

歐洲議會還提出，像ChatGPT這樣的生成基礎模型必須遵守額外的透明度要求，比如披露內容是由AI生成的，設計模型以防止其生成非法內容，以及發布用于訓練的受版權保護數據的摘要。

此外，歐洲議會的議員們還希望提高歐洲公民對AI系統提出投訴的權利，并獲得對基于嚴重影響其權利的高風險AI系統決策的解釋權利。

本周歐洲議會所達成的協議只是歐盟內部漫長而艱巨的程序的第一步，該程序可能需要數年時間，才能讓法案成為歐盟27個成員國的正式法律。

根據目前的時間表，該法案將于6月提交歐洲議會全體表決，之后歐洲議會、歐盟理事會和歐盟委員會的代表將在“三方”會談中商定最終條款。在條款最終確定且該法案成為法律后，將有大約兩年的寬限期。

知情人士表示，成員國和立法者可能會就在有限情況下，如存在恐怖威脅時，是否可以接受實時面部識別AI應用展開曠日持久的討論。

伯尼菲表示，對實時生物識別技術的限制是一個需要“艱難”談判的領域，歐盟可能“需要找到解決方案”。

他也樂觀表示，各個成員國會支持歐洲議會關于對生成AI模型進行立法的提議。

歐美監管思路不同

除了歐洲，全球各地越來越擔心快速發展的AI技術可能被濫用。上周，美國聯邦貿易委員會發出警告，稱“正在密切關注公司如何選擇使用AI技術，包括新的生成人工智能工具，以及對消費者產生實際和實質性影響的方式”。

5月4日，拜登政府則宣布對“值得信賴的”人工智能增加新投資。同日，美國副總統哈里斯以及多位白宮高級官員與谷歌、微軟、OpenAI和AI初創公司Anthropic的首席執行官會面，集中討論當前和近期的技術發展所帶來的風險。

作為潛在監管的第一步，美國商務部在4月11日已就相關措施正式公開征求意見，包括新AI模型在發布前是否應經過認證程序。征求意見期限為60天。

不過，盡管華盛頓遭到了AI威脅論的轟炸，但他們擔心禁用或停止AI的部署，可能讓美國在AI研究上失去競爭優勢。

投資咨詢公司BCA Research美國資產部首席策略師唐克爾（Irene Tunkel）對第一財經記者表示：“為了使美國保持相對于世界其他國家的技術優勢，美國政府將需要利用政策和財政支出來促進AI在多年內的增長。我們預計，（美國）更多的政府資源將被分配給AI，包括國防和非國防性質的資源，而監管環境將促進整個經濟領域在公共和私營部門越來越多地采用AI。”

同時，她稱，雖然近年來美國聯邦層面和州層面提出了許多AI領域的立法，但更多的立法并不一定意味著更緊的監管。“這些立法有一個基本的相似性。目的是促進美國公共和私營部門的AI的發展和使用，同時也有相關指導方針，保護AI的消費者和用戶。”她說。