歐盟《人工智能法案》如何影響教育？

在《人工智能法案》中，“教育”被認定為一個積極應用人工智能的領域。

2023年12月8日，經過長達一周的馬拉松式磋商和激烈辯論，歐盟委員會、歐洲議會以及歐盟各成員國的代表們就《人工智能法案》AI Act）達成了初步共識。“靴子落地。”中國現代國際關系研究院歐洲研究所歐洲經濟項目負責人董一凡表示，這是一個標志性進展，《人工智能法案》在全球范圍內是一份比較領先的整體性監管規則，具有很強的歐盟特色。目前，法案的技術性細節仍在討論階段，其最終文本尚未向公眾披露。

“歐盟就《人工智能法案》達成的協議具有里程碑意義”，歐盟委員會內部市場專員蒂埃里·布雷頓在社交媒體上表示，“《人工智能法案》不僅是一本規則手冊，也將成為幫助歐盟初創企業和研究人員引領全球人工智能領域競賽的重要指南。”

近年來，歐盟把人工智能技術監管作為關鍵政策，采取“以人為中心”的發展路徑。從2019年開始，歐盟通過非強制性“軟法”著手監管AI，逐步轉向制定全面的法案。2021年4月，歐盟委員會提交了《人工智能法案》草案。經過多次修訂，2023年6月，歐洲議會高票通過該草案。聯合報告員德拉戈·圖多拉奇表示：“《人工智能法案》將為全球人工智能的發展和治理定下基調。”

美國哥倫比亞大學法學院教授、歐盟數字監管領域專家阿努·布拉德福德指出，歐盟制定了一套強有力且全面的監管措施，這“將為眾多考慮實施監管的政府提供優秀示范，其他國家或許不會完全復制每一項條款，但其中許多條款所涉及的關鍵要素很可能被效仿。”

01 歐盟《人工智能法案》概述

《人工智能法案》旨在為全球AI技術應用和發展設定全面標準，確保其符合道德和法律雙重標準，同時提升歐盟在AI領域的競爭力和影響力。法案適用于AI系統的供應商、使用者，包括歐盟內部和第三國相關方。

法案主要內容包括：統一AI系統在歐盟市場的投放和使用規則；禁止某些AI實踐；明確高風險AI系統的要求和責任；規定AI系統透明度的協調規則；涵蓋市場監測、監管、治理及執法。法案還特別鼓勵創新，關注中小企業和初創企業。

考慮到AI技術對歐洲價值觀和基本權利的潛在影響，法案采用審慎的風險權衡方法，將AI風險分為四個層級。

1.不可接受的風險（Unacceptable Risk）：包括那些可能威脅人們生命、安全和權利的AI系統。這類風險涵蓋使用敏感特征的生物特征分類系統（如政治、宗教、性取向等）、無目的的人臉信息收集、工作場所和教育機構內的表情識別、基于社會行為的評分系統，以及能夠操縱或繞過人類自由意志的AI。歐盟委員會明確表示，這些構成明顯威脅的AI系統將被禁止。不過，法案為執法部門設定了例外，允許其在嚴格條件下使用非實時遠程生物識別技術，如在重大刑事案件中定位嫌疑人。這一規定體現了歐盟立法者與成員國政府在權力平衡方面的協商結果。

2.高風險（High Risk）。可能發生高風險的AI應用領域包括關鍵基礎設施、公民教育、產品安全組件、公民就業、公共服務、涉權型執法、出入境管理、司法及民主進程等八大類。對于這些領域的AI系統，在市場投放前必須遵守七項義務：進行全面的風險評估，提供高質量數據集以降低風險和偏見，記錄操作以確保可追溯性，提供完整的系統信息供審查，向用戶明確傳達信息，實施人為監督以使風險最小化，并確保系統的安全性和準確性。

3.有限的風險（Limited Risk）。法案特指對用戶具有明確透明度要求的特定AI系統，例如聊天機器人。在提供聊天機器人服務時，服務提供方需要明確告知用戶，他們正在與機器進行對話。此外，使用深度偽造技術或其他AI生成的內容時，應當對其進行明確標注以告知用戶。同樣，當使用表情識別或生物特征分類系統時，提供方也應當向用戶透露這一信息。

4.最小風險（Minimal Risk）。涉及已經被廣泛應用且風險極低的AI系統，例如垃圾郵件過濾器、電子游戲中的AI系統等。這一類別涵蓋了絕大多數人工智能系統。鑒于這些系統的風險極小，法案并未對此進行干預。

《人工智能法案》強調AI系統的設計和開發應受公民監督，由國家市場監督機構負責執行新規。法案計劃設立歐洲人工智能委員會，負責推動規則實施、標準制定、協助國家機構確保統一應用法案、發布AI技術意見，并在成員國間分享最佳實踐。法案鼓勵非高風險AI技術提供者遵守行為守則，并引入監管沙盒模式以激勵創新。成員國需根據本國情況嚴格執行規定，違反者可能面臨高達3000萬歐元罰款或年營業額的2%至6%的處罰。法案細節將進一步完善，預計最早于2025年全面實施。

02 歐盟《人工智能法案》對教育的影響

歐盟《人工智能法案》引起了全球關注。北京師范大學法學院博士生導師兼中國互聯網協會研究中心副主任吳沈括指出，該法案將對歐盟乃至全球的人工智能發展和立法環境產生深遠的影響。法案一旦頒布并實施，將對人工智能的研發，以及人工智能產品和服務的設計與運營產生重大的直接影響。其影響不僅限于人工智能開發商，還將波及教育、醫療保健、銀行等使用該技術的多個領域。

在該法案中，“教育”被認定為一個積極應用人工智能的領域，同時也被劃分為人工智能應用的“高風險”類別。法案指出：“在教育領域部署人工智能系統至關重要，它不僅可以助力整個教育系統的現代化，提升線上線下教育的質量，加速數字化教育的發展，還能使更廣泛的人群受益。特別是那些在教育或職業培訓中用于決定入學、錄取或分配人員的人工智能系統，以及用于評估學生的測試、評定個人教育水平的人工智能系統，或在測試期間用于監控和檢測學生行為的人工智能系統。由于這些人工智能系統對個人未來教育和培訓水平以及職業生涯產生重大影響，應被歸類為高風險。如果設計和使用不當，這類系統可能具有侵入性，侵犯人們受教育和培訓的權利及不受歧視的權利，甚至可能使歷史上的歧視模式永久化，例如針對婦女、特定年齡組、殘疾人、某些種族或民族血統或性取向的人的歧視。”

然而，關鍵問題在于，如何區分那些促進教育發展的人工智能系統與那些可能對特定學習者造成歧視的系統，特別是在某些情況下，這兩種系統可能會同時存在。

此外，法案明確提出要將人工智能素養納入教育體系和項目中。這為教育機構開發專門針對學生的人工智能項目提供了便利，并確保所有學生都能接受基本的人工智能素養培訓。從高等教育機構的視角來看，這一修正案強調了將人工智能素養和技能納入各個學科課程的迫切性。這一點不僅適用于工程和計算機科學領域，還包括藝術、人文學科、社會科學等領域。同時，它還突出了確保學生能夠應對人工智能系統風險的重要性。因此，大學應當將人工智能素養視為一項核心能力，這符合許多機構的“通識教育”或“跨學科研究”的要求。

目前，學生使用生成式人工智能（特別是在完成作業方面的不恰當應用）已成為許多教育機構的關注焦點，各機構為此已投入大量資源使用人工智能來檢測和應對這類違規行為。然而，該法案將在多大程度上限制教育工作者管理課堂上人工智能使用的能力，或者限制在歐洲境內運營的公司開發用于檢測人工智能工具的能力，目前尚不得而知，有待進一步觀察。

總體而言，在歐盟《人工智能法案》的影響下，教育機構需要做出相應調整：首先，建立完善的合規體系，積極應對AI技術的風險，并確保其在教育中得到安全有效應用。其次，提高基于AI的教育工具的透明度和風險評估，確保技術符合高標準。此外，將AI道德和數據素養納入課程，讓學生準備應對AI主導的未來，并強調要遵守版權法。同時，重視個人數據保護，提升數據保護和倫理規范。另一方面，要鼓勵教育機構在AI領域內的創新和研究，包括與企業合作開發新應用。還要為在職人員提供AI法律和倫理培訓，并促進國際合作，以使得教育實踐與全球標準保持一致。

03 挑戰與展望

西班牙數字化與人工智能大臣卡梅·阿蒂加斯形容歐盟《人工智能法案》是“歷史性的成就”，強調其在創新促進與尊重公民權利間實現了平衡。歐盟委員會主席烏爾蘇拉·馮·德萊恩也認為這是一個歷史性的時刻，體現了歐盟價值觀的演進，并提到百余家公司已自愿遵守此法案。

復旦大學發展研究院副研究員姚旭分析，全球人工智能監管與立法呈現兩種趨勢：一是以中國和歐盟為代表的國家迅速出臺相關規定，對人工智能進行了從框架到細節的治理探索。其中，2023年7月，中國出臺的《生成式人工智能服務管理暫行辦法》是全球首個針對生成式人工智能做出迅速反應的法律，明確了本國人工智能產業發展方向和規范。二是以美國為代表的國家，政府、立法與業界還在不斷磨合。OpenAI的CEO奧爾特曼（Sam Altman）在國會聽證會上曾經呼吁對人工智能進行更明確的監管，但美國國內現有的討論還不足以在法律層面形成快速突破。

“制定人工智能全球標準，各方仍在博弈。”姚旭表示，2023年5月，G7大阪峰會上，發達國家領導人聲稱要以所謂“民主價值觀”為基礎建立人工智能國際準則。2023年11月，中國、美國、歐盟和其他約20個國家在英國簽署了《布萊切利宣言》。近期舉辦的一系列人工智能國際治理會議中，“全球南方”國家普遍表示，希望全球人工智能標準合作程度不斷加深，避免在所謂的陣營間“選邊站”，這與中國強調的人工智能領域國際合作倡議完全契合。從這個意義上說，《人工智能法案》將使歐盟在人工智能監管國際合作中有較強獨立性。

與歐盟立法者和領導人的看法不同，科技團體和公民權利團體都對當前的臨時協議表示不滿。科技團體認為這份法案過于嚴苛，而公民權利團體則認為法案存在較大漏洞。《金融時報》報道，歐洲科技行業意見領袖塞西莉亞·博內菲爾德-達爾指出，該法案的嚴格監管要求可能導致企業投入大量資源聘請律師以符合規定，而不是招募AI工程師，從而影響創新發展。歐洲大公司如空客、西門子等也認為法案規則過于嚴格，不利于與美國科技企業如微軟、OpenAI的競爭。另一方面，美聯社報道，歐洲公民權利團體對法案中AI生物信息識別的執法權豁免表示擔憂，并認為法案對邊境和移民管理中的AI應用管理不足。

除了對法案文本本身的質疑外，法案的執行效果也受到了關注。《紐約時報》指出，法案的實施需要27個歐盟成員國的共同努力，在財政緊張的背景下增加預算，這使得執行成效成為一個問題。以前的歐盟數據隱私立法就因執行不力而受到批評。愛爾蘭公民自由委員會的專家克里斯·施里沙克評論說，如果缺乏強有力的執行，協議將毫無意義。鑒于各成員國可能因國內產業發展而在執行上打折扣，這份法案在最終實施后的長期影響及其條文是否會因AI行業的快速發展而過時，都是未知數。

德國工業聯合會（BDI）指出，該法案對AI基礎模型及其應用的全面監管可能削弱制造商和用戶的競爭力及創新能力。美國計算機與通信行業協會也提到，歐盟應避免過于寬泛的監管，否則會抑制創新。一些擔心人工智能模型帶來安全風險的專家認為，該法案沒有對人工智能系統可以使用的計算能力進行限制。

“歐盟《人工智能法案》最終通過后，將成為全球加強人工智能治理浪潮中的重要‘靶子’。”姚旭認為，歐盟內部立法往往具有很強的溢出效應。針對歐盟《人工智能法案》當中的算法透明度、通用人工智能護欄、禁止使用的場景劃分等內容，各國后續立法一定會針對本國實際情況逐條參考，確定保障措施和例外條款。歐盟人工智能法案后續施行情況，也將成為各國著重觀察的重點，其中，如何平衡監管與發展是重中之重。

本文刊登于《中國教育網絡》2023年11月刊，根據歐盟委員會官網、美聯社、歐洲新聞網、Medium、復旦發展研究院等網站資料整理