歐盟《人工智能法案》立法進程梳理與主要內(nèi)容概覽【AI國際治理知識庫】

時間：2024-03-15 15:37:36 發(fā)布：tgy 來源：清華大學(xué)人工智能國際治理研究院第一對焦：人工智能

　　【ZiDongHua 之智能自動化收錄關(guān)鍵詞：人工智能聊天機器人自動化者】

　　歐盟《人工智能法案》立法進程梳理與主要內(nèi)容概覽【AI國際治理知識庫】

　　主理人：劉典

　　【AI治理知識庫】

　　在全球化和技術(shù)革新浪潮中，人工智能作為一種顛覆性的技術(shù)力量，正在深刻改變?nèi)蚪?jīng)濟結(jié)構(gòu)和社會秩序，并引發(fā)了廣泛的關(guān)注和一系列復(fù)雜的治理挑戰(zhàn)。隨著AI技術(shù)的快速發(fā)展和廣泛應(yīng)用，建立有效的國際治理框架變得尤為迫切。AI國際治理知識庫關(guān)注全球視野下人工智能國際治理的關(guān)鍵趨勢與地緣政治背景下的科技和數(shù)字治理問題，為關(guān)注相關(guān)問題的朋友提供及時、有效、嚴(yán)謹(jǐn)、全面的知識信息。

　　欄目主理人：劉典

　　復(fù)旦大學(xué)中國研究院副研究員、清華大學(xué)人工智能國際治理研究院戰(zhàn)略與宏觀研究項目主任

　　前言:歐盟《人工智能法案》

　　2024年3月13日，歐盟議會以 523 票贊成、46 票反對和 49 票棄權(quán)審議通過《人工智能法案》（EU AI Act），標(biāo)志著全球人工智能領(lǐng)域監(jiān)管邁入全新時代。該法旨在保護基本權(quán)利、民主、法治和環(huán)境可持續(xù)性免受高風(fēng)險人工智能的侵害，同時促進創(chuàng)新并確立歐洲在該領(lǐng)域的領(lǐng)導(dǎo)者地位。該法規(guī)根據(jù)人工智能的潛在風(fēng)險和影響程度規(guī)定了人工智能的義務(wù)。

　　該法明確禁止某些威脅公民權(quán)利的人工智能應(yīng)用程序，包括基于敏感特征的生物識別分類系統(tǒng)、從互聯(lián)網(wǎng)或閉路電視錄像中無針對性地抓取面部圖像以創(chuàng)建面部識別數(shù)據(jù)庫、工作場所和學(xué)校的情緒識別、社會評分、預(yù)測性警務(wù)（僅基于分析一個人或評估其特征時）以及操縱人類行為或利用人們?nèi)觞c的人工智能。

　　歐洲議會表示，該法案旨在保護基本權(quán)利、民主、法治和環(huán)境可持續(xù)性免受高風(fēng)險人工智能的影響，同時促進創(chuàng)新，以將歐洲“打造成為該領(lǐng)域的領(lǐng)導(dǎo)者”。該法案將禁止某些“威脅公民權(quán)利”的人工智能應(yīng)用，包括基于敏感特征的生物識別分類系統(tǒng)，以及從互聯(lián)網(wǎng)或閉路電視錄像中無目標(biāo)地抓取面部圖像以創(chuàng)建面部識別數(shù)據(jù)庫。操縱人類行為或利用人類弱點的人工智能也將被禁止。

　　PART1：歐盟《人工智能法案》立法進程梳理

　　1.歐盟《人工智能法案》立法進程

　　2.各方對《人工智能法案》的態(tài)度匯總

　　PART2:歐盟《人工智能法案》主要內(nèi)容概覽

　　1. 歐盟《人工智能法案》主要內(nèi)容概覽

　　2.歐盟《人工智能法案》的分級分類風(fēng)險治理

　　PART3：歐盟《人工智能法案》帶來的影響

　　1.歐盟樹立科技監(jiān)管方面的“引領(lǐng)者”地位

　　2.歐盟《人工智能法案》對中國的影響

　　當(dāng)?shù)貢r間周三，歐洲議會以523票贊成、46票反對、49票棄權(quán)通過了具有里程碑意義的《人工智能法》(AI Act)，使得歐盟在對這項顛覆性技術(shù)的監(jiān)管方面走在了世界前列，很可能會為整個西方的AI監(jiān)管規(guī)則定下基調(diào)。歐洲議會表示，《人工智能法》旨在保護基本權(quán)利、民主、法治和環(huán)境可持續(xù)性不受高風(fēng)險人工智能的影響，同時促進創(chuàng)新，使歐洲成為該領(lǐng)域的領(lǐng)導(dǎo)者。該法規(guī)根據(jù)人工智能的潛在風(fēng)險和影響程度為人工智能規(guī)定了義務(wù)。

　　歐盟內(nèi)部市場專員蒂埃里·布雷頓表示，《人工智能法》獲得了壓倒性支持，這是世界上第一個全面、有約束力的可信賴AI框架，歐洲現(xiàn)在是值得信賴的AI標(biāo)準(zhǔn)制定者。

　　接下來，該法案還需要得到歐盟理事會的正式批準(zhǔn)，使之成為法律。不過，最艱難的立法階段已經(jīng)過去，距離最終出臺僅有一步之遙。該法案是世界上第一個專門提出 AI 風(fēng)險分級監(jiān)管的綜合性人工智能法案，為歐盟范圍內(nèi)人工智能驅(qū)動的產(chǎn)品、服務(wù)和系統(tǒng)的開發(fā)、貿(mào)易和使用制定了核心規(guī)則，將成為未來人工智能治理水平進一步提升的重要參考依據(jù)。

　　歐盟《人工智能法案》立法進程梳理

　　歐盟《人工智能法案》立法進程

　　圖片

　　各方對《人工智能法案》的態(tài)度匯總

　　歐盟的立法者對最后各方達成一致的法案非常滿意。歐盟內(nèi)部市場專員蒂埃里·布雷頓（Thierry Breton）在社交媒體X平臺上寫道：“歐洲現(xiàn)在是人工智能領(lǐng)域的全球標(biāo)準(zhǔn)制定者。”歐洲議會主席羅伯塔·梅索拉（Roberta Metsola）也稱該法案具有開創(chuàng)性，將促進創(chuàng)新，同時維護公民的基本權(quán)利。“人工智能已經(jīng)成為我們?nèi)粘Ｉ畹囊徊糠?，現(xiàn)在這也將成為我們立法的一部分。”她在社交媒體帖子中寫道。

　　西班牙數(shù)字化與人工智能大臣卡梅·阿蒂加斯（Carme Artigas）稱這是“歷史性的成就和邁向未來的重要里程碑”，并稱在立法過程中“我們成功保持了極其微妙的平衡：在整個歐洲促進人工智能的創(chuàng)新和應(yīng)用，同時充分尊重我們的公民權(quán)利。”歐盟委員會主席烏爾蘇拉·馮·德萊恩（Ursula von der Leyen）也稱，“這是一個歷史性的時刻，人工智能法案將歐盟的價值觀代入了一個新的時代。”她同時稱已經(jīng)有上百家公司愿意在法案正式生效前自愿遵守這一法律，并歡迎更多的科技企業(yè)加入。

　　不過，和歐盟立法者和領(lǐng)導(dǎo)人的想法不同的是，對目前這份法案，科技團體和公民權(quán)利團體均不認(rèn)為其達到了他們各自認(rèn)為滿意的“微妙的平衡”：前者認(rèn)為這份法案太過嚴(yán)苛，后者則覺得這份法案仍有較大漏洞。據(jù)《金融時報》報道，歐洲大陸科技行業(yè)的意見領(lǐng)袖塞西莉亞·博內(nèi)菲爾德-達爾（Cecilia Bonefeld-Dahl）認(rèn)為這份法案用來防范人工智能風(fēng)險所付出的代價太大，“新的監(jiān)管要求會讓公司投入大量資源來雇傭律師而非AI工程師，以達到合規(guī)目的。”

　　據(jù)美聯(lián)社報道，歐洲的公民權(quán)利團體對AI生物信息識別在執(zhí)法權(quán)上的豁免表示擔(dān)憂，同時認(rèn)為法案對在邊境和移民管理中的AI應(yīng)用也缺乏應(yīng)有的管理。除了對法律文本本身的質(zhì)疑之外，這份法案最終的執(zhí)行情況也受到了質(zhì)疑?！都~約時報》的專欄文章指出，由于法案的執(zhí)行要求27個成員國的努力，考慮到這需要政府在財政緊張的情況下增加這方面的預(yù)算，其執(zhí)行情況可能堪憂。此前歐盟同樣具有里程碑意義的數(shù)據(jù)隱私立法便因為缺乏有力的執(zhí)行而飽受詬病。

　　美國方面，拜登政府于2023年10月30日發(fā)布的《關(guān)于安全、可靠和值得信賴地開發(fā)和使用人工智能的行政命令》是美國現(xiàn)代歷史上為監(jiān)管（或以其他方式治理）信息技術(shù)而做出的最重要的聯(lián)邦努力之一。盡管它不像歐盟的《人工智能法案》那樣是一部自成一體的綜合立法，但該命令立即生效，指導(dǎo)聯(lián)邦機構(gòu)資源評估和解決人工智能風(fēng)險。相比之下，歐洲的《人工智能法案》雖然成功問世，但在未來幾年內(nèi)不太可能全面生效。

　　而針對歐盟議會出臺的歷史性法案，美國科技公司反應(yīng)不一。亞馬遜方面表示：“我們致力于與歐盟和業(yè)界合作，支持人工智能技術(shù)的安全、可靠和負(fù)責(zé)任的發(fā)展。”該公司正在推出AI聊天機器人助手。Meta公司則警告不要采取任何可能扼殺創(chuàng)新的措施。Meta歐盟事務(wù)主管Marco Pancini表示：“最重要的是，我們不要忽視人工智能在促進歐洲創(chuàng)新和促進競爭方面的巨大潛力，而開放是關(guān)鍵。

　　歐盟人工智能治理政策重點文件梳理

　　歐盟《人工智能法案》主要內(nèi)容概覽

　　圖片

　　歐盟《人工智能法案》的分級分類風(fēng)險治理

　　按照《人工智能法案》，人工智能技術(shù)將被分類為四個風(fēng)險等級：“不可接受”，“高”，“中”，以及“低”。這些分類決定了相關(guān)企業(yè)需遵守的義務(wù)程度，其中風(fēng)險級別越高，合規(guī)要求越嚴(yán)格。

　　特別是處于高風(fēng)險類別的人工智能提供商，在對外提供服務(wù)之前，必須進行徹底的風(fēng)險評估，并確保其產(chǎn)品完全符合法規(guī)要求。違規(guī)企業(yè)將面臨嚴(yán)厲的經(jīng)濟處罰，罰款范圍介于750萬歐元至3500萬歐元（相當(dāng)于820萬美元至3820萬美元），具體罰金額度將基于侵權(quán)行為的性質(zhì)及企業(yè)規(guī)模決定。

　　歐盟《人工智能法案》基于人工智能的不透明性、復(fù)雜性、對數(shù)據(jù)的依賴性、自主行為性等特征，將人工智能的風(fēng)險等級區(qū)分為：不可接受風(fēng)險、高風(fēng)險、有限風(fēng)險和低或極小風(fēng)險的人工智能系統(tǒng)。

　　第一，不可接受風(fēng)險人工智能系統(tǒng)?！度斯ぶ悄芊ò浮返牡?條規(guī)定，被認(rèn)為對人們的安全、生計和權(quán)利構(gòu)成明顯威脅的有害人工智能系統(tǒng)所產(chǎn)生的風(fēng)險為不可接受的風(fēng)險。該系統(tǒng)不可以在歐盟境內(nèi)投放市場、投入服務(wù)或使用的。

　　第二，高風(fēng)險人工智能系統(tǒng)?！度斯ぶ悄芊ò浮返牡?條規(guī)定了對人們的安全或基本權(quán)利造成不利影響的“高風(fēng)險人工智能系統(tǒng)”，具體包括兩類高風(fēng)險的人工智能系統(tǒng)：一是作為產(chǎn)品安全組成部分或?qū)儆跉W盟衛(wèi)生與安全協(xié)調(diào)立法（如玩具、航空、汽車、醫(yī)療器械、升降機等）的系統(tǒng)；二是在附件三確定的8個特定領(lǐng)域部署的系統(tǒng)，委員會可以通過授權(quán)法案進行必要的更新。高風(fēng)險人工智能系統(tǒng)應(yīng)適用如下限制規(guī)則：首先，高風(fēng)險人工智能系統(tǒng)的提供者在將其投放市場或投入使用之前，需要將該系統(tǒng)注冊在歐盟范圍內(nèi)的AI數(shù)據(jù)庫中。任何受現(xiàn)有AI產(chǎn)品安全立法管轄的產(chǎn)品和服務(wù)，應(yīng)適用現(xiàn)有的第三方符合性框架（Conformity Frameworks）之下。目前不受歐盟立法管轄的人工智能系統(tǒng)的提供者必須進行自我評估，在符合要求的情況下，可以使用CE標(biāo)記。其次，高風(fēng)險的人工智能系統(tǒng)需要在風(fēng)險管理、測試、技術(shù)穩(wěn)健性、數(shù)據(jù)培訓(xùn)和數(shù)據(jù)治理、透明度、人類監(jiān)督和網(wǎng)絡(luò)安全等方面符合要求。最后，高風(fēng)險人工智能系統(tǒng)的提供者、進口商、分銷商和使用者將必須履行一系列義務(wù)。

　　第三，有限風(fēng)險人工智能系統(tǒng)。如與人類交互的系統(tǒng)（即聊天機器人）、情感識別系統(tǒng)、生物特征分類系統(tǒng)以及生成式人工智能系統(tǒng)，需要履行透明義務(wù)。

　　第四，低或極小風(fēng)險人工智能系統(tǒng)。低或極小風(fēng)險的人工智能系統(tǒng)在歐盟開發(fā)和使用，不需要遵守任何額外的法律義務(wù)。但《人工智能法案》中規(guī)定的行為準(zhǔn)則，鼓勵非高風(fēng)險人工智能系統(tǒng)的提供者自愿適用高風(fēng)險人工智能系統(tǒng)的強制性要求。

　　歐盟《人工智能法案》帶來的影響

　　歐盟樹立科技監(jiān)管方面的“引領(lǐng)者”地位

　　《人工智能法案》的通過進一步鞏固了歐盟在科技監(jiān)管方面的地位。該法案主要發(fā)起者之一、歐洲議會議員圖多拉奇(Dragos Tudorache）表示，自起草立法的早期階段以來，《人工智能法案》的制定者就“仔細考慮”了對世界各國政府的影響。他說，他經(jīng)常聽到其他立法者在開始起草自己的人工智能法案時正在研究歐盟的做法。“這項立法將代表許多其他司法管轄區(qū)的標(biāo)準(zhǔn)、模式。”他說，“這意味著我們在起草它時必須承擔(dān)額外的謹(jǐn)慎義務(wù)，因為它將對許多其他司法管轄區(qū)產(chǎn)生影響。”

　　對比美歐人工智能治理體系的建構(gòu)過程，在美國國會多年無所作為之后，歐盟的各項科技法案對美國硅谷公司產(chǎn)生了廣泛的影響。譬如，歐洲的GDPR迫使微軟等一些公司徹底改革他們處理歐洲境外用戶數(shù)據(jù)的方式。然而，有人擔(dān)心歐盟頻繁制定在科技方面的法律，令在歐洲地區(qū)的合規(guī)措施成本高昂，阻礙了小企業(yè)的發(fā)展。與此同時，經(jīng)過數(shù)月針對人工智能技術(shù)的聽證會和論壇后，美國國會仍處于制定有關(guān)人工智能的兩黨立法的早期階段。

　　拜登政府上臺之初就表示要“整頓”科技行業(yè)，現(xiàn)在2024大選即將到來，既沒有真正反壟斷，也沒有進行規(guī)則監(jiān)管立法，這也體現(xiàn)了拜登政府的一種態(tài)度。在此情況之下，歐洲人工智能界的擔(dān)憂更為強烈，有不少人士都發(fā)聲表示，新立法可能會阻礙技術(shù)創(chuàng)新，從而為人工智能研究和開發(fā)已經(jīng)更加先進的美國和英國帶來進一步優(yōu)勢。德國人工智能發(fā)展促進中AppliedAI Initiative董事總經(jīng)理利布爾(Andreas Liebl)表示：“它（人工智能法案）只會讓你在全球競爭中放慢腳步。”

　　對于那些從事高風(fēng)險AI系統(tǒng)研發(fā)和應(yīng)用的歐盟企業(yè)來說，他們將面臨更為嚴(yán)格的監(jiān)管要求。這可能會導(dǎo)致一些企業(yè)需要重新審視其業(yè)務(wù)模式和產(chǎn)品策略，以適應(yīng)新的監(jiān)管環(huán)境。同時，對于那些已經(jīng)在市場上運營的高風(fēng)險AI系統(tǒng)，也可能需要進行相應(yīng)的調(diào)整和改進，以滿足法規(guī)的要求。

　　對于整個AI行業(yè)來說，《人工智能法案》的通過將有助于提高行業(yè)的規(guī)范性和透明度。通過明確監(jiān)管標(biāo)準(zhǔn)和要求，將有助于減少行業(yè)內(nèi)的亂象和不合規(guī)行為，提升整個行業(yè)的形象和聲譽。這將有助于吸引更多的投資和人才進入AI領(lǐng)域，推動行業(yè)的健康發(fā)展。然而，值得注意的是，《人工智能法案》的通過并不意味著AI行業(yè)的監(jiān)管問題已經(jīng)完全解決。相反，隨著技術(shù)的不斷進步和應(yīng)用領(lǐng)域的不斷拓展，新的監(jiān)管挑戰(zhàn)和問題也將不斷出現(xiàn)。因此，未來歐盟和各國政府還需要繼續(xù)加強對于AI技術(shù)的監(jiān)管和研究，以確保其安全、合規(guī)地服務(wù)于人類社會。

　　歐盟《人工智能法案》的通過標(biāo)志著歐盟引領(lǐng)的AI監(jiān)管新時代的到來。雖然短期內(nèi)可能會對部分企業(yè)和市場產(chǎn)生一定影響，但從長遠來看，這將有助于推動全球范圍內(nèi)的AI行業(yè)的規(guī)范化和良性發(fā)展。

　　歐盟《人工智能法案》對中國的影響

　　新一代人工智能正在全球范圍內(nèi)蓬勃興起，為經(jīng)濟社會發(fā)展注入了新動能，正在深刻改變?nèi)藗兊纳a(chǎn)生活方式。同時，人工智能產(chǎn)品、服務(wù)對倫理道德、隱私權(quán)、系統(tǒng)安全等方面帶來了巨大的威脅。中國向來高度重視人工智能引發(fā)的各種問題，歐盟《人工智能法案》為中國人工智能治理體系的建立以及法律監(jiān)管提供了可行性參考。

　　針對人工智能領(lǐng)域，我國已經(jīng)出臺了一系列法律規(guī)范和政策文件。如國務(wù)院頒布了《新一代人工智能發(fā)展規(guī)劃》，這是我國第一個系統(tǒng)規(guī)定人工智能發(fā)展的總體思路、戰(zhàn)略目標(biāo)、主要任務(wù)和保障措施的指導(dǎo)性文件?？萍疾俊⒕W(wǎng)信辦等部門頒布了多個促進人工智能發(fā)展的部門規(guī)章，地方性法規(guī)也相繼出臺。然而，現(xiàn)有的法律規(guī)范存在諸多問題，如缺乏體系性，更多依靠法律原則、國家標(biāo)準(zhǔn)、行業(yè)條例進行規(guī)制，缺乏細化的監(jiān)管措施和鼓勵創(chuàng)新的制度設(shè)計。人工智能領(lǐng)域的法律規(guī)制仍待進一步完善。

　　比較中國與歐盟人工智能制度規(guī)制進展，中國多為產(chǎn)業(yè)促進類文件，鼓勵企業(yè)發(fā)展，近期出臺較多治理類文件，我國有關(guān)人工智能的立法正在逐步增多，并向更加精細的方向發(fā)展，但沒有統(tǒng)一立法的跡象。歐盟的人工智能立法速度較快，且傾向于復(fù)制GDPR經(jīng)驗，以引領(lǐng)全球人工智能立法。具體而言，我國人工智能立法存在著軟法與硬法交織的情況，法律法規(guī)較少且規(guī)定較為原則和籠統(tǒng)，國家標(biāo)準(zhǔn)和行業(yè)標(biāo)準(zhǔn)以及相關(guān)政策性文件較多。目前，市場上部分人工智能產(chǎn)品、服務(wù)已投入生產(chǎn)使用，但并未出臺相關(guān)立法，這些人工智能技術(shù)的應(yīng)用缺乏相應(yīng)的制度規(guī)制。

　　歐盟《人工智能法案》為不同風(fēng)險程度的人工智能系統(tǒng)施加不同的要求和義務(wù)，其提出的風(fēng)險分類、價值鏈責(zé)任、負(fù)責(zé)任創(chuàng)新和實驗主義治理等思路對我國人工智能統(tǒng)一性立法具有一定的借鑒意義和參考價值。緊密關(guān)注并參與全球人工智能治理體系的建構(gòu)才能促進我國人工智能的高速、高效、穩(wěn)定發(fā)展。