11月20日，《金融時(shí)報(bào)》周四發(fā)文，披露了歐盟制定世界首個(gè)AI監(jiān)管法規(guī)過(guò)程中遭遇的挫折。ChatGPT的橫空出世打了一個(gè)歐盟措手不及，令歐盟倉(cāng)促加入了對(duì)大模型的監(jiān)管。在這期間，歐盟對(duì)AI的態(tài)度也從監(jiān)管轉(zhuǎn)變?yōu)槲顿Y。最終，在公眾的反對(duì)下，歐盟推遲實(shí)施《人工智能法》中的關(guān)鍵部分，暫停對(duì)高風(fēng)險(xiǎn)AI的監(jiān)管。

以下是文章全文：

《人工智能法》的誕生是一場(chǎng)曠日持久、令人抓狂的拉鋸戰(zhàn)。

2023年12月，歐洲官員們連續(xù)奮戰(zhàn)36小時(shí)，才敲定這個(gè)“全球首部”AI立法?！拔铱吹酵聜兌伎鞊尾蛔×??！眲诶た_利(Laura Caroli)表示。她作為歐洲議會(huì)關(guān)鍵談判代表的助理參與了談判，并曾任智庫(kù)CSIS高級(jí)研究員。

這部立法關(guān)系重大。如果成功，它意味著歐盟將率先為AI這項(xiàng)有望改變?nèi)蚪?jīng)濟(jì)的技術(shù)制定全面規(guī)范。“當(dāng)時(shí)承受的國(guó)際壓力巨大。”卡羅利表示。

最終，在12月9日凌晨約1點(diǎn)，談判代表們達(dá)成協(xié)議。隨后，時(shí)任歐盟內(nèi)部市場(chǎng)專員蒂埃里·布雷頓(Thierry Breton)脫下背心，換上西裝外套。疲憊不堪的議員們打開(kāi)香檳慶祝，隨即奔赴新聞發(fā)布會(huì)現(xiàn)場(chǎng)。

布雷頓協(xié)助商定了《人工智能法》

然而，將近兩年過(guò)去，布魯塞爾的氣氛已不在那么高漲。

《人工智能法》的設(shè)計(jì)初衷，是利用歐洲的經(jīng)濟(jì)影響力，通過(guò)風(fēng)險(xiǎn)分級(jí)機(jī)制強(qiáng)制企業(yè)為其4.5億消費(fèi)者打造“可信AI”：禁止最具危害性的應(yīng)用，嚴(yán)控高風(fēng)險(xiǎn)系統(tǒng)，對(duì)低風(fēng)險(xiǎn)領(lǐng)域則寬松監(jiān)管。

但是，由于法案條文過(guò)于復(fù)雜、匆忙將類似ChatGPT的AI模型納入監(jiān)管范圍，以及執(zhí)行過(guò)程雜亂無(wú)章，這部AI法已經(jīng)從歐洲領(lǐng)導(dǎo)力的象征，變成了一個(gè)證明“歐洲把監(jiān)管置于創(chuàng)新之上”的典型案例。

本周三，歐盟委員會(huì)推遲了這部里程碑式AI法規(guī)中關(guān)鍵部分的實(shí)施，這是布魯塞爾方面首次正式承認(rèn)其在推行自有立法時(shí)遭遇困境。

眼下，歐洲官員與企業(yè)界正面臨兩個(gè)拷問(wèn)：歐盟是否步子邁得太大、太快？面對(duì)歐洲經(jīng)濟(jì)正艱難追趕地緣政治對(duì)手的現(xiàn)狀，該如何修正法規(guī)以避免錯(cuò)失AI發(fā)展浪潮？

對(duì)歐洲來(lái)說(shuō)，留在AI全球主導(dǎo)權(quán)競(jìng)賽中至關(guān)重要。由于歐洲未能打造出科技巨頭或讓企業(yè)發(fā)展壯大，它與美國(guó)的生產(chǎn)力差距不斷擴(kuò)大。在錯(cuò)失其他技術(shù)領(lǐng)域領(lǐng)導(dǎo)地位后，歐盟希望將自身打造成“AI大陸”，但該聯(lián)盟在培養(yǎng)歐洲AI生態(tài)系統(tǒng)、加速追趕中美等全球強(qiáng)國(guó)技術(shù)投資方面仍舉步維艱。

歐盟能否成功修補(bǔ)其規(guī)則，其產(chǎn)生的影響遠(yuǎn)超歐洲邊界?！度斯ぶ悄芊ā肥侨蚴状螄L試監(jiān)管一種不僅可能顛覆全球經(jīng)濟(jì)各個(gè)行業(yè)、且可能失控并帶來(lái)難以預(yù)測(cè)后果的技術(shù)。若布魯塞爾過(guò)度弱化立法效力，那么問(wèn)題就會(huì)變成：接下來(lái)由誰(shuí)或者說(shuō)還有沒(méi)有人能為AI設(shè)置護(hù)欄？

原本想實(shí)現(xiàn)AI繁榮

頗具諷刺意味的是，歐洲推動(dòng)AI監(jiān)管的初衷本是為了促進(jìn)這項(xiàng)新興技術(shù)的繁榮發(fā)展。

2019年，烏爾蘇拉·馮德萊恩(Ursula von der Leyen)領(lǐng)導(dǎo)的新一屆歐盟委員會(huì)上任后，將“通過(guò)法規(guī)培育市場(chǎng)”列為重要執(zhí)政目標(biāo)之一。她宣布，將在新委員會(huì)上任后的100天內(nèi)推出全球首部AI法律。

當(dāng)時(shí)，各界普遍擔(dān)憂公眾對(duì)AI產(chǎn)品的不信任將導(dǎo)致歐洲技術(shù)發(fā)展放緩。

在法案磋商期間，來(lái)自美國(guó)的AI新聞深刻影響了歐洲立法者：面部識(shí)別工具導(dǎo)致多起錯(cuò)誤逮捕事件，各類信用評(píng)分算法引發(fā)歧視性結(jié)果。為管控這些風(fēng)險(xiǎn)，布魯塞爾方面決定將傳統(tǒng)產(chǎn)品安全法規(guī)與基本權(quán)利保護(hù)相結(jié)合，例如禁止大規(guī)模監(jiān)控。

卡羅利指出，當(dāng)時(shí)全球已形成“AI需要監(jiān)管”的共識(shí)。就連大型科技公司也持相同立場(chǎng)。2020年，Meta創(chuàng)始人馬克·扎克伯格(Mark Zuckerberg)訪問(wèn)布魯塞爾會(huì)見(jiàn)歐盟高級(jí)委員時(shí)，曾公開(kāi)呼吁政府制定在線內(nèi)容新規(guī)。

當(dāng)時(shí)，世界上還有多個(gè)相互影響的AI治理倡議，包括經(jīng)合組織和七國(guó)集團(tuán)提出的AI原則，以及特朗普政府第一任期發(fā)布的倡導(dǎo)“依美國(guó)價(jià)值觀發(fā)展AI”的監(jiān)管原則行政令。

“我們構(gòu)建的AI越可信，就越有利于歐洲的AI普及：這本質(zhì)上就是立法目標(biāo)，”歐盟委員會(huì)《人工智能法》首席起草人加布里埃萊·馬齊尼(Gabriele Mazzini)表示。

ChatGPT擾亂進(jìn)程

然而，當(dāng)OpenAI的ChatGPT在2022年底橫空出世時(shí)，本已進(jìn)入談判關(guān)鍵期的《人工智能法》被倉(cāng)促改寫(xiě)，新增針對(duì)通用AI模型的規(guī)制條款。這類能生成文本、圖像或代碼并具備多場(chǎng)景應(yīng)用潛力的大語(yǔ)言模型，在歐盟委員會(huì)最初擬定的草案中竟完全未被提及。當(dāng)時(shí)，這些模型基本被視為處于實(shí)驗(yàn)階段。

“該法案本質(zhì)并非ChatGPT監(jiān)管法規(guī)，其立法初衷本不在此。ChatGPT發(fā)布后，整個(gè)立法進(jìn)程陷入了生搬硬套的復(fù)雜困境?！睌?shù)字權(quán)益組織Access Now高級(jí)政策分析師丹尼爾·洛伊弗(Daniel Leufer)指出。

此外，生命未來(lái)研究所在2023年3月發(fā)表的一封公開(kāi)信引起關(guān)注，簽署者包括埃隆·馬斯克(Elon Musk)、蘋(píng)果聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克(Steve Wozniak)、著名計(jì)算機(jī)科學(xué)家約書(shū)亞·本吉奧(Yoshua Bengio)和斯圖爾特·羅素(Stuart Russell)以及作家尤瓦爾·赫拉利(YuvalNoah Harari)。信中呼吁在建立適當(dāng)保障措施之前，對(duì)強(qiáng)大的AI系統(tǒng)開(kāi)發(fā)暫停六個(gè)月。

馬齊尼表示，這封信“完全扭曲了政治討論”。立法者不再僅僅關(guān)注公司和公共部門如何使用AI工具，而是覺(jué)得自己還必須監(jiān)管AI系統(tǒng)本身的構(gòu)建方式，并確保法律覆蓋最大的模型。

“議會(huì)當(dāng)時(shí)已形成完全共識(shí)，至少要監(jiān)管ChatGPT，”卡羅利回憶道，“若離開(kāi)談判室時(shí)連ChatGPT都未能納入監(jiān)管，我們的立法工作將徹底失去意義?！?/p>

ChatGPT

馬齊尼還指出，“布魯塞爾彌漫的監(jiān)管狂熱既損害談判質(zhì)量，又迫使各方倉(cāng)促收?qǐng)觥?。隨著2024年6月歐洲議會(huì)選舉迫近，談判代表不愿錯(cuò)失政治窗口期。

馬齊尼表示，政治窗口期的逼迫、外部“干擾”以及圍繞AI生存威脅的討論，“共同形成了常識(shí)盡失的混亂局面”。

律師事務(wù)所Cooley全球網(wǎng)絡(luò)、數(shù)據(jù)與隱私業(yè)務(wù)聯(lián)合主席帕特里克·范·伊克(Patrick Van Eecke)指出，歐盟委員會(huì)在監(jiān)管過(guò)程一開(kāi)始就犯了“根本性錯(cuò)誤”：將AI視為產(chǎn)品而非動(dòng)態(tài)過(guò)程。他指出，像電梯這類靜態(tài)產(chǎn)品需符合安全標(biāo)準(zhǔn)才能上市，但二十年后電梯功能依然如故，而AI卻是持續(xù)演進(jìn)的動(dòng)態(tài)過(guò)程，“這使得硬性要求無(wú)法適用”。

半成品

當(dāng)《人工智能法》于2024年8月正式生效時(shí)，許多人認(rèn)為其尚不成熟。該法案需要大量配套立法來(lái)制定行為準(zhǔn)則、指南與標(biāo)準(zhǔn)，以便企業(yè)明確合規(guī)路徑。許多條款僅分階段生效，且具體時(shí)間表存在延遲與不確定性。

為企業(yè)提供AI法案咨詢的盛德律師事務(wù)所律師伊麗莎白·里吉尼(Elisabetta Righini)表示，這種狀況讓企業(yè)無(wú)所適從。“即使是大型數(shù)字公司，也需要時(shí)間來(lái)準(zhǔn)備遵守新規(guī)，”她說(shuō)，“該法案留下了許多細(xì)節(jié)，需要通過(guò)實(shí)施細(xì)則和指南來(lái)確定。不確定性對(duì)企業(yè)來(lái)說(shuō)從來(lái)都不是好事?！?/p>

多家企業(yè)表示，即便理清合規(guī)路徑，新規(guī)仍帶來(lái)巨大的運(yùn)營(yíng)負(fù)擔(dān)。他們既要評(píng)估自身AI系統(tǒng)風(fēng)險(xiǎn)，又須建立機(jī)制滿足透明度與問(wèn)責(zé)標(biāo)準(zhǔn)。

律師范·伊克強(qiáng)調(diào)，由此產(chǎn)生的合規(guī)成本反而在制造不公平的競(jìng)爭(zhēng)環(huán)境，“規(guī)模更大、更成熟的企業(yè)能輕松達(dá)標(biāo)，這將使它們獲得比創(chuàng)業(yè)公司更多競(jìng)爭(zhēng)優(yōu)勢(shì)”。

AI創(chuàng)業(yè)公司警告稱，當(dāng)前局勢(shì)正在形成“巨頭蓬勃發(fā)展，成長(zhǎng)型企業(yè)與創(chuàng)業(yè)公司僅能勉強(qiáng)求生”的局面。

倫敦AI創(chuàng)業(yè)公司Synthesia的企業(yè)事務(wù)主管亞歷山德魯·沃伊卡(Alexandru Voica)表示：“許多成長(zhǎng)型企業(yè)將永遠(yuǎn)無(wú)法達(dá)到中美企業(yè)的規(guī)模與影響力，因?yàn)樗鼈冋恢刂乇O(jiān)管壓得喘不過(guò)氣?！?/p>

與此同時(shí)，大型企業(yè)對(duì)該法案同樣感到挫敗。Meta等科技巨頭指出，由于企業(yè)擔(dān)心違反《人工智能法》而推遲或避免推出某些AI功能，歐盟正在自我隔絕于尖端服務(wù)之外。

今年7月，空客、法國(guó)巴黎銀行、奔馳和道達(dá)爾能源等大型企業(yè)聯(lián)合敦促歐盟委員會(huì)將法案實(shí)施時(shí)間表推遲兩年，以簡(jiǎn)化規(guī)則并給予企業(yè)足夠的準(zhǔn)備時(shí)間來(lái)執(zhí)行。

就連法案的設(shè)計(jì)師馬齊尼如今也承認(rèn)，該法案過(guò)于寬泛復(fù)雜，“未能提供應(yīng)有的法律確定性”。

歐盟態(tài)度改變

公眾的強(qiáng)烈抗議迫使歐盟委員會(huì)改變了態(tài)度。

AI法案引發(fā)的強(qiáng)烈反對(duì)恰逢布魯塞爾改變了政策優(yōu)先事項(xiàng)。自馮德萊恩去年開(kāi)始第二個(gè)任期以來(lái)，提升歐盟競(jìng)爭(zhēng)力一直是貫穿其關(guān)鍵政策提案的主線。

與此同時(shí)，全球?qū)τ贏I的討論發(fā)生了巨大轉(zhuǎn)變。人們對(duì)AI生存風(fēng)險(xiǎn)的恐慌情緒，轉(zhuǎn)變?yōu)閷?duì)這項(xiàng)快速發(fā)展技術(shù)的全球主導(dǎo)權(quán)的爭(zhēng)奪。這場(chǎng)爭(zhēng)奪如今已演變?yōu)橹忻乐g的博弈。

對(duì)于去年12月接任歐盟數(shù)字和前沿技術(shù)專員的亨娜·維爾庫(kù)寧(Henna Virkkunen)來(lái)說(shuō)，工作重點(diǎn)已經(jīng)從監(jiān)管轉(zhuǎn)向創(chuàng)新和吸引投資，以確保歐洲在AI領(lǐng)域不會(huì)落后。

維爾庫(kù)寧

今年2月，布魯塞爾撤回了原計(jì)劃確保因AI系統(tǒng)受害的人獲得更多保護(hù)的規(guī)定，即所謂的AI責(zé)任指令。此舉屬于歐盟放松監(jiān)管的更廣泛舉措的一部分。

本周，歐盟監(jiān)管的轉(zhuǎn)向最終演變成為了一項(xiàng)提議，該提議將高風(fēng)險(xiǎn)AI規(guī)則(人工智能法的關(guān)鍵部分)的實(shí)施至少推遲一年。

此次延期引發(fā)爭(zhēng)議，仍需獲得歐洲議會(huì)和歐盟成員國(guó)批準(zhǔn)。各方對(duì)這部旗艦性AI法律的實(shí)施存在分歧。歐洲央行前行長(zhǎng)馬里奧·德拉吉(Mario Draghi)稱，為期一年的延期并非無(wú)限期中止。

反對(duì)聲

盡管如此，《人工智能法》的支持者仍將此視為重大挫折。

歐洲綠黨議員金·范·斯帕倫塔克(Kim Van Sparrentak)表示，歐盟仍應(yīng)為其率先制定安全AI法規(guī)感到自豪，這將繼續(xù)構(gòu)成競(jìng)爭(zhēng)優(yōu)勢(shì)。日本、巴西和加州等司法管轄區(qū)已對(duì)AI模型實(shí)施了類似的透明度規(guī)定。

“歐盟委員會(huì)應(yīng)當(dāng)堅(jiān)守立場(chǎng)，夜以繼日地推進(jìn)法規(guī)成功，”范·斯帕倫塔克強(qiáng)調(diào)，“這意味著我們要說(shuō)到做到，為歐洲企業(yè)和民眾指明方向，而不是一遇到特朗普和大型科技公司的抱怨就食言?！?/p>

在圖靈獎(jiǎng)得主、被譽(yù)為“AI教父”的本吉奧等人士看來(lái)，針對(duì)《人工智能法》的批評(píng)不過(guò)是既得利益集團(tuán)發(fā)起的“輿論攻勢(shì)”。

他認(rèn)為，《人工智能法》只是將AI實(shí)驗(yàn)室已經(jīng)在執(zhí)行的安全規(guī)程正式化，并提高了透明度。他告訴《金融時(shí)報(bào)》：“它的作用在于創(chuàng)造一個(gè)公平的競(jìng)爭(zhēng)環(huán)境，促使所有企業(yè)向行業(yè)標(biāo)桿看齊?！?/p>

尋求平衡

但是很顯然，歐盟仍需在AI監(jiān)管與創(chuàng)新之間達(dá)成適當(dāng)?shù)钠胶?，以?shí)現(xiàn)其雙重目標(biāo)：既使歐洲企業(yè)成為全球AI領(lǐng)軍者，又為世界其他地區(qū)樹(shù)立法規(guī)范本。

歐盟科技主管維爾庫(kù)寧周三強(qiáng)調(diào)，歐盟始終堅(jiān)持高標(biāo)準(zhǔn)監(jiān)管，“因?yàn)闅W盟法規(guī)是企業(yè)信任的標(biāo)志。我們是全球唯一以這種方式制定規(guī)則來(lái)守護(hù)價(jià)值觀與基本權(quán)利的地方”。

與此同時(shí)，她承認(rèn)僅靠監(jiān)管遠(yuǎn)遠(yuǎn)不夠：“我們必須從規(guī)則制定轉(zhuǎn)向創(chuàng)新構(gòu)建。我們的法規(guī)不應(yīng)成為負(fù)擔(dān)，而應(yīng)創(chuàng)造附加價(jià)值?！?/p>

但批評(píng)人士指出，周三宣布的法規(guī)延期實(shí)施只會(huì)讓局面更趨復(fù)雜。

法案設(shè)計(jì)者馬齊尼始終敦促布魯塞爾對(duì)法案進(jìn)行徹底反思?！艾F(xiàn)在正是需要展現(xiàn)勇氣的時(shí)刻，是時(shí)候承認(rèn)‘我們需要全面重新審視這部法案’。我認(rèn)為這將是最明智的抉擇。”他表示。