11月20日，《金融時報(bào)》周四發(fā)文，披露了歐盟制定世界首個AI監(jiān)管法規(guī)過程中遭遇的挫折。ChatGPT的橫空出世打了一個歐盟措手不及，令歐盟倉促加入了對大模型的監(jiān)管。在這期間，歐盟對AI的態(tài)度也從監(jiān)管轉(zhuǎn)變?yōu)槲顿Y。最終，在公眾的反對下，歐盟推遲實(shí)施《人工智能法》中的關(guān)鍵部分，暫停對高風(fēng)險AI的監(jiān)管。

以下是文章全文：

《人工智能法》的誕生是一場曠日持久、令人抓狂的拉鋸戰(zhàn)。

2023年12月，歐洲官員們連續(xù)奮戰(zhàn)36小時，才敲定這個“全球首部”AI立法。“我看到同事們都快撐不住了?！眲诶た_利(Laura Caroli)表示。她作為歐洲議會關(guān)鍵談判代表的助理參與了談判，并曾任智庫CSIS高級研究員。

這部立法關(guān)系重大。如果成功，它意味著歐盟將率先為AI這項(xiàng)有望改變?nèi)蚪?jīng)濟(jì)的技術(shù)制定全面規(guī)范?！爱?dāng)時承受的國際壓力巨大?！笨_利表示。

最終，在12月9日凌晨約1點(diǎn)，談判代表們達(dá)成協(xié)議。隨后，時任歐盟內(nèi)部市場專員蒂埃里·布雷頓(Thierry Breton)脫下背心，換上西裝外套。疲憊不堪的議員們打開香檳慶祝，隨即奔赴新聞發(fā)布會現(xiàn)場。

布雷頓協(xié)助商定了《人工智能法》

然而，將近兩年過去，布魯塞爾的氣氛已不在那么高漲。

《人工智能法》的設(shè)計(jì)初衷，是利用歐洲的經(jīng)濟(jì)影響力，通過風(fēng)險分級機(jī)制強(qiáng)制企業(yè)為其4.5億消費(fèi)者打造“可信AI”：禁止最具危害性的應(yīng)用，嚴(yán)控高風(fēng)險系統(tǒng)，對低風(fēng)險領(lǐng)域則寬松監(jiān)管。

但是，由于法案條文過于復(fù)雜、匆忙將類似ChatGPT的AI模型納入監(jiān)管范圍，以及執(zhí)行過程雜亂無章，這部AI法已經(jīng)從歐洲領(lǐng)導(dǎo)力的象征，變成了一個證明“歐洲把監(jiān)管置于創(chuàng)新之上”的典型案例。

本周三，歐盟委員會推遲了這部里程碑式AI法規(guī)中關(guān)鍵部分的實(shí)施，這是布魯塞爾方面首次正式承認(rèn)其在推行自有立法時遭遇困境。

眼下，歐洲官員與企業(yè)界正面臨兩個拷問：歐盟是否步子邁得太大、太快？面對歐洲經(jīng)濟(jì)正艱難追趕地緣政治對手的現(xiàn)狀，該如何修正法規(guī)以避免錯失AI發(fā)展浪潮？

對歐洲來說，留在AI全球主導(dǎo)權(quán)競賽中至關(guān)重要。由于歐洲未能打造出科技巨頭或讓企業(yè)發(fā)展壯大，它與美國的生產(chǎn)力差距不斷擴(kuò)大。在錯失其他技術(shù)領(lǐng)域領(lǐng)導(dǎo)地位后，歐盟希望將自身打造成“AI大陸”，但該聯(lián)盟在培養(yǎng)歐洲AI生態(tài)系統(tǒng)、加速追趕中美等全球強(qiáng)國技術(shù)投資方面仍舉步維艱。

歐盟能否成功修補(bǔ)其規(guī)則，其產(chǎn)生的影響遠(yuǎn)超歐洲邊界?！度斯ぶ悄芊ā肥侨蚴状螄L試監(jiān)管一種不僅可能顛覆全球經(jīng)濟(jì)各個行業(yè)、且可能失控并帶來難以預(yù)測后果的技術(shù)。若布魯塞爾過度弱化立法效力，那么問題就會變成：接下來由誰或者說還有沒有人能為AI設(shè)置護(hù)欄？

原本想實(shí)現(xiàn)AI繁榮

頗具諷刺意味的是，歐洲推動AI監(jiān)管的初衷本是為了促進(jìn)這項(xiàng)新興技術(shù)的繁榮發(fā)展。

2019年，烏爾蘇拉·馮德萊恩(Ursula von der Leyen)領(lǐng)導(dǎo)的新一屆歐盟委員會上任后，將“通過法規(guī)培育市場”列為重要執(zhí)政目標(biāo)之一。她宣布，將在新委員會上任后的100天內(nèi)推出全球首部AI法律。

當(dāng)時，各界普遍擔(dān)憂公眾對AI產(chǎn)品的不信任將導(dǎo)致歐洲技術(shù)發(fā)展放緩。

在法案磋商期間，來自美國的AI新聞深刻影響了歐洲立法者：面部識別工具導(dǎo)致多起錯誤逮捕事件，各類信用評分算法引發(fā)歧視性結(jié)果。為管控這些風(fēng)險，布魯塞爾方面決定將傳統(tǒng)產(chǎn)品安全法規(guī)與基本權(quán)利保護(hù)相結(jié)合，例如禁止大規(guī)模監(jiān)控。

卡羅利指出，當(dāng)時全球已形成“AI需要監(jiān)管”的共識。就連大型科技公司也持相同立場。2020年，Meta創(chuàng)始人馬克·扎克伯格(Mark Zuckerberg)訪問布魯塞爾會見歐盟高級委員時，曾公開呼吁政府制定在線內(nèi)容新規(guī)。

當(dāng)時，世界上還有多個相互影響的AI治理倡議，包括經(jīng)合組織和七國集團(tuán)提出的AI原則，以及特朗普政府第一任期發(fā)布的倡導(dǎo)“依美國價值觀發(fā)展AI”的監(jiān)管原則行政令。

“我們構(gòu)建的AI越可信，就越有利于歐洲的AI普及：這本質(zhì)上就是立法目標(biāo)，”歐盟委員會《人工智能法》首席起草人加布里埃萊·馬齊尼(Gabriele Mazzini)表示。

ChatGPT擾亂進(jìn)程

然而，當(dāng)OpenAI的ChatGPT在2022年底橫空出世時，本已進(jìn)入談判關(guān)鍵期的《人工智能法》被倉促改寫，新增針對通用AI模型的規(guī)制條款。這類能生成文本、圖像或代碼并具備多場景應(yīng)用潛力的大語言模型，在歐盟委員會最初擬定的草案中竟完全未被提及。當(dāng)時，這些模型基本被視為處于實(shí)驗(yàn)階段。

“該法案本質(zhì)并非ChatGPT監(jiān)管法規(guī)，其立法初衷本不在此。ChatGPT發(fā)布后，整個立法進(jìn)程陷入了生搬硬套的復(fù)雜困境?！睌?shù)字權(quán)益組織Access Now高級政策分析師丹尼爾·洛伊弗(Daniel Leufer)指出。

此外，生命未來研究所在2023年3月發(fā)表的一封公開信引起關(guān)注，簽署者包括埃隆·馬斯克(Elon Musk)、蘋果聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克(Steve Wozniak)、著名計(jì)算機(jī)科學(xué)家約書亞·本吉奧(Yoshua Bengio)和斯圖爾特·羅素(Stuart Russell)以及作家尤瓦爾·赫拉利(YuvalNoah Harari)。信中呼吁在建立適當(dāng)保障措施之前，對強(qiáng)大的AI系統(tǒng)開發(fā)暫停六個月。

馬齊尼表示，這封信“完全扭曲了政治討論”。立法者不再僅僅關(guān)注公司和公共部門如何使用AI工具，而是覺得自己還必須監(jiān)管AI系統(tǒng)本身的構(gòu)建方式，并確保法律覆蓋最大的模型。

“議會當(dāng)時已形成完全共識，至少要監(jiān)管ChatGPT，”卡羅利回憶道，“若離開談判室時連ChatGPT都未能納入監(jiān)管，我們的立法工作將徹底失去意義?！?/p>

ChatGPT

馬齊尼還指出，“布魯塞爾彌漫的監(jiān)管狂熱既損害談判質(zhì)量，又迫使各方倉促收場”。隨著2024年6月歐洲議會選舉迫近，談判代表不愿錯失政治窗口期。

馬齊尼表示，政治窗口期的逼迫、外部“干擾”以及圍繞AI生存威脅的討論，“共同形成了常識盡失的混亂局面”。

律師事務(wù)所Cooley全球網(wǎng)絡(luò)、數(shù)據(jù)與隱私業(yè)務(wù)聯(lián)合主席帕特里克·范·伊克(Patrick Van Eecke)指出，歐盟委員會在監(jiān)管過程一開始就犯了“根本性錯誤”：將AI視為產(chǎn)品而非動態(tài)過程。他指出，像電梯這類靜態(tài)產(chǎn)品需符合安全標(biāo)準(zhǔn)才能上市，但二十年后電梯功能依然如故，而AI卻是持續(xù)演進(jìn)的動態(tài)過程，“這使得硬性要求無法適用”。

半成品

當(dāng)《人工智能法》于2024年8月正式生效時，許多人認(rèn)為其尚不成熟。該法案需要大量配套立法來制定行為準(zhǔn)則、指南與標(biāo)準(zhǔn)，以便企業(yè)明確合規(guī)路徑。許多條款僅分階段生效，且具體時間表存在延遲與不確定性。

為企業(yè)提供AI法案咨詢的盛德律師事務(wù)所律師伊麗莎白·里吉尼(Elisabetta Righini)表示，這種狀況讓企業(yè)無所適從?！凹词故谴笮蛿?shù)字公司，也需要時間來準(zhǔn)備遵守新規(guī)，”她說，“該法案留下了許多細(xì)節(jié)，需要通過實(shí)施細(xì)則和指南來確定。不確定性對企業(yè)來說從來都不是好事?！?/p>

多家企業(yè)表示，即便理清合規(guī)路徑，新規(guī)仍帶來巨大的運(yùn)營負(fù)擔(dān)。他們既要評估自身AI系統(tǒng)風(fēng)險，又須建立機(jī)制滿足透明度與問責(zé)標(biāo)準(zhǔn)。

律師范·伊克強(qiáng)調(diào)，由此產(chǎn)生的合規(guī)成本反而在制造不公平的競爭環(huán)境，“規(guī)模更大、更成熟的企業(yè)能輕松達(dá)標(biāo)，這將使它們獲得比創(chuàng)業(yè)公司更多競爭優(yōu)勢”。

AI創(chuàng)業(yè)公司警告稱，當(dāng)前局勢正在形成“巨頭蓬勃發(fā)展，成長型企業(yè)與創(chuàng)業(yè)公司僅能勉強(qiáng)求生”的局面。

倫敦AI創(chuàng)業(yè)公司Synthesia的企業(yè)事務(wù)主管亞歷山德魯·沃伊卡(Alexandru Voica)表示：“許多成長型企業(yè)將永遠(yuǎn)無法達(dá)到中美企業(yè)的規(guī)模與影響力，因?yàn)樗鼈冋恢刂乇O(jiān)管壓得喘不過氣?！?/p>

與此同時，大型企業(yè)對該法案同樣感到挫敗。Meta等科技巨頭指出，由于企業(yè)擔(dān)心違反《人工智能法》而推遲或避免推出某些AI功能，歐盟正在自我隔絕于尖端服務(wù)之外。

今年7月，空客、法國巴黎銀行、奔馳和道達(dá)爾能源等大型企業(yè)聯(lián)合敦促歐盟委員會將法案實(shí)施時間表推遲兩年，以簡化規(guī)則并給予企業(yè)足夠的準(zhǔn)備時間來執(zhí)行。

就連法案的設(shè)計(jì)師馬齊尼如今也承認(rèn)，該法案過于寬泛復(fù)雜，“未能提供應(yīng)有的法律確定性”。

歐盟態(tài)度改變

公眾的強(qiáng)烈抗議迫使歐盟委員會改變了態(tài)度。

AI法案引發(fā)的強(qiáng)烈反對恰逢布魯塞爾改變了政策優(yōu)先事項(xiàng)。自馮德萊恩去年開始第二個任期以來，提升歐盟競爭力一直是貫穿其關(guān)鍵政策提案的主線。

與此同時，全球?qū)τ贏I的討論發(fā)生了巨大轉(zhuǎn)變。人們對AI生存風(fēng)險的恐慌情緒，轉(zhuǎn)變?yōu)閷@項(xiàng)快速發(fā)展技術(shù)的全球主導(dǎo)權(quán)的爭奪。這場爭奪如今已演變?yōu)橹忻乐g的博弈。

對于去年12月接任歐盟數(shù)字和前沿技術(shù)專員的亨娜·維爾庫寧(Henna Virkkunen)來說，工作重點(diǎn)已經(jīng)從監(jiān)管轉(zhuǎn)向創(chuàng)新和吸引投資，以確保歐洲在AI領(lǐng)域不會落后。

維爾庫寧

今年2月，布魯塞爾撤回了原計(jì)劃確保因AI系統(tǒng)受害的人獲得更多保護(hù)的規(guī)定，即所謂的AI責(zé)任指令。此舉屬于歐盟放松監(jiān)管的更廣泛舉措的一部分。

本周，歐盟監(jiān)管的轉(zhuǎn)向最終演變成為了一項(xiàng)提議，該提議將高風(fēng)險AI規(guī)則(人工智能法的關(guān)鍵部分)的實(shí)施至少推遲一年。

此次延期引發(fā)爭議，仍需獲得歐洲議會和歐盟成員國批準(zhǔn)。各方對這部旗艦性AI法律的實(shí)施存在分歧。歐洲央行前行長馬里奧·德拉吉(Mario Draghi)稱，為期一年的延期并非無限期中止。

反對聲

盡管如此，《人工智能法》的支持者仍將此視為重大挫折。

歐洲綠黨議員金·范·斯帕倫塔克(Kim Van Sparrentak)表示，歐盟仍應(yīng)為其率先制定安全AI法規(guī)感到自豪，這將繼續(xù)構(gòu)成競爭優(yōu)勢。日本、巴西和加州等司法管轄區(qū)已對AI模型實(shí)施了類似的透明度規(guī)定。

“歐盟委員會應(yīng)當(dāng)堅(jiān)守立場，夜以繼日地推進(jìn)法規(guī)成功，”范·斯帕倫塔克強(qiáng)調(diào)，“這意味著我們要說到做到，為歐洲企業(yè)和民眾指明方向，而不是一遇到特朗普和大型科技公司的抱怨就食言?！?/p>

在圖靈獎得主、被譽(yù)為“AI教父”的本吉奧等人士看來，針對《人工智能法》的批評不過是既得利益集團(tuán)發(fā)起的“輿論攻勢”。

他認(rèn)為，《人工智能法》只是將AI實(shí)驗(yàn)室已經(jīng)在執(zhí)行的安全規(guī)程正式化，并提高了透明度。他告訴《金融時報(bào)》：“它的作用在于創(chuàng)造一個公平的競爭環(huán)境，促使所有企業(yè)向行業(yè)標(biāo)桿看齊?！?/p>

尋求平衡

但是很顯然，歐盟仍需在AI監(jiān)管與創(chuàng)新之間達(dá)成適當(dāng)?shù)钠胶猓詫?shí)現(xiàn)其雙重目標(biāo)：既使歐洲企業(yè)成為全球AI領(lǐng)軍者，又為世界其他地區(qū)樹立法規(guī)范本。

歐盟科技主管維爾庫寧周三強(qiáng)調(diào)，歐盟始終堅(jiān)持高標(biāo)準(zhǔn)監(jiān)管，“因?yàn)闅W盟法規(guī)是企業(yè)信任的標(biāo)志。我們是全球唯一以這種方式制定規(guī)則來守護(hù)價值觀與基本權(quán)利的地方”。

與此同時，她承認(rèn)僅靠監(jiān)管遠(yuǎn)遠(yuǎn)不夠：“我們必須從規(guī)則制定轉(zhuǎn)向創(chuàng)新構(gòu)建。我們的法規(guī)不應(yīng)成為負(fù)擔(dān)，而應(yīng)創(chuàng)造附加價值?！?/p>

但批評人士指出，周三宣布的法規(guī)延期實(shí)施只會讓局面更趨復(fù)雜。

法案設(shè)計(jì)者馬齊尼始終敦促布魯塞爾對法案進(jìn)行徹底反思?！艾F(xiàn)在正是需要展現(xiàn)勇氣的時刻，是時候承認(rèn)‘我們需要全面重新審視這部法案’。我認(rèn)為這將是最明智的抉擇。”他表示。