8月1日，歐盟《人工智能法案》（下稱《AI法案》）將在歐盟范圍內(nèi)正式生效，并將在未來三年分階段實施。這是全球第一部全面監(jiān)管人工智能的法案，影響力不可低估。

與人工智能企業(yè)切身利益相關(guān)的是，《AI法案》對多類在歐盟區(qū)域開展業(yè)務(wù)的海外公司有所約束，影響波及域外地區(qū)。這部法案已經(jīng)引起法律界和業(yè)界廣泛重視，大家都在等待歐盟對一些條例提供進(jìn)一步的詳細(xì)說明和配套設(shè)施。

以數(shù)據(jù)合規(guī)相關(guān)內(nèi)容為例，全球機(jī)器學(xué)習(xí)和增長營銷解決方案公司 Moloco亞太區(qū)產(chǎn)品總監(jiān)劉連波告訴第一財經(jīng)，“隱私政策這件事情并不是針對某個一家公司，是對所有參與其中的partner（合作方）或者所有的player（玩家）都是相關(guān)的。這個行業(yè)大家面對的挑戰(zhàn)總是一樣的，我不認(rèn)為會對出海生意的趨勢有本質(zhì)的影響，因為這個行業(yè)會共享這個挑戰(zhàn)。”他認(rèn)為首先重要的是合規(guī)，其次是正確收集數(shù)據(jù)而不濫用，這最終也會促使我們調(diào)整算法模型來進(jìn)行應(yīng)對?！拔覀儠屑?xì)跟蹤和研究該法案對我們出?？蛻舻木唧w挑戰(zhàn)，然后我們會和客戶一起去研究落實解決方案?！?/p>

“國內(nèi)出海至歐盟的企業(yè)最需要關(guān)注的是高風(fēng)險系統(tǒng)AI系統(tǒng)。如果不符合規(guī)定，企業(yè)將面臨高額罰款和法律風(fēng)險?！?nbsp;墾?。◤V州）律師事務(wù)所創(chuàng)始合伙人、主任律師，W&W國際法律團(tuán)隊創(chuàng)始人王捷告訴第一財經(jīng)記者，參考國內(nèi)科技企業(yè)在歐盟地區(qū)開展業(yè)務(wù)的情況，主要受影響的行業(yè)包括醫(yī)療健康、人力資源、公共安全和交通運輸?shù)取?/p>

另有業(yè)界人士告訴記者，對于《AI法案》中的一些規(guī)定，企業(yè)要遵守并不容易，且做到合規(guī)預(yù)計將帶來企業(yè)成本上升。

罰款可達(dá)3500萬歐元

ChatGPT 2022年年底意外爆火帶來了人工智能立法的急迫性。在歐盟緊鑼密鼓的籌備下，《AI法案》今年3月在歐洲議會通過，并于今年5月獲得歐盟理事會批準(zhǔn)。今年8月1日該法案正式生效。

《AI法案》在全球范圍內(nèi)的影響力不可小覷，一定程度上是因為，《AI法案》的管轄范圍包括一些在歐盟區(qū)域外設(shè)立的相關(guān)公司。6個月后，總則和關(guān)于不可接受風(fēng)險AI系統(tǒng)的禁令將適用；12個月后，高風(fēng)險AI系統(tǒng)的部分章節(jié)、通用人工智能模型等章節(jié)將適用；24個月后，除高風(fēng)險AI系統(tǒng)分類規(guī)則等部分內(nèi)容外，其余部分適用；36個月后，高風(fēng)險AI系統(tǒng)分類規(guī)則等部分內(nèi)容也適用。

該法案規(guī)定，條例適用于將AI系統(tǒng)投放到歐盟市場或為歐盟提供AI系統(tǒng)服務(wù)的提供商，或是將通用人工智能模型投放到歐盟市場的提供商，無論這些提供商設(shè)立地或所在地是在歐盟還是在第三國。也適用于設(shè)立地或所在地在歐盟的AI系統(tǒng)部署商，以及AI系統(tǒng)進(jìn)口商和分銷商、以自己名義或商標(biāo)將AI系統(tǒng)與產(chǎn)品一起投放市場或投入使用的產(chǎn)品制造商、位于歐盟的受影響人員等。

這意味著，只要海外AI相關(guān)公司將AI系統(tǒng)投放到歐盟市場，或帶上了自己的商標(biāo)，或影響到歐盟地區(qū)的人員，便可能在該法案規(guī)制范圍內(nèi)。違反規(guī)定的企業(yè)最高將被處以3500萬歐元或最高年收入7%的行政罰款（以較高者為準(zhǔn)）。

關(guān)于該法案的價值和后續(xù)影響，法律界和學(xué)界多有討論。

此前歐盟發(fā)布的《通用數(shù)據(jù)保護(hù)條例》（GDPR）已顯現(xiàn)“布魯塞爾效應(yīng)”，意即歐盟通過單方面市場規(guī)制能力將其法律制度推廣至境外，讓受監(jiān)管實體在歐盟之外也遵守歐盟法律。這種效應(yīng)能否在《AI法案》上再次體現(xiàn)，出現(xiàn)了不同的聲音。

“《AI法案》是一個‘石破天驚’的法案，在權(quán)利、義務(wù)、責(zé)任之外，它往前探了一步，抓住‘風(fēng)險’這個牛鼻子。以往立法從來沒有提出對新技術(shù)的整套規(guī)制方法?！蓖瑵?jì)大學(xué)法學(xué)院副教授陳吉棟告訴記者，歐盟通過大量問卷調(diào)查和報告來支撐法案中幾個簡單的條文，投入巨大的立法成本，前期研究十分透徹。在AI發(fā)展優(yōu)先和監(jiān)管優(yōu)先兩端之間，歐盟希望在中間做平衡，監(jiān)管并沒有太早。這部法案并非一勞永逸的完美法案，還會根據(jù)AI發(fā)展改進(jìn)。《AI法案》在國內(nèi)已被學(xué)習(xí)參考。美國則體現(xiàn)了實用主義者的選擇，采取動態(tài)監(jiān)管方案。

在金杜律師事務(wù)所合伙人趙新華看來，《AI法案》非常全面，在全球性問題治理上，歐盟立法走在前面。結(jié)合2018年的GDPR以及近年的數(shù)字服務(wù)法、數(shù)字市場法等，歐盟為進(jìn)入數(shù)字經(jīng)濟(jì)時代做了多年鋪墊。該法案積極的一面是對AI監(jiān)管起到很好的示范，“就像GDPR出臺后，全球監(jiān)管框架基本上都在借鑒GDPR，《AI法案》出臺也必定會對全球AI治理提供有益的借鑒和參考。”

北京師范大學(xué)法學(xué)院副教授、中國互聯(lián)網(wǎng)協(xié)會研究中心副主任吳沈括認(rèn)為，這會對跨國企業(yè)帶來非常重大的影響，影響業(yè)務(wù)研發(fā)模式、合規(guī)流程設(shè)計、市場運營策略，其優(yōu)點在于明確的規(guī)則和細(xì)化的制度設(shè)計。

另有聲音認(rèn)為，《AI法案》推出可能過早過嚴(yán)，而全球不同地區(qū)對AI產(chǎn)業(yè)發(fā)展的態(tài)度并不相同。

吳沈括也認(rèn)為，短期來看《AI法案》存在阻礙當(dāng)?shù)谹I布局的這個可能性。這是監(jiān)管和產(chǎn)業(yè)企業(yè)之間互動博弈的過程，需要一個相互增強(qiáng)認(rèn)知的過程。中長期看，如果在確定性和監(jiān)管力度上有所平衡的話，可能存在反彈機(jī)會。

AI初創(chuàng)企業(yè)波形智能計劃出海歐洲，創(chuàng)始人姜昱辰曾在瑞士攻讀人工智能博士學(xué)位。她認(rèn)為，歐盟嚴(yán)監(jiān)管不是一個新問題，歐洲向來在數(shù)據(jù)隱私方面較嚴(yán)。“這次只是針對AI出了相應(yīng)的隱私條款，但隱私條款本身嚴(yán)格這件事情不這么新，是歐洲市場一直存在的固有挑戰(zhàn)?！?/p>

至于《AI法案》對市場的影響，姜昱辰認(rèn)為會有一些，但對私有化部署的影響較小，對大模型公司影響可能更大，“尤其大模型公司提供閉源的API有較大風(fēng)險，但給企業(yè)做私有化部署或做保障的軟件，這個市場反倒更大?！碑?dāng)隱私監(jiān)管較強(qiáng)時，隱私保障較好的產(chǎn)品及公司會獲益。

高風(fēng)險系統(tǒng)劃分引關(guān)注

《AI法案》對企業(yè)的影響細(xì)化在“風(fēng)險分級”監(jiān)管中。

具體看，《AI法案》采取“風(fēng)險分級”監(jiān)管模式，將AI系統(tǒng)分為四個風(fēng)險級別，分別為被禁止的、高風(fēng)險、有限風(fēng)險和最低風(fēng)險，每個級別都有相應(yīng)合規(guī)要求。法案規(guī)定，不可接受風(fēng)險的AI系統(tǒng)被徹底禁止投入市場，高風(fēng)險AI系統(tǒng)只有在符合某些強(qiáng)制性要求的情況下才能投放歐盟市場、投入服務(wù)或使用，有限風(fēng)險AI系統(tǒng)的規(guī)制較少。

一些法律界人士認(rèn)為，AI企業(yè)進(jìn)入歐盟市場最應(yīng)關(guān)注的是高風(fēng)險AI系統(tǒng)的劃定和要求。

美國奧睿律師事務(wù)所巴黎辦公室合伙人Julia Apostle告訴記者，根據(jù)《AI法案》規(guī)定，高風(fēng)險AI系統(tǒng)開發(fā)者有最重的合規(guī)負(fù)擔(dān)，包括需要證明符合法律的要求。任何在歐洲開發(fā)或投放AI系統(tǒng)的公司都應(yīng)該審查其AI系統(tǒng)是否為高風(fēng)險。從AI實際應(yīng)用看，開發(fā)可能影響個人權(quán)利、安全和自主權(quán)的AI系統(tǒng)公司，受該法案影響較大。

“高風(fēng)險AI系統(tǒng)涉及關(guān)鍵領(lǐng)域，如教育和職業(yè)培訓(xùn)、就業(yè)、重要的私人和公共服務(wù)（如醫(yī)療保健、銀行業(yè)）等，這些領(lǐng)域受到嚴(yán)格監(jiān)管和合規(guī)要求。而醫(yī)療健康、人力資源、公共安全和交通運輸?shù)刃袠I(yè)使用的AI系統(tǒng)大多屬于高風(fēng)險類別?！蓖踅荼硎?。

據(jù)歐盟推動制定《AI法案》之初的預(yù)計，高風(fēng)險AI系統(tǒng)占AI系統(tǒng)的比例約5%~15%。王捷判斷，不直接影響人身安全、健康或基本權(quán)利的應(yīng)用場景相對影響較小，如聊天機(jī)器人、個性化內(nèi)容推薦等，一般不會被認(rèn)為是高風(fēng)險系統(tǒng)。Julia Apostle認(rèn)為，多數(shù)AI系統(tǒng)不會受該法案太大影響，而對高敏感領(lǐng)域，如醫(yī)療保健、職業(yè)場景，將會有進(jìn)一步的立法關(guān)注。

但陳吉棟判斷，高風(fēng)險AI系統(tǒng)涉及廣泛，現(xiàn)在歐盟把大多數(shù)AI系統(tǒng)都納入高風(fēng)險系統(tǒng)中。例如自動駕駛汽車、人臉識別都可能涉及高風(fēng)險。

值得注意的是，《AI法案》明確了AI系統(tǒng)相關(guān)的多類主體，包括AI系統(tǒng)提供者、部署者、授權(quán)代表、進(jìn)口商和產(chǎn)品制造商。據(jù)上海段和段律師事務(wù)所律師團(tuán)隊近期發(fā)布的一篇文章，AI系統(tǒng)提供者的義務(wù)要求最繁多，大約涉及29條條例，這些義務(wù)涉及系統(tǒng)設(shè)計、開發(fā)、測試、部署、監(jiān)控等多環(huán)節(jié)，明顯多于部署者、授權(quán)代表、進(jìn)口商涉及的條例。

王捷表示，AI系統(tǒng)提供者負(fù)責(zé)開發(fā)人工智能系統(tǒng)或通用人工智能模型并將其投放市場，這意味著需要投入更多資源來確保合規(guī)性。AI系統(tǒng)提供者需承擔(dān)最多義務(wù)、也承擔(dān)較高合規(guī)成本。

此外，《AI法案》也對通用人工智能系統(tǒng)施以頗大關(guān)注。該法案稱，具有至少10億個參數(shù)并使用大規(guī)模自我監(jiān)督用大量數(shù)據(jù)訓(xùn)練的模型應(yīng)被視為具有顯著通用性。而當(dāng)通用人工智能模型用于訓(xùn)練的累積計算量大于10的25次方每秒浮點運算次數(shù)FLOPs時，將被認(rèn)為具有高影響能力，進(jìn)而可能被認(rèn)定為具有“系統(tǒng)性風(fēng)險”，需滿足一些額外要求。

大模型合規(guī)成本或超出17%

對人工智能相關(guān)企業(yè)而言，要滿足這樣一部全面且復(fù)雜的法案的要求，隨之而來的可能是合規(guī)成本上升。

海外智庫Center for Data Innovation在2021年歐盟推動《AI法案》制定之初便預(yù)計，該法案將使未來五年內(nèi)歐盟經(jīng)濟(jì)損失310億歐元。一家部署高風(fēng)險AI系統(tǒng)的歐洲中小企業(yè)將承擔(dān)高達(dá)40萬歐元的合規(guī)成本。《AI法案》將導(dǎo)致所有人工智能支出額外17%的開銷。

CEPS（歐洲政策研究中心）同年澄清，超300億歐元損失的估計被夸大，支出17% 額外開銷僅適用于未滿足任何監(jiān)管要求的公司。在CEPS的研究中，要建立一個全新的質(zhì)量管理體系（QMS）的成本可能在19.3萬歐元至33萬歐元之間，每年的維護(hù)費用估計為7.14萬歐元，一旦QMS建立起來，成本會降低，且QMS只是針對高風(fēng)險AI系統(tǒng)提供者的要求。

以上關(guān)于合規(guī)成本的討論發(fā)生在兩三年前，當(dāng)時大模型還未成為主流，如今情況可能發(fā)生了改變。

Julia Apostle認(rèn)為，提出的17%這個數(shù)字，是基于非常低的AI系統(tǒng)基礎(chǔ)成本的估計，未反映訓(xùn)練一個基礎(chǔ)模型的成本?！昂弦?guī)成本還無法完全估算，因為還不知道全部細(xì)節(jié)。高風(fēng)險AI系統(tǒng)和通用人工智能模型的提供者的成本將是最大的。法律依賴于對技術(shù)標(biāo)準(zhǔn)的采納，由公司實施這些標(biāo)準(zhǔn)，實施過程須經(jīng)過認(rèn)證。而這些標(biāo)準(zhǔn)內(nèi)容尚未正式確定，但肯定涉及政策、程序和具體產(chǎn)品要求的采納?！盝ulia Apostle表示，由于該法案對AI的監(jiān)管不止于歐盟，企業(yè)因該法案而離開歐盟似乎不太可能。

王捷認(rèn)為，對該法案，國內(nèi)大模型廠商若要在短期內(nèi)快速且低成本實現(xiàn)合規(guī)可能有難度，特別是對于數(shù)據(jù)復(fù)雜的大模型。大模型廠商的挑戰(zhàn)可能是適應(yīng)歐盟對于數(shù)據(jù)管理、模型透明度和可解釋性的高標(biāo)準(zhǔn)要求。

吳沈括認(rèn)為，對于風(fēng)險的分類、分級，特別是關(guān)于AI研發(fā)的披露度問題，是比較大的合規(guī)挑戰(zhàn)，這與人工智能算法一定的黑箱屬性具有較強(qiáng)烈和明顯的沖突。趙新華則認(rèn)為，《AI法案》涉及一些更高的合規(guī)標(biāo)準(zhǔn)和要求，企業(yè)進(jìn)入歐盟市場前要考慮能不能接受合規(guī)成本，以及可能面臨的不合規(guī)責(zé)任。

“如果說歐盟完全不在乎對經(jīng)濟(jì)的限制，也不準(zhǔn)確?！壁w新華表示，從《AI法案》規(guī)定范圍、內(nèi)容看，歐盟也在試圖消除規(guī)定對創(chuàng)新的影響，如對一些較少風(fēng)險AI系統(tǒng)的管理相對寬松。例如支持創(chuàng)新的措施中專門設(shè)了人工智能監(jiān)管沙盒，供企業(yè)測試創(chuàng)新性產(chǎn)品、服務(wù)、商業(yè)模式和交付機(jī)制，避免企業(yè)因從事相關(guān)活動而立即招致監(jiān)管后果，這是針對技術(shù)創(chuàng)新的柔性監(jiān)管制度，給了小企業(yè)較多發(fā)展空間。該法案有較大靈活性，風(fēng)險管控循序漸進(jìn)、逐步匹配，預(yù)計對經(jīng)濟(jì)造成負(fù)面的沖擊較小。

具體條例看，業(yè)界和法律界仍在關(guān)注哪些具體要求可能增加合規(guī)成本。

《AI法案》對高風(fēng)險AI系統(tǒng)的要求非常細(xì)致，涉及風(fēng)險管理系統(tǒng)、數(shù)據(jù)和數(shù)據(jù)治理、技術(shù)文件、記錄保存、透明度和向部署商提供信息、人為監(jiān)督、準(zhǔn)確性、穩(wěn)健性及網(wǎng)絡(luò)安全。具體要求包括但不限于建立、實施、記錄和維護(hù)與高風(fēng)險AI系統(tǒng)相關(guān)的風(fēng)險管理系統(tǒng)；擬定技術(shù)文件并向國家主管部門和認(rèn)證機(jī)構(gòu)提供必要的信息；訓(xùn)練、驗證和測試數(shù)據(jù)集的數(shù)據(jù)準(zhǔn)備處理工作包括各種注釋、清理、更新等，并采取措施發(fā)現(xiàn)、預(yù)防和減輕可能發(fā)生的某些偏差。

《AI法案》對通用人工智能模型提供商的要求則包括擬定并隨時更新技術(shù)文件、向擬集成該模型的AI系統(tǒng)提供商更新信息和文檔、制定遵守歐盟版權(quán)法的政策、起草并公開一份關(guān)于通用人工智能培訓(xùn)內(nèi)容的足夠詳細(xì)的摘要。被認(rèn)定為具有“系統(tǒng)性風(fēng)險”的通用人工智能模型需額外履行一些義務(wù)。

一名國內(nèi)互聯(lián)網(wǎng)大廠研發(fā)負(fù)責(zé)人向記者表示，對高風(fēng)險AI系統(tǒng)的要求中，較可能導(dǎo)致成本增加的是對數(shù)據(jù)進(jìn)行處理、預(yù)防某些偏差，因為涉及專門做數(shù)據(jù)處理并微調(diào)模型來避免模型輸出不合法內(nèi)容。國內(nèi)大模型在這方面肯定做過工作，但各地標(biāo)準(zhǔn)不同，要符合新標(biāo)準(zhǔn)需重新做工作。

趙新華則表示，高風(fēng)險AI系統(tǒng)提供者是指AI系統(tǒng)由某個企業(yè)提供并投入歐盟市場，法案專章列出提供者的義務(wù)，包括編制相應(yīng)技術(shù)文件、證明符合法案要求，并對符合歐盟的相關(guān)規(guī)定做符合性聲明，還要增加CE合格證認(rèn)證。高風(fēng)險AI系統(tǒng)投放市場前需完成合格性評估程序。

“這些規(guī)定非常具體，對提供者、部署者、進(jìn)口商和分銷主體設(shè)定不同的義務(wù)?！壁w新華表示，如果大模型公司在歐盟市場提供服務(wù)，除了需要請律師在合規(guī)層面及法律方面做評估和建議外，還涉及通過第三方進(jìn)行合格性評估程序等，有些企業(yè)加CE標(biāo)志也需找第三方認(rèn)證機(jī)構(gòu)。此外，《AI法案》還要求將AI系統(tǒng)算法的主要技術(shù)數(shù)據(jù)做摘要，這可能涉及公司內(nèi)部商業(yè)、技術(shù)團(tuán)隊，及外部第三方主體。

成本之外，人工智能企業(yè)是否愿意為了進(jìn)入歐盟市場而滿足《AI法案》的要求也是問題。

《AI法案》對通用人工智能模型在預(yù)訓(xùn)練和訓(xùn)練中使用數(shù)據(jù)的透明度提出要求，模型提供商應(yīng)起草并公開用于訓(xùn)練通用人工智能模型內(nèi)容的足夠詳細(xì)的摘要。在適當(dāng)考慮保護(hù)商業(yè)秘密和機(jī)密商業(yè)信息必要性的同時，摘要內(nèi)容應(yīng)總體全面。

”現(xiàn)在公開的大模型技術(shù)文件對預(yù)訓(xùn)練數(shù)據(jù)方面大多一筆帶過，但其實這部分內(nèi)容應(yīng)該最多?！币幻麌鴥?nèi)頭部大模型研發(fā)人員告訴記者，大模型效果如何，80%跟訓(xùn)練數(shù)據(jù)有關(guān)。之所以不公開訓(xùn)練數(shù)據(jù)的細(xì)節(jié)，是因為訓(xùn)練數(shù)據(jù)在一定程度上是企業(yè)核心機(jī)密。同時，很多大模型的訓(xùn)練數(shù)據(jù)來自網(wǎng)上各種渠道，如果不披露可能不會有人發(fā)現(xiàn)數(shù)據(jù)來源，一旦披露則可能暴露版權(quán)問題。

以上技術(shù)人員告訴記者，需向外提交的技術(shù)文檔如果有詳細(xì)的要求，大模型公司也不一定愿意提供，這并非成本的問題，而是因為公司可能希望對技術(shù)保密。

《AI法案》還將分階段實施，目前也有不少模糊或需厘清的問題。陳吉棟告訴記者，要劃定高風(fēng)險系統(tǒng)還是比較難，企業(yè)面對高風(fēng)險AI系統(tǒng)需承擔(dān)的諸多義務(wù)時，會傾向于不把自身劃定在高風(fēng)險范圍內(nèi)。歐盟或相關(guān)方還需要提供一套后臺配套基礎(chǔ)設(shè)施來支撐法律順利運行。

吳沈括認(rèn)為，從可能的缺點來看，該法案對于產(chǎn)業(yè)研發(fā)和應(yīng)用的邏輯是否有足夠強(qiáng)的匹配性，還需要進(jìn)一步的觀察。

“模糊和爭議點主要集中在定義和具體合規(guī)要求上，如高風(fēng)險AI系統(tǒng)精確界限、基礎(chǔ)模型和應(yīng)用模型的區(qū)分等。如何有效評估和監(jiān)控AI系統(tǒng)透明度和公平性也存在不確定性?！蓖踅菡J(rèn)為。

“我認(rèn)為國內(nèi)有些大企業(yè)已經(jīng)做好了合規(guī)的準(zhǔn)備，但大部分還沒做系統(tǒng)準(zhǔn)備，維持觀望態(tài)度。是否做好合規(guī)準(zhǔn)備，更多取決于戰(zhàn)略認(rèn)知。企業(yè)要從本質(zhì)上認(rèn)識到人類已進(jìn)入人工智能高風(fēng)險時代，對其風(fēng)險進(jìn)行管控已成為共識。”陳吉棟表示。