隨著技術(shù)研究不斷深入、水平不斷提高， 人工智能（Artificial Intelligence，AI）技術(shù)正在數(shù)字經(jīng)濟發(fā)展中發(fā)揮越來越重要的作用。在AI 技術(shù)發(fā)展過程中，倫理道德、數(shù)據(jù)隱私和安全性等問題一開始就作為頂層設(shè)計的重要內(nèi)容，保障 AI發(fā)展的底線。近年來，歐美主要經(jīng)濟體認識到 AI 技術(shù)競爭的重要性，提出多項措施激勵 AI 發(fā)展；也不斷探索 AI 發(fā)展與監(jiān)管的平衡，明確提出 AI 倫理、隱私保護和安全的相關(guān)立法與倡議。其中的若干思路值得我國參考借鑒，以切實保障 AI 技術(shù)安全、可靠發(fā)展。
一、AI 發(fā)展應(yīng)充分重視數(shù)據(jù)治理與隱私保護問題
AI 的運用涉及大量的數(shù)據(jù)，尤其是 AI 訓(xùn)練時使用的數(shù)據(jù)集以及運作后產(chǎn)生的大量數(shù)據(jù)。這些數(shù)據(jù)可能是結(jié)構(gòu)化或是非結(jié)構(gòu)化的數(shù)據(jù)，若需要對這些數(shù)據(jù)加以利用，必然涉及傳輸、處理及存儲等環(huán)節(jié)，面臨著跨境數(shù)據(jù)流通、數(shù)據(jù)泄露等風(fēng)險。尤其是更多的數(shù)據(jù)位于傳統(tǒng) IT 的邊界之外，或存儲于混合云和多云環(huán)境中，或是分布式存儲，更加大了數(shù)據(jù)保護的難度。
然而，現(xiàn)實情況比想象中更為復(fù)雜。美國網(wǎng)絡(luò)安全公司 Imperva 的一份調(diào)查報告顯示，2020 年全球在線數(shù)據(jù)泄露事件的數(shù)量達到 170 萬次，同比增長 93%。2021 年 4 月，106 個國家和地區(qū)的超 5 億臉書用戶的數(shù)據(jù)暴露于一個黑客論壇，其中包含用戶的電話號碼、居住地址等。數(shù)據(jù)的非正當利用，有可能危害國家安全、個人權(quán)益，并帶來一系列不可預(yù)知的后果。
為加強數(shù)據(jù)保護，各國均提出了數(shù)據(jù)保護立法。美國加利福尼亞州于 2018 年提出《加州消費者隱私法案》（California Consumer Privacy Act of 2018，CCPA），對受保護數(shù)據(jù)的類型作出規(guī)定，并賦予消費者數(shù)據(jù)訪問權(quán)、數(shù)據(jù)刪除權(quán)和知情權(quán)等權(quán)利。歐盟于 2018 年施行《通用數(shù)據(jù)保護條例》（GeneralData Protection Regulation，GDPR），規(guī)范數(shù)據(jù)使用，賦予個人用戶數(shù)據(jù)“刪除權(quán)”和“移植權(quán)”，并加強對數(shù)據(jù)傳輸至歐盟以外的“第三國”的管控。這兩項立法在全球引發(fā)廣泛的關(guān)注，其中的許多條款為多個國家的數(shù)據(jù)保護立法提供參考。我國《網(wǎng)絡(luò)安全法》和《個人信息保護法（草案）》等法規(guī)條款，也對數(shù)據(jù)的邊界、個人信息的定義等內(nèi)容進行規(guī)范，明確數(shù)據(jù)使用的權(quán)利和義務(wù)。
除去數(shù)據(jù)的非正常利用情況，企業(yè)和組織掌握數(shù)據(jù)量的多寡，將帶來 AI 效能的高低不同，這是一件顯而易見的事情。擁有更多數(shù)據(jù)的企業(yè)和組織，將有更多機會發(fā)展自身的 AI 業(yè)務(wù)，進一步提高服務(wù)水準，形成規(guī)模優(yōu)勢。數(shù)據(jù)量的差異，有可能在周而復(fù)始的周期性運作中進一步擴大，進而形成數(shù)據(jù)壟斷的局面，不利于數(shù)字經(jīng)濟健康、均衡發(fā)展。
二、AI 技術(shù)應(yīng)受到倫理道德約束
科幻作家艾薩克·阿西莫夫（Isaac Asimov）在1950 年出版的小說《我，機器人》中提出“阿西莫夫三大定律”（又稱“機器人學(xué)三大法則”）。這三大定律分別為：“第一定律：機器人不得傷害人類個體，或者目睹人類個體將遭受危險而袖手旁觀”“第二定律：機器人必須服從人給予它的命令，當該命令與第一定律沖突時例外”“第三定律：機器人在不違反第一、第二定律的情況下要盡可能保護自己的生存”。這三大定律為人類探討 AI 倫理準則提供了較為早期的參考。目前，各國之間廣泛認同的 AI 倫理準則可總結(jié)為以下四個方面，分別為可靠性與安全性；透明度與可解釋性；非歧視原則；負責(zé)任的 AI。
（一）可靠性與安全性
可靠與安全是 AI 進行一切活動的前提，是最基本的要求。正如前文“阿西莫夫三大定律”所述，機器在進行運作活動、服務(wù)于人類生產(chǎn)生活時，應(yīng)確保人類的安全且不具有威脅性。在后期的 AI 倫理研究中，研究者也從安全出發(fā)，不斷擴充這類研究的內(nèi)涵，以應(yīng)對發(fā)展中的諸多挑戰(zhàn)。
?。ǘ┩该鞫扰c可解釋性
由于傳統(tǒng) AI 系統(tǒng)的處理方式為人類無法了解的“黑箱”模式，人類僅能知道系統(tǒng)的輸入（特定的數(shù)據(jù)與激勵）和輸出內(nèi)容（處理后的數(shù)據(jù)與決策信息），無法理解 AI 做出特定決策的原因。線性回歸、決策樹和貝葉斯網(wǎng)絡(luò)等傳統(tǒng)算法可被解釋，但其精確度十分有限，而深度學(xué)習(xí)、神經(jīng)網(wǎng)絡(luò)等算法的精度較高，但可解釋性差、參數(shù)規(guī)模龐大，人類無法了解 AI 系統(tǒng)的運行路徑、無法在必要時候獲取有關(guān)信息。這就導(dǎo)致人類無法完全設(shè)計、控制敏感領(lǐng)域所使用的 AI，如自主武器、自動駕駛汽車等系統(tǒng)發(fā)生事故時，難以判斷其失誤原因；在 AI 信貸評分系統(tǒng)拒絕某人的貸款時，無法給予明確的解釋。
美國國防部高級研究計劃局（Defense AdvancedResearch Projects Agency，DARPA） 自 2016 年起啟動“可解釋的人工智能”（Explainable AI，XAI）項目，力爭解決人工智能透明度的挑戰(zhàn)，打開人工智能的“黑匣子”。這一項目在三個方面開展工作：深度解釋、構(gòu)建更多可解釋模型和模型歸納。在這一項目下，研究人員嘗試通過可視化等方式對現(xiàn)有 AI 進行解釋，并創(chuàng)建本身就可解釋的 AI 模型，以便于幫助用戶和開發(fā)人員理解 AI 算法，了解 AI 所作的決定，最終設(shè)法提高 AI 的可信度。
?。ㄈ┓瞧缫曉瓌t
AI 的部署應(yīng)當遵循多樣性、公平性與包容性的非歧視原則，無論是出于道德原因還是實際需求都非常重要。舉例來說，對大量的數(shù)據(jù)進行匯總分析，可以利用 AI 技術(shù)幫助分析貸款申請人的信譽，決定是否給予貸款以及額度；同時也可以對應(yīng)聘者進行評估，決定是否錄??；還可以預(yù)測犯罪分子再次犯罪的幾率，等等。然而，有些 AI 系統(tǒng)或存在歧視與偏見。舉例而言，許多面部識別系統(tǒng)的準確率欠佳，尤其是在識別深色皮膚面孔時。根據(jù)美國國家標準與技術(shù)研究院（National Institute of Standardsand Technology，NIST）發(fā)布的一份報告，2010 年至2018 年間，算法在大型數(shù)據(jù)庫中精確識別人臉的能力提升了 25 倍，只有 0.2% 的概率會出現(xiàn)無法匹配人臉的情況，而算法在識別深色人種面孔方面的能力較差，即使是性能最佳的人臉識別系統(tǒng)，識別深色人種的錯誤率也比白種人高 5~10 倍。
AI 產(chǎn)生歧視的原因來自兩個方面：一是當前 AI技術(shù)的發(fā)展水平仍然較為有限，其模式識別的能力未能實現(xiàn)對特有模式（較深的膚色、多樣化的行為特征等）的有效識別；二是部分 AI 在設(shè)計之初并未針對特殊模式（“模式”為環(huán)境和客體的統(tǒng)稱）進行設(shè)計，如人臉識別系統(tǒng)在訓(xùn)練時可能并未針對有色人種進行優(yōu)化，亦或是其訓(xùn)練數(shù)據(jù)集中并沒有足夠數(shù)量、保證質(zhì)量的深色人種面部數(shù)據(jù)。更甚者，AI 系統(tǒng)可能在自我學(xué)習(xí)的過程中接受了存在偏見的信息，最終形成了含有偏見的處理模式。這一擔(dān)憂并非空穴來風(fēng)，英國倫敦大都會警察局曾于 2020 年初宣布開始大規(guī)模部署面部識別系統(tǒng)以打擊犯罪，而由于這一系統(tǒng)的誤報率曾一度高達 98%，引發(fā)了民眾的抗議。
（四）負責(zé)任的 AI
AI 在運作過程中，很有可能會產(chǎn)生錯誤決策或失誤，從而引起人員傷害、財產(chǎn)損害等狀況。如何對 AI 所擔(dān)負的責(zé)任進行明確與劃分，一直以來是業(yè)界關(guān)注的問題。一旦發(fā)生糾紛，責(zé)任具體是歸于設(shè)計者還是使用者，亦或是歸咎于 AI 本身。當前，這類討論尚無明確的結(jié)果和較為廣泛的共識，導(dǎo)致目前許多因使用 AI 系統(tǒng)而產(chǎn)生的案件無法明確責(zé)任方。例如，2016 年，我國發(fā)生的一起輔助駕駛汽車撞擊致死案件至今懸而未決。一輛開啟輔助駕駛功能的小轎車在高速公路上撞擊前方的道路清掃車，導(dǎo)致小轎車駕駛員當場身亡。然而，在案件調(diào)查過程中，汽車生產(chǎn)廠商始終拒絕承擔(dān)責(zé)任，并表示無法提供充足的行駛數(shù)據(jù)以配合調(diào)查。此類案件引起了較大爭議，也表明 AI 責(zé)任的劃分仍需要長期的研究和討論。而面對復(fù)雜的情形，也應(yīng)當遵循“一案一審”的原則，根據(jù)實際情況，通過審慎的調(diào)查來明確。
三、歐美主要經(jīng)濟體正探索 AI 創(chuàng)新與監(jiān)管的平衡
近年來，歐美行政機構(gòu)相繼提出多項倡議與監(jiān)管措施，以預(yù)防倫理和數(shù)據(jù)隱私問題、規(guī)范 AI 技術(shù)的研發(fā)與部署。一方面，對 AI 采取必要監(jiān)管是這一行業(yè)長期健康發(fā)展的必然要求；另一方面，歐美國家已經(jīng)意識到中國人工智能技術(shù)的崛起，為應(yīng)對激烈競爭，愈發(fā)重視人工智能治理和數(shù)據(jù)可利用性，以期更安全、更規(guī)范地進行人工智能研發(fā)，激發(fā)人工智能應(yīng)用活力，推動技術(shù)革新和行業(yè)進步。
?。ㄒ唬┟绹南嚓P(guān)立法與倡議
2020 年 1 月，美國白宮科技政策辦公室（Officeof Science and Technology Policy，OSTP）發(fā)布美國人工智能監(jiān)管原則提案，敦促聯(lián)邦法規(guī)放寬對人工智能的限制，以推動創(chuàng)新并避免監(jiān)管過度。提案中主要包括初步規(guī)范私人部門人工智能技術(shù)開發(fā)和使用的 10 項監(jiān)管原則，指示各個聯(lián)邦監(jiān)管機構(gòu)在考慮實施與人工智能相關(guān)的監(jiān)管行動時，堅持“公平、非歧視、公開、透明、安全和保障”等原則，并聽取公眾對擬出臺法規(guī)的反饋。2020 年 2 月，美國國防部（United States Department of Defense，DoD）正式采用國防創(chuàng)新委員會（Defense Innovation Board）于2019 年 10 月提出的“負責(zé)任、公平、可溯源、可信賴和可控”等人工智能倫理準則。2020 年 8 月，美國國家標準 與技術(shù)研究院（National Institute ofStandards and Technology，NIST）提出 4 項原則，以確定人工智能所做決定的“可解釋”程度。具體的4 項原則為：人工智能系統(tǒng)應(yīng)為所有輸出提供相關(guān)證據(jù)或原因；人工智能系統(tǒng)應(yīng)向個體用戶提供有意義且易于理解的解釋；所提供的解釋應(yīng)正確反映人工智能系統(tǒng)生成輸出結(jié)果的過程；人工智能系統(tǒng)僅在預(yù)設(shè)或系統(tǒng)對其輸出有足夠信心的情況下運行。該工作旨在通過理解人工智能的理論能力和局限性以及通過提高人工智能使用的準確性（Accuracy）、可靠性（Reliability）、安全性（Security）、魯棒性（Robustness）和可解釋性（Explainability）來建立對人工智能系統(tǒng)的信任。
?。ǘW盟的相關(guān)立法與倡議
2020 年 2 月，歐盟委員會在布魯塞爾發(fā)布《人工智能白皮書》（White Paper on Artificial Intelligence），旨在促進歐洲在人工智能領(lǐng)域的創(chuàng)新能力，推動道德和可信賴人工智能的發(fā)展。白皮書提出一系列人工智能研發(fā)和監(jiān)管的政策措施，并提出構(gòu)建“卓越生態(tài)系統(tǒng)”和“信任生態(tài)系統(tǒng)”。2020 年 2 月，歐盟委員會宣布將放棄為期 5 年的面部識別禁令，并鼓勵各成員國制定自己的面部識別法規(guī)。關(guān)于面部識別技術(shù)是否壓制人權(quán)的討論迫使歐盟放棄全面施行面部識別禁令，轉(zhuǎn)而建議各成員國評估面部識別技術(shù)的影響后，再將其推廣到公共場所。2020 年 11月，歐盟提出《數(shù)據(jù)治理法案》（Data GovernanceAct）。該法案將促進整個歐盟以及各部門之間的數(shù)據(jù)共享，從而在增強公民和企業(yè)對數(shù)據(jù)掌控力度和信任程度的同時，為歐盟經(jīng)濟發(fā)展和社會治理提供支撐。法案的相關(guān)條款將允許企業(yè)獲取公共和個人數(shù)據(jù)，旨在促進歐洲企業(yè)與美國和亞洲的同行競爭。一旦獲取大量真實數(shù)據(jù)，歐洲企業(yè)將能夠分析市場的實際需求，從而推出更好的人工智能產(chǎn)品和服務(wù)，提升自身競爭力。在該立法下，企業(yè)和研究機構(gòu)將能夠訪問通常因隱私、商業(yè)機密或知識產(chǎn)權(quán)而被屏蔽的數(shù)據(jù)。同時，歐盟數(shù)據(jù)隱私保護法規(guī)《通用數(shù)據(jù)保護條例》（GDPR）仍將適用。2020 年 12月，歐盟基本權(quán)利機構(gòu)（European Union Agency forFundamental Rights，F(xiàn)RA）發(fā)布《走向正確的未來》（Getting The Future Right）報告，深入討論必須考慮的人工智能技術(shù)倫理問題。報告稱，算法存在偏見和歧視，這可能帶來社會問題。如果沒有適當?shù)耐该鞫龋@些偏見可能會對人類產(chǎn)生不利影響。FRA 敦促決策者就現(xiàn)有規(guī)則如何適用于人工智能提供更多指導(dǎo)，并確保未來的人工智能法律保護人的基本權(quán)利。
2021 年 4 月，歐盟委員會發(fā)布《人工智能法律監(jiān)管框架》（Legal framework on AI）與《2021 年人工智能協(xié)調(diào)計劃》（Coordinated Plan on ArtificialIntelligence 2021 Review）政策提案，旨在規(guī)范 AI 技術(shù)風(fēng)險并加強全歐洲對 AI 技術(shù)的利用、投資和創(chuàng)新?！侗O(jiān)管框架》按照風(fēng)險級別將 AI 技術(shù)及其應(yīng)用分為四類，一是具有不可接受風(fēng)險的技術(shù)，包括鼓勵未成年人危險行為的語音系統(tǒng)、政府“社會評分系統(tǒng)”等操縱人類行為的 AI 系統(tǒng)或應(yīng)用程序，該類技術(shù)被禁止；二是高風(fēng)險技術(shù)，包括用于運輸、教育、輔助手術(shù)、招聘、移民管理等事項的技術(shù)，該類技術(shù)在進入市場前需進行風(fēng)險評估、使用高質(zhì)量數(shù)據(jù)集測試、提供詳細的記錄文件等檢驗保護措施，其中具有遠程生物特征識別的系統(tǒng)使用前需司法授權(quán)并受時間和地理位置的限制；三是聊天機器人等風(fēng)險有限的系統(tǒng)，需履行透明披露義務(wù)；四是視頻游戲等風(fēng)險最小的應(yīng)用程序，法規(guī)不予以干預(yù)?！秴f(xié)調(diào)計劃》將統(tǒng)籌“數(shù)字歐洲”（Digital Europe）和“地平線歐洲”（Horizon Europe）計劃，以促使各國就促進 AI 技術(shù)使用和創(chuàng)新提出聯(lián)合行動計劃。歐盟委員會建議由各成員國市場監(jiān)督主管機構(gòu)對《監(jiān)管框架》進行監(jiān)督，成立歐洲人工智能委員會促進其實施。
?。ㄈ┘幽么蟮南嚓P(guān)倡議
2020 年 11 月，加拿大隱私事務(wù)專員辦公室（Officeof the Privacy Commissioner of Canada，OPC）呼吁制定法律，使加拿大人能夠負責(zé)任地創(chuàng)新并從人工智能中受益，同時確?；緳?quán)利得到尊重。該辦公室還建議對《個人信息保護和電子文檔法案》（PersonalInformation Protection and Electronic Documents Act，PIPEDA）進行修訂，允許將受保護的個人信息用于研究目的，以促進人工智能創(chuàng)新和社會進步。加拿大隱私事務(wù)專員辦公室認為，盡管 AI 可能有助于應(yīng)對與醫(yī)學(xué)診斷、能源效率提升、個性化學(xué)習(xí)以及疏導(dǎo)交通流量有關(guān)的緊迫挑戰(zhàn)，但 AI 系統(tǒng)利用個人信息來分析和預(yù)測行為并針對個人作出自動決策可能引起嚴重后果。因此，需要解決有關(guān)公平、準確、偏見和歧視的問題，使 AI 技術(shù)以尊重隱私、平等和其他人權(quán)的方式部署。
四、對中國的啟示
中國是 AI 技術(shù)的后起之秀，項目轉(zhuǎn)化快、應(yīng)用場景豐富，應(yīng)用層成為 AI 發(fā)展的重要支撐。若將算力、算法、算據(jù)作為人工智能成功發(fā)展的三大要素，中國在算據(jù)方面有著最為突出的優(yōu)勢。憑借著眾多的人口、機構(gòu)和復(fù)雜的應(yīng)用場景，以及多年來數(shù)字經(jīng)濟發(fā)展奠定的基礎(chǔ)，中國有大量的數(shù)據(jù)可供支持人工智能算法與系統(tǒng)創(chuàng)新，這也是中國 AI 技術(shù)與數(shù)字經(jīng)濟長期快速發(fā)展的重要原因之一。
參考歐美在激勵創(chuàng)新和監(jiān)管方面的舉措，我國應(yīng)按照自身發(fā)展現(xiàn)狀和路徑，堅持走發(fā)展和監(jiān)管并重的道路，確保 AI 行業(yè)高質(zhì)量創(chuàng)新，服務(wù)于經(jīng)濟建設(shè)這一中心。
?。ㄒ唬?yīng)始終重視數(shù)據(jù)和隱私的保護
AI 發(fā)展中，需始終堅守數(shù)據(jù)和隱私保護的底線。隨著數(shù)字經(jīng)濟不斷發(fā)展，數(shù)據(jù)這一生產(chǎn)要素的產(chǎn)生、流動和處理將愈發(fā)活躍，對數(shù)據(jù)保護的要求進一步提高。而數(shù)據(jù)的海量增長，很可能顛覆傳統(tǒng)的數(shù)據(jù)保護機制，那么必須探索新的路徑，如大數(shù)據(jù)合法交易、探索聯(lián)邦學(xué)習(xí)機制等，保障“數(shù)據(jù)可用不可見，用途可控可計量”的安全使用。
?。ǘ?yīng)充分重視 AI 倫理道德規(guī)范
AI 的運用場景進一步豐富，與百行百業(yè)交融，促進行業(yè)發(fā)展繁榮。這一過程中，應(yīng)重視 AI 倫理道德若干準則的探討，不斷豐富、完善其內(nèi)涵。進而，在這些準則的基礎(chǔ)上形成規(guī)范化的監(jiān)管和立法，保障 AI 技術(shù)可控、可靠。
?。ㄈ?yīng)探索發(fā)展范式創(chuàng)新，不斷激發(fā)行業(yè)活力
隨著時代發(fā)展不斷向前，技術(shù)的進步也將帶來發(fā)展范式的變化。企業(yè)和組織的運作模式很可能因為 AI 技術(shù)的出現(xiàn)而發(fā)生顛覆性的改變，數(shù)字技術(shù)與實體經(jīng)濟深度融合，生產(chǎn)效率、服務(wù)效能將得到極大地提高，帶來社會生產(chǎn)力的大跨度發(fā)展。這也意味著 AI 及相關(guān)行業(yè)的競爭將愈發(fā)激烈，唯有政策激勵、持續(xù)投入、堅持創(chuàng)新，才能在國際競爭中引領(lǐng)重要發(fā)展方向。
