《電子技術(shù)應(yīng)用》
您所在的位置:首頁(yè) > 人工智能 > 設(shè)計(jì)應(yīng)用 > 負(fù)責(zé)任的發(fā)展生成式人工智能的挑戰(zhàn)及應(yīng)對(duì)路徑
負(fù)責(zé)任的發(fā)展生成式人工智能的挑戰(zhàn)及應(yīng)對(duì)路徑
網(wǎng)絡(luò)安全與數(shù)據(jù)治理
鄧臻宇
中南財(cái)經(jīng)政法大學(xué)知識(shí)產(chǎn)權(quán)研究中心
摘要: 生成式人工智能正推動(dòng)著新一輪科技產(chǎn)業(yè)的變革,但也引發(fā)了諸多治理風(fēng)險(xiǎn),例如數(shù)據(jù)濫用、訓(xùn)練數(shù)據(jù)質(zhì)量不高,算法黑箱、算法歧視現(xiàn)象普遍,但目前的監(jiān)管理念和措施仍具有滯后性。為了實(shí)現(xiàn)生成式人工智能負(fù)責(zé)任的發(fā)展,在治理路徑上,需要用戶、開發(fā)者和監(jiān)管部門等多元主體從技術(shù)和法律等多維度協(xié)同參與治理,構(gòu)建數(shù)據(jù)質(zhì)量管理體系、建立開放共享的公共訓(xùn)練數(shù)據(jù)平臺(tái);實(shí)行算法備案登記、審查評(píng)估機(jī)制,實(shí)現(xiàn)對(duì)算法公平公正的敏捷治理;完善生成式人工智能侵權(quán)歸責(zé)體系、探索監(jiān)管沙盒制度的應(yīng)用,實(shí)現(xiàn)技術(shù)創(chuàng)新的負(fù)責(zé)任發(fā)展。
中圖分類號(hào):D912文獻(xiàn)標(biāo)識(shí)碼:ADOI:10.19358/j.issn.2097-1788.2024.07.011
引用格式:鄧臻宇.負(fù)責(zé)任的發(fā)展生成式人工智能的挑戰(zhàn)及應(yīng)對(duì)路徑[J].網(wǎng)絡(luò)安全與數(shù)據(jù)治理,2024,43(7):69-76.
Challenges and paths to responsible development of generative AI
Deng Zhenyu
Centre for Studies of Intellectual Property Rights, Zhongnan University of Economics and Law
Abstract: Generative AI is driving a new round of changes in the science and technology industry, but it also triggers many governance risks, such as data misuse, poor quality of training data, algorithmic black box and algorithmic discrimination are common, but the current regulatory concepts and measures are still lagging behind. In order to achieve the responsible development of generative AI, on the governance path, it is necessary for multiple subjects such as users, developers and regulators to participate in the governance in a coordinated manner from multiple dimensions such as technology and law, to build a data quality management system and establish an open and shared public training data platform. Algorithmic filing and registration, review and assessment mechanisms are implemented, to achieve fair and impartial and agile governance of algorithms. The system of attribution of responsibility for generative AI infringement is improved, and the application of regulatory sandbox system is explored, so as to realise the responsible development of technological innovation.
Key words : responsible development; generative artificial intelligence; open sharing; regulatory sandbox

引言

以ChatGPT為代表的生成式人工智能正以“快進(jìn)鍵”的模式推進(jìn)社會(huì)的進(jìn)步,為各個(gè)領(lǐng)域的發(fā)展帶來(lái)了諸多機(jī)遇,但所伴隨的風(fēng)險(xiǎn)也對(duì)既有的技術(shù)治理體系提出了全新的挑戰(zhàn)。目前,世界各國(guó)正通過(guò)修改法律法規(guī)和政策文件的形式,尋求生成式人工智能技術(shù)創(chuàng)新發(fā)展與安全治理之間的平衡,要求生成式人工智能技術(shù)人員以更加審慎負(fù)責(zé)的態(tài)度促進(jìn)技術(shù)進(jìn)步。人工智能時(shí)代,新型技術(shù)的快速發(fā)展呼喚著制度的變革。我國(guó)對(duì)生成式人工智能的有序發(fā)展同樣予以高度重視,2023年4月11日,由國(guó)家網(wǎng)信辦公布了《生成式人工智能服務(wù)管理辦法(征求意見稿)》,同年7月13日,國(guó)家網(wǎng)信辦聯(lián)合國(guó)家發(fā)展改革委、教育部、科技部、工業(yè)和信息化部等多個(gè)部門公布了《生成式人工智能服務(wù)管理暫行辦法》(以下簡(jiǎn)稱《辦法》)。通過(guò)對(duì)兩份文件的對(duì)比分析,可以看出我國(guó)對(duì)生成式人工智能的發(fā)展持鼓勵(lì)態(tài)度,在《生成式人工智能服務(wù)管理暫行辦法》中為生成式人工智能提供了更為寬松的技術(shù)創(chuàng)新化環(huán)境。而實(shí)踐中,生成式人工智能已經(jīng)深深嵌入社會(huì)發(fā)展脈絡(luò)中,對(duì)傳統(tǒng)的生產(chǎn)方式實(shí)現(xiàn)了全面的革新,但同時(shí)也對(duì)社會(huì)治理、科技倫理和法治保障等提出了前所未有的挑戰(zhàn),例如數(shù)據(jù)隱私侵犯和數(shù)據(jù)濫用、算法歧視和算法黑箱、不公平的AI決策和生成虛假內(nèi)容等多個(gè)方面的風(fēng)險(xiǎn),需要相關(guān)主體以負(fù)責(zé)任的態(tài)度推動(dòng)該項(xiàng)技術(shù)的涌進(jìn)。面對(duì)生成式人工智能帶來(lái)的挑戰(zhàn),2023年5月4日,美國(guó)政府在與處于人工智能創(chuàng)新前沿的四家美國(guó)公司Alphabet、Anthropic、Microsoft和OpenAI的首席執(zhí)行官會(huì)面后,公布了三項(xiàng)有關(guān)人工智能的新舉措,分別是投資推動(dòng)負(fù)責(zé)任的美國(guó)人工智能研究開發(fā),對(duì)現(xiàn)有生成式人工智能系統(tǒng)進(jìn)行公開評(píng)估,政府以身作則制定政策以減輕人工智能風(fēng)險(xiǎn)并利用人工智能機(jī)遇。我國(guó)國(guó)家新一代人工智能治理專業(yè)委員會(huì)也早在2019年發(fā)布過(guò)《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》,但是并未對(duì)提出的原則制定詳細(xì)規(guī)則。面對(duì)生成式人工智能技術(shù)的迅猛發(fā)展與顯現(xiàn)的治理問(wèn)題,負(fù)責(zé)任式發(fā)展生成式人工智能應(yīng)是當(dāng)前技術(shù)發(fā)展的新共識(shí)。鑒于此,本文在把握負(fù)責(zé)任的生成式人工智能定義的基礎(chǔ)上,總結(jié)人工智能特性,分析發(fā)展面臨的挑戰(zhàn),并尋求對(duì)應(yīng)的破解路徑,通過(guò)提升對(duì)數(shù)據(jù)安全的管理,重視對(duì)生成式人工智能系統(tǒng)的審查和評(píng)估,構(gòu)建開放共享、普惠包容的算力資源,并嘗試構(gòu)建層次化的分級(jí)分類監(jiān)管措施等,探索出一套能夠有效推動(dòng)生成式人工智能負(fù)責(zé)任發(fā)展的本土化治理體系。


本文詳細(xì)內(nèi)容請(qǐng)下載:

http://ihrv.cn/resource/share/2000006094


作者信息:

鄧臻宇

(中南財(cái)經(jīng)政法大學(xué)知識(shí)產(chǎn)權(quán)研究中心,湖北武漢430073)


Magazine.Subscription.jpg

此內(nèi)容為AET網(wǎng)站原創(chuàng),未經(jīng)授權(quán)禁止轉(zhuǎn)載。