《電子技術應用》
您所在的位置：首頁 > 人工智能 > 设计应用 > 生成式人工智能嵌入数字政府的数据安全风险及其法律规制
生成式人工智能嵌入数字政府的数据安全风险及其法律规制
网络安全与数据治理
邹焕聪,王庆
南京工业大学法政学院
摘要： 生成式人工智能深度嵌入数字政府意义重大，但其引发的全周期数据安全风险不容忽视。通过解构数据“收集—处理—存储—输出”四阶段风险，发现收集阶段存在安全与质量隐患，处理阶段面临算法歧视与黑箱挑战，存储环节有数据泄露与归责困境，输出阶段则涉及数据失真与侵权风险。借鉴欧盟“先监管后发展”和美国“技术驱动立法”经验，提出分阶规制框架：收集阶段实行分类分级与源头审查，处理阶段强化伦理审查与清单管理，存储阶段构建软硬法协同标准与公私合作责任模式，输出阶段引入沙箱监管与数字确权。以此推动数字政府建设，实现科技、风险治理与安全法治的协同共进。
中圖分類號：D922;TP399文獻標識碼：ADOI:10.19358/j.issn.2097-1788.2025.07.008
引用格式：鄒煥聰,王慶. 生成式人工智能嵌入數(shù)字政府的數(shù)據(jù)安全風險及其法律規(guī)制［J］.網(wǎng)絡安全與數(shù)據(jù)治理，2025，44（7）：50-57.
Generative artificial intelligence embedded in digital government′s data security risks and legal regulation
Zou Huancong, Wang Qing
College of Law and Politics, Nanjing Tech University
Abstract： Generative AI′s deep integration into digital government is significant, but its full-cycle data security risks cannot be ignored. Risks in the four stages of "collection-processing-storage-output" include: collection security/quality issues, processing-stage algorithmic bias/black boxes, storage leakage/accountability gaps, and output distortion/infringement. Drawing on EU "regulate-first" and US "technology-driven" approaches, a phased framework is proposed: classification/source review for collection, ethical audits/list management for processing, soft-hard law collaboration/public-private risk sharing for storage, and sandbox regulation/digital rights confirmation for output. This promotes digital government development and balances technology, risk governance, and legal safeguards.
Key words : generative AI; digital government; data security; administrative rule of law; legal regulation

引言

數(shù)字政府建設是“十四五”期間乃至2035年之前國家治理的核心任務［1］。數(shù)字政府借助人工智能技術賦能突破傳統(tǒng)行政模式的效能瓶頸，在全面深化行政體制改革、推進國家治理體系和治理能力現(xiàn)代化，增進民生福祉等方面具有重大意義。然而，生成式人工智能的深度嵌入正引發(fā)“技術賦能悖論”——該技術雖在政務智能問答（如北京“京京”系統(tǒng)響應準確率達92%）［2］、政策模擬推演（如宜賓經(jīng)濟監(jiān)測平臺實現(xiàn)GDP預測誤差率<3%）等場景展現(xiàn)應用優(yōu)勢，其引發(fā)的數(shù)據(jù)安全風險卻呈現(xiàn)全周期擴散特性。

我國雖已初步構建由《網(wǎng)絡安全法》《數(shù)據(jù)安全法》《個人信息保護法》組成的數(shù)據(jù)規(guī)范法律體系以及《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》《生成式人工智能服務管理暫行辦法》（以下簡稱《暫行辦法》）等共同組成的生成式人工智能法律規(guī)制體系［3］,但在具體細節(jié)與銜接上存在不足之處，形成“技術賦能”與“規(guī)制真空”并存的結構性困境。

數(shù)據(jù)為生成式人工智能的運行提供“原料”，同時也是人工智能開發(fā)運用與發(fā)展的“基石”［4］。既有研究多聚焦人工智能倫理或政府數(shù)字化轉型宏觀路徑，對于生成式人工智能技術特性與數(shù)據(jù)治理的適配性研究存在三重局限：風險識別缺乏全周期框架、規(guī)制依賴事后模式、責任分配拘泥于政企二元結構，尚未充分回應生成式人工智能技術特性與數(shù)據(jù)治理的適配性問題。

基于此，本文創(chuàng)新性采用技術規(guī)制理論解構生成式人工智能的數(shù)據(jù)風險，通過考察多個政務智能化項目的合規(guī)性案例，提出“技術歸化法律”的新型治理范式。該研究為破解技術賦能與數(shù)據(jù)治理的價值沖突提供實證支撐，實現(xiàn)科技賦能與風險規(guī)避的邏輯統(tǒng)一，將我國數(shù)字政府的建設和發(fā)展納入法治軌道。


本文詳細內(nèi)容請下載：

http://ihrv.cn/resource/share/2000006614


作者信息：

鄒煥聰,王慶

（南京工業(yè)大學法政學院，江蘇南京211816）


Magazine.Subscription.jpg

此內(nèi)容為AET網(wǎng)站原創(chuàng)，未經(jīng)授權禁止轉載。