《電子技術(shù)應(yīng)用》
您所在的位置：首頁(yè) > 人工智能 > 设计应用 > 基于行政执法责任界分的生成式人工智能内容安全监管研究
基于行政执法责任界分的生成式人工智能内容安全监管研究
网络安全与数据治理
盛小宝，刘晋名，姚迁
公安部第三研究所
摘要： 生成式人工智能(Generative AI，GenAI)产业结构和内容生成机制的特殊性，导致其内容安全监管面临诸多挑战，特别是在行政执法责任的划分上。目前，公安网安部门、网信部门和工业和信息化部在GenAI内容监管中存在职责模糊与交叉的问题，进而影响监管效果。具体表现为技术手段与监管需求错配、现有法律法规适用性不足、公众认知不足和企业责任履行不力等具体面向。对此，亟需优化监管制度路径：一是以明确各执法部门的职责边界作为起点，建立健全跨部门的信息共享与协同机制；二是通过技术赋能，构建完善内容安全的分级治理框架；三是发挥企业主体积极性，协同赋能推动监管效率之提升。未来，应推动法律、技术与管理机制的深度融合，构建更加科学、规范的GenAI内容安全监管体系，为网络空间安全和社会秩序提供有效的制度保障。
中圖分類號(hào)：D922；TP399文獻(xiàn)標(biāo)志碼：ADOI:10.19358/j.issn.2097-1788.2026.01.009
中文引用格式：盛小寶，劉晉名，姚遷. 基于行政執(zhí)法責(zé)任界分的生成式人工智能內(nèi)容安全監(jiān)管研究［J］.網(wǎng)絡(luò)安全與數(shù)據(jù)治理，2026，45（1）：56-63.
英文引用格式：Sheng Xiaobao, Liu Jinming, Yao Qian. Research on the content safety regulation of generative artificial intelligence based on the division of administrative enforcement responsibilities［J］.Cyber Security and Data Governance，2026，45（1）：56-63.
Research on the content safety regulation of generative artificial intelligence based on the division of administrative enforcement responsibilities
Sheng Xiaobao, Liu Jinming, Yao Qian
Third Research Institute of the Ministry of Public Security
Abstract： The uniqueness of the industrial structure and content generation mechanism of generative artificial intelligence (GenAI) has led to numerous challenges in content security supervision, particularly in the division of administrative enforcement responsibilities. Currently, there is ambiguity and overlap in the roles of public security cybersecurity departments, the Cyberspace Administration, and the Ministry of Industry and Information Technology (MIIT) in GenAI content regulation, leading to unclear enforcement responsibilities, and consequently, ineffective regulation. This issue manifests in mismatches between technical tools and regulatory needs, inadequate applicability of existing laws and regulations, insufficient public awareness, and lack of corporate responsibility. To address these challenges, the regulatory framework must be optimized: First, the clear delineation of responsibilities across enforcement agencies should be prioritized, with the establishment of a robust informationsharing and collaboration mechanism; second, leveraging technology to build a comprehensive, tiered governance framework for content safety; third, encouraging corporate responsibility and collaborative efforts to improve regulatory efficiency. Moving forward, it is crucial to integrate law, technology, and management mechanisms to create a more scientific and standardized regulatory system for GenAI content safety, providing effective institutional safeguards for cybersecurity and social order.
Key words : generative artificial intelligence; content safety; administrative enforcement boundaries; responsibility delineation

引言

在數(shù)字化技術(shù)蓬勃發(fā)展的背景下，生成式人工智能(Generative AI，GenAI)憑借其在文本、圖像、音頻等領(lǐng)域的強(qiáng)大內(nèi)容生成能力，正在信息傳播、內(nèi)容創(chuàng)作和社會(huì)互動(dòng)等諸多領(lǐng)域引發(fā)深刻而顛覆性的變革。從GPT系列的自然語(yǔ)言生成模型到DALLE、Stable Diffusion等圖像生成模型，GenAI通過(guò)深度學(xué)習(xí)算法(如生成對(duì)抗網(wǎng)絡(luò)GANs和變分自編碼器VAEs)，基于海量數(shù)據(jù)訓(xùn)練，實(shí)現(xiàn)了高質(zhì)量、與訓(xùn)練數(shù)據(jù)相似的內(nèi)容自動(dòng)生成。這一技術(shù)不僅廣泛應(yīng)用于娛樂(lè)、教育、新聞等行業(yè)，還通過(guò)其基礎(chǔ)性支撐作用輻射至眾多領(lǐng)域，推動(dòng)產(chǎn)業(yè)創(chuàng)新發(fā)展、經(jīng)濟(jì)運(yùn)行模式變革和社會(huì)進(jìn)程迭代。然而，隨著GenAI技術(shù)的快速迭代與廣泛應(yīng)用，其引發(fā)的內(nèi)容安全問(wèn)題日益突出，成為限制技術(shù)健康發(fā)展的關(guān)鍵挑戰(zhàn)。首先，GenAI技術(shù)的迅速發(fā)展加劇了虛假信息的傳播，可能嚴(yán)重誤導(dǎo)公眾認(rèn)知，擾亂社會(huì)秩序，甚至威脅國(guó)家網(wǎng)絡(luò)安全。其生成的虛假內(nèi)容不僅可能被不法分子利用操控輿論，還可能被用于制造社會(huì)對(duì)立，進(jìn)而影響社會(huì)穩(wěn)定。其次，內(nèi)容版權(quán)侵權(quán)問(wèn)題頻發(fā)，侵犯創(chuàng)作者的合法權(quán)益，影響創(chuàng)作生態(tài)的健康發(fā)展。再次，GenAI技術(shù)在處理海量數(shù)據(jù)時(shí)存在極高的隱私泄露風(fēng)險(xiǎn)，可能導(dǎo)致個(gè)人信息的非法獲取和濫用，嚴(yán)重威脅個(gè)人權(quán)益保護(hù)，甚至對(duì)國(guó)家的數(shù)據(jù)安全形成潛在威脅。這些問(wèn)題的出現(xiàn)呼應(yīng)了“科林格里奇困境”(Collingridge Dilemma)。正如大衛(wèi)·科林格里奇(David Collingridge)所指出，在技術(shù)發(fā)展的早期，其社會(huì)后果往往難以預(yù)見(jiàn)；而當(dāng)不良后果顯現(xiàn)時(shí)，該技術(shù)可能已深度嵌入社會(huì)經(jīng)濟(jì)結(jié)構(gòu)，使得實(shí)施有效控制變得異常困難［1］。針對(duì)這些問(wèn)題，GenAI內(nèi)容安全監(jiān)管已成為維護(hù)國(guó)家網(wǎng)絡(luò)安全、社會(huì)穩(wěn)定與個(gè)人權(quán)益保護(hù)的重要任務(wù)。然而，目前我國(guó)在GenAI內(nèi)容安全監(jiān)管領(lǐng)域仍面臨諸多挑戰(zhàn)，尤其是行政執(zhí)法責(zé)任劃分不明確，導(dǎo)致監(jiān)管效率低下，監(jiān)管責(zé)任難以落實(shí)?，F(xiàn)行監(jiān)管體系下，涉及GenAI內(nèi)容監(jiān)管的部門眾多，包括公安機(jī)關(guān)網(wǎng)絡(luò)安全部門(以下簡(jiǎn)稱“網(wǎng)安部門”)、國(guó)家互聯(lián)網(wǎng)信息辦公室(以下簡(jiǎn)稱“網(wǎng)信部門”)、工業(yè)和信息化部(以下簡(jiǎn)稱“工信部門”)等。由于GenAI內(nèi)容的復(fù)雜性與多樣性，各部門在實(shí)際監(jiān)管過(guò)程中職責(zé)交叉和界限模糊的現(xiàn)象屢見(jiàn)不鮮。此外，現(xiàn)有監(jiān)管制度在應(yīng)對(duì)GenAI技術(shù)快速發(fā)展時(shí)也暴露出諸多不足，難以滿足技術(shù)迭代與應(yīng)用場(chǎng)景變化帶來(lái)的治理需求。為實(shí)現(xiàn)GenAI內(nèi)容安全的有效治理，應(yīng)聚焦行政執(zhí)法責(zé)任劃分，深入分析GenAI內(nèi)容安全的內(nèi)涵及其監(jiān)管現(xiàn)狀，剖析當(dāng)前面臨的主要障礙，從風(fēng)險(xiǎn)導(dǎo)向出發(fā)，提出科學(xué)合理的制度設(shè)計(jì)與可行的監(jiān)管措施，明確GenAI內(nèi)容安全的行政執(zhí)法責(zé)任，完善行政執(zhí)法體系，構(gòu)建良性技術(shù)應(yīng)用生態(tài)，從而為維護(hù)國(guó)家安全、保障社會(huì)和諧提供有力支撐。


本文詳細(xì)內(nèi)容請(qǐng)下載：

http://ihrv.cn/resource/share/2000006934


作者信息：

盛小寶，劉晉名，姚遷

(公安部第三研究所，上海200100)

2.jpg

此內(nèi)容為AET網(wǎng)站原創(chuàng)，未經(jīng)授權(quán)禁止轉(zhuǎn)載。