生成式人工智能時(shí)代信息生態(tài)秩序的失衡風(fēng)險(xiǎn)與治理方案[人工智能][信息安全]

生成式人工智能驅(qū)動(dòng)了人工智能生成內(nèi)容時(shí)代的到來(lái)，變革了信息生成和傳播的機(jī)制。在變革過(guò)程中，信息生態(tài)秩序的失衡風(fēng)險(xiǎn)也隨之產(chǎn)生。受到語(yǔ)料庫(kù)、模型目標(biāo)設(shè)定、模型微調(diào)中相關(guān)主體價(jià)值觀念等內(nèi)外因素影響，生成式人工智能存在輸出和傳播虛構(gòu)信息、錯(cuò)誤信息、誤導(dǎo)性信息的問(wèn)題，會(huì)對(duì)現(xiàn)有信息生態(tài)的有序性、真實(shí)性、可信性產(chǎn)生影響。為應(yīng)對(duì)失衡風(fēng)險(xiǎn)，應(yīng)在包容審慎、動(dòng)態(tài)敏捷的柔性治理理念指引下，調(diào)動(dòng)政府部門(mén)、運(yùn)營(yíng)管理主體、產(chǎn)品使用者等多元主體共同參與風(fēng)險(xiǎn)治理；針對(duì)模型訓(xùn)練、服務(wù)嵌入、內(nèi)容生成、內(nèi)容發(fā)布、信息傳播等具體階段和場(chǎng)景展開(kāi)分層分類(lèi)精細(xì)治理；綜合采取法律規(guī)制、倫理規(guī)制、行業(yè)自律、技術(shù)規(guī)制等多種治理方案展開(kāi)立體化治理。

發(fā)表于：4/27/2025 3:59:26 PM