文獻(xiàn)標(biāo)識碼:A
DOI:10.19358/j.issn.2097-1788.2023.08.011
引用格式:薛晨浩,杜金浩,劉泳銳,等.基于圖像降噪的集成對抗防御模型研究[J].網(wǎng)絡(luò)安全與數(shù)據(jù)治理,2023,42(8):66-71.
0 引言
近年來隨著計(jì)算機(jī)硬件發(fā)展帶來的算力提升和數(shù)據(jù)量的爆炸性增長,深度學(xué)習(xí)在很多任務(wù)中如圖像分類、自然語言處理等方面表現(xiàn)十分出色。深度學(xué)習(xí)正以前所未有的規(guī)模被用于解決一些棘手的科學(xué)問題,例如DNA分析、腦回路重建、自動(dòng)駕駛、藥物分析等。
但是隨著對深度學(xué)習(xí)研究的不斷深入,學(xué)者發(fā)現(xiàn)在深度學(xué)習(xí)強(qiáng)大的表現(xiàn)下也隱藏著巨大的安全隱患。2014年,Szegedy等人在研究中發(fā)現(xiàn),通過添加微小的擾動(dòng),在人眼難以察覺到的情況下,可使深度學(xué)習(xí)模型以高置信度做出錯(cuò)誤判斷。如圖1所示在給“山脈”加上擾動(dòng)之后,DNN分類器以9439%的置信度將其識別為“狗”,給“河豚”添加擾動(dòng)后,DNN分類器以100%置信度將其識別為“螃蟹”。這種通過在原始圖像上增加一些人眼難以察覺的輕微擾動(dòng)使得深度學(xué)習(xí)模型產(chǎn)生錯(cuò)誤判斷的樣本,稱為對抗樣本。
本文詳細(xì)內(nèi)容請下載:http://ihrv.cn/resource/share/2000005469
作者信息:
薛晨浩1,杜金浩2,劉泳銳1,楊婧1
(1. 國家計(jì)算機(jī)網(wǎng)絡(luò)應(yīng)急技術(shù)處理協(xié)調(diào)中心山西分中心,山西太原030002;2.國家計(jì)算機(jī)網(wǎng)絡(luò)應(yīng)急技術(shù)處理協(xié)調(diào)中心,北京100083)