文獻(xiàn)標(biāo)識(shí)碼:A
DOI:10.19358/j.issn.2097-1788.2023.08.011
引用格式:薛晨浩,杜金浩,劉泳銳,等.基于圖像降噪的集成對(duì)抗防御模型研究[J].網(wǎng)絡(luò)安全與數(shù)據(jù)治理,2023,42(8):66-71.
0 引言
近年來(lái)隨著計(jì)算機(jī)硬件發(fā)展帶來(lái)的算力提升和數(shù)據(jù)量的爆炸性增長(zhǎng),深度學(xué)習(xí)在很多任務(wù)中如圖像分類(lèi)、自然語(yǔ)言處理等方面表現(xiàn)十分出色。深度學(xué)習(xí)正以前所未有的規(guī)模被用于解決一些棘手的科學(xué)問(wèn)題,例如DNA分析、腦回路重建、自動(dòng)駕駛、藥物分析等。
但是隨著對(duì)深度學(xué)習(xí)研究的不斷深入,學(xué)者發(fā)現(xiàn)在深度學(xué)習(xí)強(qiáng)大的表現(xiàn)下也隱藏著巨大的安全隱患。2014年,Szegedy等人在研究中發(fā)現(xiàn),通過(guò)添加微小的擾動(dòng),在人眼難以察覺(jué)到的情況下,可使深度學(xué)習(xí)模型以高置信度做出錯(cuò)誤判斷。如圖1所示在給“山脈”加上擾動(dòng)之后,DNN分類(lèi)器以9439%的置信度將其識(shí)別為“狗”,給“河豚”添加擾動(dòng)后,DNN分類(lèi)器以100%置信度將其識(shí)別為“螃蟹”。這種通過(guò)在原始圖像上增加一些人眼難以察覺(jué)的輕微擾動(dòng)使得深度學(xué)習(xí)模型產(chǎn)生錯(cuò)誤判斷的樣本,稱(chēng)為對(duì)抗樣本。
本文詳細(xì)內(nèi)容請(qǐng)下載:http://ihrv.cn/resource/share/2000005469
作者信息:
薛晨浩1,杜金浩2,劉泳銳1,楊婧1
(1. 國(guó)家計(jì)算機(jī)網(wǎng)絡(luò)應(yīng)急技術(shù)處理協(xié)調(diào)中心山西分中心,山西太原030002;2.國(guó)家計(jì)算機(jī)網(wǎng)絡(luò)應(yīng)急技術(shù)處理協(xié)調(diào)中心,北京100083)