《電子技術(shù)應(yīng)用》
您所在的位置:首頁 > 通信與網(wǎng)絡(luò) > 設(shè)計應(yīng)用 > 海雜波背景下小目標檢測的深度信念網(wǎng)絡(luò)方法
海雜波背景下小目標檢測的深度信念網(wǎng)絡(luò)方法
2017年微型機與應(yīng)用第7期
馮亮
浙江師范大學(xué) 數(shù)理與信息工程學(xué)院,浙江 金華 321004
摘要: 結(jié)合深度學(xué)習(xí)相關(guān)理論,提出了海雜波背景下小目標檢測的深度信念網(wǎng)絡(luò)方法。該方法以無標簽數(shù)據(jù)逐層進行非監(jiān)督貪婪訓(xùn)練,使每層得到一個合適的初始值;構(gòu)建深度信念網(wǎng)絡(luò)初步模型,并以帶標簽的數(shù)據(jù)對該種模型以誤差反向算法對整個網(wǎng)絡(luò)的參數(shù)進行調(diào)優(yōu),建立預(yù)測模型;最后利用該種預(yù)測模型檢測湮沒在海雜波背景下的小目標信號。以加拿大McMaster實測的IPIX雷達數(shù)據(jù)進行實驗,利用均方根誤差評價性能。實驗結(jié)果表明,針對第54#海雜波數(shù)據(jù),文章提出的深度信念網(wǎng)絡(luò)方法所預(yù)測的均方根誤差為0.016,與已有的選擇性支持向量機集成方法均方根誤差0.026 4和K均值有效極限學(xué)習(xí)機所得的均方根誤差0.042 8相比,預(yù)測精度有所提高。
Abstract:
Key words :

  馮亮

  (浙江師范大學(xué) 數(shù)理與信息工程學(xué)院,浙江 金華 321004)

        摘要:結(jié)合深度學(xué)習(xí)相關(guān)理論,提出了海雜波背景下小目標檢測深度信念網(wǎng)絡(luò)方法。該方法以無標簽數(shù)據(jù)逐層進行非監(jiān)督貪婪訓(xùn)練,使每層得到一個合適的初始值;構(gòu)建深度信念網(wǎng)絡(luò)初步模型,并以帶標簽的數(shù)據(jù)對該種模型以誤差反向算法對整個網(wǎng)絡(luò)的參數(shù)進行調(diào)優(yōu),建立預(yù)測模型;最后利用該種預(yù)測模型檢測湮沒在海雜波背景下的小目標信號。以加拿大McMaster實測的IPIX雷達數(shù)據(jù)進行實驗,利用均方根誤差評價性能。實驗結(jié)果表明,針對第54#海雜波數(shù)據(jù),文章提出的深度信念網(wǎng)絡(luò)方法所預(yù)測的均方根誤差為0.016,與已有的選擇性支持向量機集成方法均方根誤差0.026 4和K均值有效極限學(xué)習(xí)機所得的均方根誤差0.042 8相比,預(yù)測精度有所提高。

  關(guān)鍵詞:深度信念網(wǎng)絡(luò);海雜波;小目標檢測

  中圖分類號:TP393.1文獻標識碼:ADOI: 10.19358/j.issn.1674-7720.2017.07.016

  引用格式:馮亮.海雜波背景下小目標檢測的深度信念網(wǎng)絡(luò)方法[J].微型機與應(yīng)用,2017,36(7):53-55,66.

  0引言

  海雜波[1]通常是指海洋表面的雷達后向散射回波,具有混沌特性[2],利用該特性能有效檢測雷達回波是否含有目標信號。海雜波背景下小目標檢測對提高海面監(jiān)測水平有重大意義。1995年,Haykin和Li[3]結(jié)合混沌背景的先驗知識,利用神經(jīng)網(wǎng)絡(luò)構(gòu)建了非線性預(yù)測模型,從預(yù)測誤差中檢測到了目標信號;2003年,LopezRisueno等[4]提出了一種基于卷積神經(jīng)網(wǎng)絡(luò)的高復(fù)雜度和非平穩(wěn)雜波環(huán)境下的目標檢測算法;2008年,CarreteroMoya等[5]提出了一種海雜波背景下基于radon變換的小目標檢測方法。在國內(nèi),文獻[6]基于經(jīng)驗?zāi)B(tài)分解理論, 提出了一種基于粒子群算法的支持向量機預(yù)測方法,從海雜波中檢測出具有諧波特性的微弱信號;文獻[7]提出了一種基于分形布朗運動模型的S波段雷達海雜波分形維數(shù)提取方法;文獻[8]基于在復(fù)雜混沌噪聲背景中快速準確提取有用信號,提出基于復(fù)雜非線性系統(tǒng)相空間重構(gòu)理論,采用改進極限學(xué)習(xí)機(ELM)預(yù)測單步誤差檢測微弱信號的方法;文獻[9]基于復(fù)雜非線性系統(tǒng)相空間重構(gòu)理論, 提出了一種混沌背景中微弱信號檢測的選擇性支持向量機集成的方法。

001.jpg

1深度信念網(wǎng)絡(luò)原理

  深度信念網(wǎng)絡(luò)(Deep Belief Nets,DBN)[10]是2006年Hinton提出的一種由多層受限玻爾茨曼機(Restricted Boltzmann Machine,RBM)單元概率生成模型,其參數(shù)通過預(yù)訓(xùn)練和微調(diào)訓(xùn)練兩個過程來確定。DBN由多個RBM堆疊而成,兩層RBM組成的DBN模型結(jié)構(gòu)如圖1所示。

  DBN中的RBM是一種由可視層v和隱含層h兩部分神經(jīng)元構(gòu)成的神經(jīng)網(wǎng)絡(luò),每層有若干節(jié)點,層內(nèi)的節(jié)點之間沒有連接,v與h之間的權(quán)值生成采用非監(jiān)督貪婪逐層方法。RBM在訓(xùn)練過程中,可視單元向量值映射給隱層單元,然后隱層單元重構(gòu)可視單元,重構(gòu)后的可視單元再次映射給隱層單元,繼而獲得新的隱層單元。假設(shè)v有n個可視單元,h有m個隱層單元,則v和h的聯(lián)合組態(tài)能量函數(shù)定義為:

  NZK92%Q(SLC7$2)_KAYWV$Y.png

  其中,vi表示第i個可視單元的狀態(tài),hj表示第j個隱層單元的狀態(tài);θ=(wij,ai,bj)是RBM模型中的3個參數(shù):wij表示可視層節(jié)點i與隱含層節(jié)點j之間的連接權(quán)重,ai表示可視單元i的偏置,bj表示隱層單元j的偏置。基于能量函數(shù),可以得到(v,h)的聯(lián)合概率分布:

  3B00Q]54QXMQBFQ)T00RDDU.png

  其中,RBM的分配函數(shù)為Z(θ)=∑v,he-E(v,h|θ),條件概率分布為:

  V4I`][U}`%{U%QK9ORAB70E.png

  其中,σ(x)=11+exp(-x)為Sigmoid激活函數(shù)。

  RBM訓(xùn)練的目的在于求出參數(shù)θ=(w,a,b)的值,以此來擬合給定的訓(xùn)練數(shù)據(jù)。假設(shè)樣本數(shù)目為T,參數(shù)θ可以通過最大化參數(shù)似然函數(shù)得到,即:

  G%V9_C(PQXAQ4}GWECZ[6G0.png

  采用Hinton提出的對比散度(Contrastive Divergence,CD)算法,可求得各參數(shù)的更新準則:

  Δwij=η(〈vihj〉data-〈vihj〉recon)(6)

  Δai=η(〈vi〉data-〈vi〉recon)(7)

  Δbj=η(〈hj〉data-〈hj〉recon)(8)

  其中,η為預(yù)訓(xùn)練的學(xué)習(xí)率,〈·〉data為訓(xùn)練數(shù)據(jù)集所定義的分布上的數(shù)學(xué)期望,〈·〉rencon為重構(gòu)后模型所定義的分布上的期望。

  訓(xùn)練RBM的CD算法步驟如下:

 ?。?)初始化可視層單元,可視單元數(shù)為n,隱層單元數(shù)為m。令v0=x0,w、a、b為服從高斯分布的隨機較小數(shù)值,學(xué)習(xí)率為η,設(shè)最大迭代次數(shù)為K。

 ?。?)計算P(h0j=1|v0)=σ(bj+∑ni=1v0iwij),從條件分布P(h0j|v0)中提取h0~P(h0|v0),其中,σ(x)為Sigmoid激活函數(shù)。

 ?。?)計算P(v1i=1|h0)=σ(ai+∑mi=1h0jwij),從條件分布P(v1i|h0)中提取v1~P(v1|h0)。

  (4)計算P(h1j=1|v0)=σ(bj+∑ni=1v1iwij)所有隱層單元。

  (5)按如下規(guī)則更新參數(shù):

  w←w+η(P(h0=1|v0)vT0-P(h1=1|v1)vT1)

  a←a+η(v0-v1)

  b←b+η(P(h0=1|v0)-P(h1=1|v1))

 ?。?)重復(fù)步驟(2)~(5),直到達到最大迭代次數(shù)K,該層RBM訓(xùn)練完成。

  非監(jiān)督的預(yù)訓(xùn)練完成之后,每層RBM可以調(diào)整到一個合適的初始值,然后通過自底向上組合多個RBM,可以構(gòu)建一個DBN初步框架,接下來利用BP算法對整個網(wǎng)絡(luò)有監(jiān)督地進行調(diào)優(yōu),進一步優(yōu)化網(wǎng)絡(luò)各層的參數(shù),使網(wǎng)絡(luò)性能更優(yōu)。

  值得注意的是,在DBN的調(diào)優(yōu)過程中,利用RBM的權(quán)值初始化BP神經(jīng)網(wǎng)絡(luò)各層的權(quán)值,而不像傳統(tǒng)神經(jīng)網(wǎng)絡(luò)隨機初始化。

  總之,DBN的建立過程可簡單地歸納為兩步:

  (1)非監(jiān)督貪婪逐層訓(xùn)練:基于對比散度CD算法,依據(jù)求得的參數(shù)更新準則,依照能量最小逐層訓(xùn)練每個RBM,獲取可視層與隱含層之間的連接權(quán)值。

 ?。?)有監(jiān)督微調(diào):基于第一步RBM訓(xùn)練之后,DBN模型利用帶標簽的數(shù)據(jù)誤差反向傳播算法(BP)對整個網(wǎng)絡(luò)的參數(shù)進行調(diào)優(yōu)。

  2DBN小目標檢測

  為了驗證本文提出的DBN檢測方法的有效性,對海雜波數(shù)據(jù)進行建模預(yù)測,研究DBN模在海雜波背景下小目標檢測的精度,利用均方根誤差作為評價指標。

  本文采用的海雜波數(shù)據(jù)是加拿大McMaster大學(xué)的IPIX雷達實測海雜波數(shù)據(jù)。該雷達發(fā)射頻率為9.39 GHz,天線高度30 m,極化方式分為HH、VV、HV 和VH,每個回波數(shù)據(jù)包含131 072個采樣點,共包含16個距離單元,天線增益為45.7 dB。本文采用的是雷達數(shù)據(jù)集的第17#及54#海雜波數(shù)據(jù)。其中分別選取17#海雜波的第一距離單元(不含目標)和第九距離單元(含目標),數(shù)據(jù)采樣VV極化方式的2 500個點,前1 700個采樣點作為訓(xùn)練樣本,后800個作為驗證集。同樣,分別選取54#海雜波的第一距離單元(不含目標)和第八距離單元(含目標),數(shù)據(jù)采樣VV極化方式的2 500個點,前1 700個采樣點作為訓(xùn)練樣本,后800個作為驗證集。程序在MATLAB2012b版本上運行。erri為預(yù)測值與實際值的偏差,均方根誤差作為評價指標:

  SJ[V5UT75[]9H}IC[HAXGNJ.png

  設(shè)置RBM訓(xùn)練最大迭代次數(shù)為1 000,BP微調(diào)時最大迭代次數(shù)也為1 000,DBN隱層數(shù)量(即RBM層數(shù))為單層,隱層的神經(jīng)元數(shù)量(即隱層節(jié)點)為20。建立DBN模型,用DBN進行單步預(yù)測,經(jīng)計算17#第一距離單元的RMSE為0.012 4,第九距離單元RMSE為0.022 1。如圖2所示。比較圖2(b)和(c),第九距離單元(含目標)的預(yù)測誤差中存在明顯尖峰,而第一距離單元(不含目標)的預(yù)測誤差則相對光滑。則可以證明DBN模型能檢測湮沒在海雜波背景下的小目標信號。

  

002.jpg

  

003.jpg

  同理,選取54#海雜波的第一距離單元和第八距離單元數(shù)據(jù)再次進行驗證,得到第一距離單元的RMSE為0.012 4,第八距離單元的RMSE為0.025 9,如圖3所示。且從圖3(b)中可直觀地發(fā)現(xiàn)預(yù)測誤差出現(xiàn)明顯峰值。兩組數(shù)據(jù)實驗,將目標信號與不含目標信號的距離單元進行對比,都能從圖中看出預(yù)測誤差出現(xiàn)明顯的峰值,這說明DBN模型能夠有效地檢測出湮沒在海雜波中的小目標信號。

006.jpg

  上述實驗RBM層數(shù)為單層,隱層節(jié)點為20,接下來討論RBM層數(shù)和隱層節(jié)點對檢測結(jié)果的影響,RMSE均方根誤差作為評價指標。從表1可以看出,當RBM層數(shù)逐步增加時,DBN模型的預(yù)測精度逐步減?。划旊[層節(jié)點為20,隱層數(shù)量為1層時,17#數(shù)據(jù)集和54#數(shù)據(jù)集的預(yù)測精度最高,即更容易在海雜波背景中檢測出目標信號;而DBN模型在RBM層數(shù)多于2層時,其預(yù)測誤差的精度則大大降低。 

004.jpg

  較之傳統(tǒng)神經(jīng)網(wǎng)絡(luò)方法,DBN模型預(yù)測方法克服了傳統(tǒng)BP算法需要大量含標簽的訓(xùn)練集樣本、收斂速度慢、容易陷入局部最優(yōu)等缺陷,DBN模型能檢測出湮沒在海雜波背景下的小目標信號。與文獻[8]中所提到的有效K均值有效極限學(xué)習(xí)機所得的RMSE相比,其選取的第54#的第八距離單元的RMSE為0.042 8,本文所提出的DBN方法所得結(jié)果優(yōu)于該方法,均能有效地提高預(yù)測的精度;與文獻[9]中所提到的選擇性支持向量機集成的方法相比,其54#的第八距離單元的RMSE為0.026 4,本文所提出的DBN方法預(yù)測的RMSE相差不大。

3結(jié)論

  本文利用海雜波的混沌特性,結(jié)合深度學(xué)習(xí)相關(guān)理論,提出了在海雜波背景下的小目標檢測方法,用DBN模型檢測出湮沒在海雜波背景下的小目標信號。在海雜波背景下,DBN模型能有效地檢測到小目標信號,與文獻[8]、[9]所述方法相比,DBN模型的檢測效果更好,有更低的預(yù)測誤差。

  參考文獻

  [1] 行鴻彥, 朱清清, 徐偉. 一種混沌海雜波背景下的微弱信號檢測方法[J]. 物理學(xué)報, 2014, 63(10):41-47.

 ?。?] 朱艷平. 各種混沌系統(tǒng)性能比較研究[J]. 微型機與應(yīng)用, 2016, 35(12):46.

  [3] HAYKIN S, LI X B. Detection of signals in chaos[J]. Proceedings of the IEEE, 1995, 83(1):95-122.

 ?。?] LOPEZRISUENO G, GRAJAL J, DIAZOLIVER R. Target detection in sea clutter using convolutional neural networks[C]. Proceedings of the Radar Conference, 2003. IEEE, 2003:321-328.

  [5] CARRETEROMOYA J, GISMEROMENOYO J, ASENSIOLOPEZ A, et al. Smalltarget detection in sea clutter based on the radon transform[C]. International Conference on Radar, 2008:610-615.

 ?。?] 行鴻彥, 張強, 徐偉. 混沌海雜波背景下的微弱信號檢測混合算法[J]. 物理學(xué)報, 2015,64(4):48-54.

 ?。?] 姜斌, 王宏強, 黎湘,等. 海雜波背景下的目標檢測新方法[J]. 物理學(xué)報, 2006, 55(8):3985-3991.

  [8] 商慶健, 張金敏, 王廳長. 基于有效K均值有效極限學(xué)習(xí)機的混沌海雜波背景中微弱信號檢測[J]. 計算機應(yīng)用, 2015, 35(3):896-900.

 ?。?] 行鴻彥, 祁崢東, 徐偉. 基于選擇性支持向量機集成的海雜波背景中的微弱信號檢測[J]. 物理學(xué)報, 2012, 61(24):82-87.

 ?。?0] HINTON G E, OSINDERO S, TEH Y W. A fast learning algorithm for deep belief nets.[J]. Neural Computation, 2006, 18(7):1527-1554.


此內(nèi)容為AET網(wǎng)站原創(chuàng),未經(jīng)授權(quán)禁止轉(zhuǎn)載。