文獻(xiàn)標(biāo)識(shí)碼： A
DOI：10.16157/j.issn.0258-7998.2016.02.021
中文引用格式： 林云，雷洋，曾俊俊. 抗沖擊噪聲的核對(duì)數(shù)最小絕對(duì)差算法[J].電子技術(shù)應(yīng)用，2016，42(2)：78-80，84.
英文引用格式： Lin Yun，Lei Yang，Zeng Junjun. Kernel least logarithmic absolute difference algorithm aganist impulsive noise[J].Application of Electronic Technique，2016，42(2)：78-80，84.
0 引言
該方法作為解決非線性問(wèn)題的有效手段得到了全面的關(guān)注和研究，它的原理是把輸入信號(hào)映射到高維的特征空間中，在高維的特征空間里再進(jìn)行線性運(yùn)算[1]，從而解決非線性問(wèn)題。核方法不需要知道映射的具體形式，只需要確定變換后內(nèi)積的核函數(shù)的形式。基于最小均方誤差（LMS）算法的核最小均方誤差（KLMS）算法已經(jīng)被證明能夠在有高斯噪聲的環(huán)境下很好地解決非線性問(wèn)題[2]，而在實(shí)際應(yīng)用中往往會(huì)存在著非高斯沖擊噪聲[3]，因而KLMS算法的性能會(huì)受到很大的影響。在線性算法中，用對(duì)數(shù)作為代價(jià)函數(shù)的最小對(duì)數(shù)絕對(duì)差（LLAD）算法被用來(lái)解決這種存在非高斯噪聲的問(wèn)題[4]。文獻(xiàn)[4]中的實(shí)驗(yàn)結(jié)果表明， 最小對(duì)數(shù)絕對(duì)差（LLAD）算法和傳統(tǒng)的最小均方誤差（LMS）算法相比，前者具有很好的抗沖擊干擾能力，但是LLAD算法僅僅適用于線性系統(tǒng)。本文將LLAD算法引入到核空間中，提出核最小對(duì)數(shù)絕對(duì)差（KLLAD）算法，以此來(lái)解決存在非高斯噪聲的非線性問(wèn)題，由于KLLAD算法以對(duì)數(shù)作為代價(jià)函數(shù)，能夠降低測(cè)量誤差e(i)對(duì)算法更新的影響，所以它在魯棒性和收斂方面都有很好的表現(xiàn)。
1 KLMS和LLAD自適應(yīng)濾波算法
1.1 KLMS算法
Mercer核是一個(gè)連續(xù)、對(duì)稱、正定的核函數(shù)κ：Rm×Rm→R[5]，常用的核函數(shù)包括高斯核和多項(xiàng)式核，本文使用的高斯核定義如下：
其中h是核參數(shù)，根據(jù)Mercer的理論研究，任何核函數(shù)κ(u，u′)都可以通過(guò)映射φ以內(nèi)積的形式把輸入空間U映射到高維特征空間F（內(nèi)積空間）中[6]，其數(shù)學(xué)表達(dá)式如下 ：
如果定義φ(u)=κ(u，·)，則特征中空間F本質(zhì)上也是一個(gè)核再生希伯特空間，KLMS算法實(shí)質(zhì)上就是在特征空間F中的線性LMS算法[2]。首先，通過(guò)映射φ將輸入信號(hào)u(i)映射到特征空間F中后變成φ(u(i))，定義φ(i)=φ(u(i))，然后對(duì)新的輸入數(shù)列{φ(i)，d(i)}應(yīng)用LMS算法可以得到：
其中，e(i)是第i次的預(yù)測(cè)誤差，η是步長(zhǎng)，w(i)是對(duì)特征空間中對(duì)自適應(yīng)濾波器抽頭矢量的估計(jì)。由式(3)可以看出，KLMS算法本質(zhì)上是在高緯特征空間中的線性LMS算法，是解決非線性問(wèn)題的有效手段，有著非常廣泛的應(yīng)用。
1.2 LLAD算法
在傳統(tǒng)的LMS算法中，定義輸入信號(hào)為u(i)，期望輸出為d(i)，濾波器輸出為y(i)，誤差信號(hào)e(i)=d(i)-y(i)=d(i)-w(i)Tu(i)，w(i)是自適應(yīng)濾波器的抽頭系數(shù)矢量，最常見的代價(jià)函數(shù)是E(e(i)2)，通過(guò)減少代價(jià)函數(shù)來(lái)逼近待辨識(shí)的系統(tǒng)，而在LLAD算法中應(yīng)用對(duì)數(shù)作為代價(jià)函數(shù)[4]：
當(dāng)式（5）=0時(shí)，代價(jià)函數(shù)便取得最優(yōu)解，其中a為設(shè)計(jì)的參數(shù)且a>0，因此LLAD算法的自適應(yīng)濾波器的抽頭矢量更新表達(dá)式變?yōu)椋?/p>
其中μ為步長(zhǎng)參數(shù)。
分析式(6)可知，當(dāng)e(i)很大時(shí)算法更新近似于符號(hào)（SA）算法，當(dāng)e(i)很小時(shí)，算法更新近似于傳統(tǒng)的LMS算法。因此LLAD算法綜合了LMS和SA兩種算法[4]，與LMS算法相比具有很好的抗沖擊噪聲性能，與SA算法相比具有更好的收斂性能。
2 KLLAD自適應(yīng)濾波算法
最小對(duì)數(shù)絕對(duì)差（LLAD）算法雖然具有很好的抗沖擊噪聲性能和收斂性能，但其只適用于線性系統(tǒng)，并不能直接用來(lái)解決非線性問(wèn)題，因此本文在LLAD算法的基礎(chǔ)上提出KLLAD算法，在核空間中應(yīng)用LLAD算法，把LLAD算法推廣到核空間來(lái)解決非線性問(wèn)題，并用系統(tǒng)辨識(shí)來(lái)驗(yàn)證其魯棒性和收斂性能。
首先，通過(guò)映射φ將輸入信號(hào)u(i)映射到特征空間F中后變成φ(u(i))，定義φ(i)=φ(u(i))，然后對(duì)新的輸入數(shù)列{φ(i)，d(i)}應(yīng)用LLAD算法可以得到KLLAD算法，KLLAD算法第i次的預(yù)測(cè)誤差:
由式(4)可以得出KLLAD算法的代價(jià)函數(shù)為：
如果
或者 F(e(i))=0，則對(duì)數(shù)代價(jià)函數(shù)可以取得最優(yōu)解，所以對(duì)數(shù)代價(jià)函數(shù) J(e(i))的最優(yōu)解與代價(jià)函數(shù) F(e(i))的最優(yōu)解是一致的[4]。由于 F(e(i))=E(|e(i)|)，利用式(6)可以得出：
綜上所述，KLLAD算法本質(zhì)上是在特征空間中的LLAD算法，所以其具有LLAD算法的魯棒性。
3 實(shí)驗(yàn)仿真結(jié)果分析
系統(tǒng)辨識(shí)是自適應(yīng)濾波器的一個(gè)重要應(yīng)用，本文用非線性系統(tǒng)辨識(shí)來(lái)驗(yàn)證KLLAD算法的性能，定義系統(tǒng)噪聲由高斯噪聲和非高斯沖擊噪聲線性組合而成，系統(tǒng)噪聲混入期望信號(hào)對(duì)期望信號(hào)產(chǎn)生干擾，實(shí)驗(yàn)中分別用KLLAD、KLMS和LLAD三種算法來(lái)對(duì)該未知系統(tǒng)進(jìn)行逼近，并對(duì)比三種算法的魯棒性和收斂性。
非線性系統(tǒng)由一個(gè)線性信道和一個(gè)非線性信道組合而成[7]，其中線性信道選擇為：H(z)=1+0.2z-1，非線性信道為：y=x-0.9x2，其中x為線性信道的輸出。定義非高斯沖擊噪聲表示為Ki Ai，Ki是一個(gè)伯努利過(guò)程且p(Ki=1)=pr，Ai是零均值的高斯過(guò)程，系統(tǒng)噪聲n(i)由一個(gè)方差為σ2的白高斯噪聲和沖擊噪聲Ki Ai組成[8，9]，在實(shí)驗(yàn)中KLLAD算法的參數(shù)設(shè)定為：核參數(shù)h=0.1，σ2=0.4，a=5[4]，μ=0.1；KLMS算法中σ2=0.4，μ=0.05；LLAD算法中σ2=0.4，μ=0.01。三種算法的訓(xùn)練數(shù)據(jù)是1 000，測(cè)試數(shù)據(jù)是100，學(xué)習(xí)曲線取計(jì)算30次的平均值。三種算法的性能對(duì)比如圖1、圖2和圖3所示。其中圖1是沒(méi)有非高斯沖擊噪聲的環(huán)境，即pr=0；圖2是存在5%的非高斯沖擊噪聲的情況（pr=0.05，Ai=150）；圖3是存在很大單點(diǎn)非高斯沖擊噪聲的情況（A500=1 500）。
從圖1可以看出：在沒(méi)有沖擊噪聲的環(huán)境下，KLLAD（μ=0.1）算法和KLMS算法（μ=0.05）具有相近的穩(wěn)態(tài)誤差，而且KLLAD算法收斂速度比KLMS要快；與LLAD算法（μ=0.01）相比，KLLAD算法的穩(wěn)態(tài)誤差要遠(yuǎn)遠(yuǎn)低于LLAD算法，由此也證明了LLAD算法不適用于非線性系統(tǒng)，表明了提出KLLAD算法的必要性。從圖2可以看出：在存在非高斯沖擊噪聲的環(huán)境里，KLLAD算法與LLAD都有很好的魯棒性，能夠避免沖擊噪聲對(duì)算法更新迭代的影響，使算法具有穩(wěn)定性；但是KLMS算法由于受到系統(tǒng)非高斯沖擊噪聲的影響，穩(wěn)態(tài)誤差波動(dòng)較大，其收斂性能大大降低，KLLAD算法要優(yōu)于KLMS算法。圖3是在第500次迭代時(shí)出現(xiàn)一個(gè)很大的非高斯沖擊噪聲，從圖中可以看出：在500次迭代時(shí)該沖擊噪聲對(duì)KLLAD和LLAD算法并無(wú)影響，而KLMS算法在i=500時(shí)出現(xiàn)了較大的波動(dòng)，產(chǎn)生了較大的誤差，在非高斯沖擊噪聲消失后，KLMS算法又會(huì)收斂于一個(gè)較低的穩(wěn)態(tài)誤差，其結(jié)果更進(jìn)一步驗(yàn)證了KLLAD算法的魯棒性和KLMS算法的局限性，在有非高斯沖擊的環(huán)境下KLLAD算法要遠(yuǎn)遠(yuǎn)優(yōu)于KLMS算法。
4 結(jié)論
本文提出的核最小對(duì)數(shù)絕對(duì)差（KLLAD）算法是將最小絕對(duì)差(LLAD)算法與核方法相結(jié)合而形成的新的算法，由于KLLAD算法使用對(duì)數(shù)作為代價(jià)函數(shù)，有效降低了測(cè)量誤差e(i)對(duì)算法更新迭代的影響[4]，使算法更具穩(wěn)定性，以此來(lái)解決存在非高斯沖擊噪聲的非線性問(wèn)題，從系統(tǒng)辨識(shí)的實(shí)驗(yàn)仿真結(jié)果來(lái)看，在存在非高斯沖擊噪聲的環(huán)境里KLLAD算法與LLAD算法、KLMS算法相比，前者確實(shí)具有很好的魯棒性和收斂性能。
參考文獻(xiàn)
[1] LIU W，PRINCIPLE J C，HAYKIN S.Kernel adaptive filtering：a comprehensive introdtion[M].Hoboken，NJ，USA：Wiley，2010.
[2] LIU W，POKHAREL P P，PRINCIPLE J C.The kernel least-mean-square algorithm[J].IEEE Trans.Signal Process.，2008，56（2）：543-554.
[3] CHAMBERS J，AVLONITIS A.A robust mixed-norm adaptive filter algorithm[J].IEEE Signal Process.，1997，4(2)：46-48.
[4] SAYIN M O，VANLI N D，KOZAT S S.A novel family of adaptive filtering based on logarithmic cost[J].IEEE Trans.Signal Process.，2014，62(17)：4411-4424.
[5] ARONSZAJN N.Theory of reproducing kernels[J].Trans.Amer.Math，Soc.，1950，68(3)：337-404.
[6] BURGES C J C.A tutorial on support vecter machines for patten recognition[J].Data Min.Knowl.Disc.，1998，2(2)：121-167.
[7] MIAO Q Y，LI C G.Kernel least-mean mixed-norm algorithm[C].ACAI.Xiamen：IET，2012：1285-1288.
[8] TANRIKULU O，CHANBERS J A.Convergence and steadystate properties of the least-mean mixed-norm(LMMN) adaptive algorithm[J].Proc.IEE-Vis.，Image & Signal Process.，1996，143(3)：137-142.
[9] WALACH E，WIDROW B.The least mean fourth(LMF) adaptive algorithm and its family[J].IEEE Trans.Inform.Theory，1984，30(2)：275-283.