文獻標識碼: A
DOI:10.16157/j.issn.0258-7998.2016.02.021
中文引用格式: 林云,雷洋,曾俊俊. 抗沖擊噪聲的核對數(shù)最小絕對差算法[J].電子技術(shù)應(yīng)用,2016,42(2):78-80,84.
英文引用格式: Lin Yun,Lei Yang,Zeng Junjun. Kernel least logarithmic absolute difference algorithm aganist impulsive noise[J].Application of Electronic Technique,2016,42(2):78-80,84.
0 引言
該方法作為解決非線性問題的有效手段得到了全面的關(guān)注和研究,它的原理是把輸入信號映射到高維的特征空間中,在高維的特征空間里再進行線性運算[1],從而解決非線性問題。核方法不需要知道映射的具體形式,只需要確定變換后內(nèi)積的核函數(shù)的形式?;谧钚【秸`差(LMS)算法的核最小均方誤差(KLMS)算法已經(jīng)被證明能夠在有高斯噪聲的環(huán)境下很好地解決非線性問題[2],而在實際應(yīng)用中往往會存在著非高斯沖擊噪聲[3],因而KLMS算法的性能會受到很大的影響。在線性算法中,用對數(shù)作為代價函數(shù)的最小對數(shù)絕對差(LLAD)算法被用來解決這種存在非高斯噪聲的問題[4]。文獻[4]中的實驗結(jié)果表明, 最小對數(shù)絕對差(LLAD)算法和傳統(tǒng)的最小均方誤差(LMS)算法相比,前者具有很好的抗沖擊干擾能力,但是LLAD算法僅僅適用于線性系統(tǒng)。本文將LLAD算法引入到核空間中,提出核最小對數(shù)絕對差(KLLAD)算法,以此來解決存在非高斯噪聲的非線性問題,由于KLLAD算法以對數(shù)作為代價函數(shù),能夠降低測量誤差e(i)對算法更新的影響,所以它在魯棒性和收斂方面都有很好的表現(xiàn)。
1 KLMS和LLAD自適應(yīng)濾波算法
1.1 KLMS算法
Mercer核是一個連續(xù)、對稱、正定的核函數(shù)κ:Rm×Rm→R[5],常用的核函數(shù)包括高斯核和多項式核,本文使用的高斯核定義如下:
其中h是核參數(shù),根據(jù)Mercer的理論研究,任何核函數(shù)κ(u,u′)都可以通過映射φ以內(nèi)積的形式把輸入空間U映射到高維特征空間F(內(nèi)積空間)中[6],其數(shù)學(xué)表達式如下 :
如果定義φ(u)=κ(u,·),則特征中空間F本質(zhì)上也是一個核再生希伯特空間,KLMS算法實質(zhì)上就是在特征空間F中的線性LMS算法[2]。首先,通過映射φ將輸入信號u(i)映射到特征空間F中后變成φ(u(i)),定義φ(i)=φ(u(i)),然后對新的輸入數(shù)列{φ(i),d(i)}應(yīng)用LMS算法可以得到:
其中,e(i)是第i次的預(yù)測誤差,η是步長,w(i)是對特征空間中對自適應(yīng)濾波器抽頭矢量的估計。由式(3)可以看出,KLMS算法本質(zhì)上是在高緯特征空間中的線性LMS算法,是解決非線性問題的有效手段,有著非常廣泛的應(yīng)用。
1.2 LLAD算法
在傳統(tǒng)的LMS算法中,定義輸入信號為u(i),期望輸出為d(i),濾波器輸出為y(i),誤差信號e(i)=d(i)-y(i)=d(i)-w(i)Tu(i),w(i)是自適應(yīng)濾波器的抽頭系數(shù)矢量,最常見的代價函數(shù)是E(e(i)2),通過減少代價函數(shù)來逼近待辨識的系統(tǒng),而在LLAD算法中應(yīng)用對數(shù)作為代價函數(shù)[4]:
當(dāng)式(5)=0時,代價函數(shù)便取得最優(yōu)解,其中a為設(shè)計的參數(shù)且a>0,因此LLAD算法的自適應(yīng)濾波器的抽頭矢量更新表達式變?yōu)椋?/p>
其中μ為步長參數(shù)。
分析式(6)可知,當(dāng)e(i)很大時算法更新近似于符號(SA)算法,當(dāng)e(i)很小時,算法更新近似于傳統(tǒng)的LMS算法。因此LLAD算法綜合了LMS和SA兩種算法[4],與LMS算法相比具有很好的抗沖擊噪聲性能,與SA算法相比具有更好的收斂性能。
2 KLLAD自適應(yīng)濾波算法
最小對數(shù)絕對差(LLAD)算法雖然具有很好的抗沖擊噪聲性能和收斂性能,但其只適用于線性系統(tǒng),并不能直接用來解決非線性問題,因此本文在LLAD算法的基礎(chǔ)上提出KLLAD算法,在核空間中應(yīng)用LLAD算法,把LLAD算法推廣到核空間來解決非線性問題,并用系統(tǒng)辨識來驗證其魯棒性和收斂性能。
首先,通過映射φ將輸入信號u(i)映射到特征空間F中后變成φ(u(i)),定義φ(i)=φ(u(i)),然后對新的輸入數(shù)列{φ(i),d(i)}應(yīng)用LLAD算法可以得到KLLAD算法,KLLAD算法第i次的預(yù)測誤差:
由式(4)可以得出KLLAD算法的代價函數(shù)為:
如果或者 F(e(i))=0,則對數(shù)代價函數(shù)可以取得最優(yōu)解,所以對數(shù)代價函數(shù) J(e(i))的最優(yōu)解與代價函數(shù) F(e(i))的最優(yōu)解是一致的[4]。由于 F(e(i))=E(|e(i)|),利用式(6)可以得出:
綜上所述,KLLAD算法本質(zhì)上是在特征空間中的LLAD算法,所以其具有LLAD算法的魯棒性。
3 實驗仿真結(jié)果分析
系統(tǒng)辨識是自適應(yīng)濾波器的一個重要應(yīng)用,本文用非線性系統(tǒng)辨識來驗證KLLAD算法的性能,定義系統(tǒng)噪聲由高斯噪聲和非高斯沖擊噪聲線性組合而成,系統(tǒng)噪聲混入期望信號對期望信號產(chǎn)生干擾,實驗中分別用KLLAD、KLMS和LLAD三種算法來對該未知系統(tǒng)進行逼近,并對比三種算法的魯棒性和收斂性。
非線性系統(tǒng)由一個線性信道和一個非線性信道組合而成[7],其中線性信道選擇為:H(z)=1+0.2z-1,非線性信道為:y=x-0.9x2,其中x為線性信道的輸出。定義非高斯沖擊噪聲表示為Ki Ai,Ki是一個伯努利過程且p(Ki=1)=pr,Ai是零均值的高斯過程,系統(tǒng)噪聲n(i)由一個方差為σ2的白高斯噪聲和沖擊噪聲Ki Ai組成[8,9],在實驗中KLLAD算法的參數(shù)設(shè)定為:核參數(shù)h=0.1,σ2=0.4,a=5[4],μ=0.1;KLMS算法中σ2=0.4,μ=0.05;LLAD算法中σ2=0.4,μ=0.01。三種算法的訓(xùn)練數(shù)據(jù)是1 000,測試數(shù)據(jù)是100,學(xué)習(xí)曲線取計算30次的平均值。三種算法的性能對比如圖1、圖2和圖3所示。其中圖1是沒有非高斯沖擊噪聲的環(huán)境,即pr=0;圖2是存在5%的非高斯沖擊噪聲的情況(pr=0.05,Ai=150);圖3是存在很大單點非高斯沖擊噪聲的情況(A500=1 500)。
從圖1可以看出:在沒有沖擊噪聲的環(huán)境下,KLLAD(μ=0.1)算法和KLMS算法(μ=0.05)具有相近的穩(wěn)態(tài)誤差,而且KLLAD算法收斂速度比KLMS要快;與LLAD算法(μ=0.01)相比,KLLAD算法的穩(wěn)態(tài)誤差要遠遠低于LLAD算法,由此也證明了LLAD算法不適用于非線性系統(tǒng),表明了提出KLLAD算法的必要性。從圖2可以看出:在存在非高斯沖擊噪聲的環(huán)境里,KLLAD算法與LLAD都有很好的魯棒性,能夠避免沖擊噪聲對算法更新迭代的影響,使算法具有穩(wěn)定性;但是KLMS算法由于受到系統(tǒng)非高斯沖擊噪聲的影響,穩(wěn)態(tài)誤差波動較大,其收斂性能大大降低,KLLAD算法要優(yōu)于KLMS算法。圖3是在第500次迭代時出現(xiàn)一個很大的非高斯沖擊噪聲,從圖中可以看出:在500次迭代時該沖擊噪聲對KLLAD和LLAD算法并無影響,而KLMS算法在i=500時出現(xiàn)了較大的波動,產(chǎn)生了較大的誤差,在非高斯沖擊噪聲消失后,KLMS算法又會收斂于一個較低的穩(wěn)態(tài)誤差,其結(jié)果更進一步驗證了KLLAD算法的魯棒性和KLMS算法的局限性,在有非高斯沖擊的環(huán)境下KLLAD算法要遠遠優(yōu)于KLMS算法。
4 結(jié)論
本文提出的核最小對數(shù)絕對差(KLLAD)算法是將最小絕對差(LLAD)算法與核方法相結(jié)合而形成的新的算法,由于KLLAD算法使用對數(shù)作為代價函數(shù),有效降低了測量誤差e(i)對算法更新迭代的影響[4],使算法更具穩(wěn)定性,以此來解決存在非高斯沖擊噪聲的非線性問題,從系統(tǒng)辨識的實驗仿真結(jié)果來看,在存在非高斯沖擊噪聲的環(huán)境里KLLAD算法與LLAD算法、KLMS算法相比,前者確實具有很好的魯棒性和收斂性能。
參考文獻
[1] LIU W,PRINCIPLE J C,HAYKIN S.Kernel adaptive filtering:a comprehensive introdtion[M].Hoboken,NJ,USA:Wiley,2010.
[2] LIU W,POKHAREL P P,PRINCIPLE J C.The kernel least-mean-square algorithm[J].IEEE Trans.Signal Process.,2008,56(2):543-554.
[3] CHAMBERS J,AVLONITIS A.A robust mixed-norm adaptive filter algorithm[J].IEEE Signal Process.,1997,4(2):46-48.
[4] SAYIN M O,VANLI N D,KOZAT S S.A novel family of adaptive filtering based on logarithmic cost[J].IEEE Trans.Signal Process.,2014,62(17):4411-4424.
[5] ARONSZAJN N.Theory of reproducing kernels[J].Trans.Amer.Math,Soc.,1950,68(3):337-404.
[6] BURGES C J C.A tutorial on support vecter machines for patten recognition[J].Data Min.Knowl.Disc.,1998,2(2):121-167.
[7] MIAO Q Y,LI C G.Kernel least-mean mixed-norm algorithm[C].ACAI.Xiamen:IET,2012:1285-1288.
[8] TANRIKULU O,CHANBERS J A.Convergence and steadystate properties of the least-mean mixed-norm(LMMN) adaptive algorithm[J].Proc.IEE-Vis.,Image & Signal Process.,1996,143(3):137-142.
[9] WALACH E,WIDROW B.The least mean fourth(LMF) adaptive algorithm and its family[J].IEEE Trans.Inform.Theory,1984,30(2):275-283.