0 引言

    自適應(yīng)濾波技術(shù)被廣泛地應(yīng)用在信號(hào)處理和機(jī)器學(xué)習(xí)的許多不同的領(lǐng)域，如信道估計(jì)、噪聲消除和系統(tǒng)辨識(shí)等。濾波器算法設(shè)計(jì)是更新濾波器的參數(shù)使其盡可能更接近理想響應(yīng)^[1]。自適應(yīng)濾波器的優(yōu)化準(zhǔn)則和代價(jià)函數(shù)是濾波器設(shè)計(jì)的核心。常見(jiàn)的優(yōu)化準(zhǔn)則或代價(jià)函數(shù)分別是最小均方差(Minimum Mean Square Error，MMSE)準(zhǔn)則、最小誤差熵(Minimum Error Entropy，MEE)代價(jià)函數(shù)和最大相關(guān)熵準(zhǔn)則(Maximum Correntropy Criterion，MCC)^[2]。MMSE準(zhǔn)則的代表算法為最小均方算法(Least Mean Square，LMS)。LMS算法因?yàn)槠漭^低的復(fù)雜度和計(jì)算量，所以常適用于線性和高斯噪聲的情況。MEE代價(jià)函數(shù)在非高斯噪聲和非線性結(jié)構(gòu)中表現(xiàn)出了很強(qiáng)的魯棒性，并且具有表征數(shù)據(jù)整個(gè)結(jié)構(gòu)的能力。但是，它的計(jì)算復(fù)雜度相當(dāng)大。MCC代價(jià)函數(shù)由于權(quán)重更新中指數(shù)部分的存在，使得在脈沖干擾和非線性系統(tǒng)中表現(xiàn)出很強(qiáng)的魯棒性，并且有著與LMS相近的復(fù)雜度和與MEE相近的性能。因此，本文采取的自適應(yīng)準(zhǔn)則為MCC。

    MCC是采用核心寬度來(lái)決定局部量，它對(duì)出界量和脈沖噪聲造成的有害影響有很好的抑制效果。在文獻(xiàn)[3]中，研究者已經(jīng)介紹最大相關(guān)熵的本質(zhì)就是一種平滑的后驗(yàn)估計(jì)。在文獻(xiàn)[2]、[4]中，介紹了MCC被引入到自適應(yīng)濾波器中在非高斯噪聲下可以有效地提高追蹤能力。同時(shí)，在文獻(xiàn)[5]也對(duì)MCC的穩(wěn)態(tài)均方差性能進(jìn)行了詳細(xì)的推導(dǎo)。

    眾所周知，自適應(yīng)濾波器中最重要的矛盾就是收斂速度與失衡量之間的矛盾，即收斂速度與失衡量成反比。這種矛盾在基于MCC的自適應(yīng)濾波器中也不例外。在基于最大相關(guān)熵的自適應(yīng)濾波器中，收斂速度由步長(zhǎng)與kernel寬度決定。當(dāng)kernel寬度一定時(shí)，濾波器的步長(zhǎng)越大收斂速度越快，但失調(diào)量也越高；步長(zhǎng)越小失調(diào)量越低，但收斂速度越慢。為了解決這個(gè)問(wèn)題，文獻(xiàn)[6]將最近比較流行的凸組合方式引入到最大相關(guān)熵自適應(yīng)濾波器中，使得組合濾波器不僅得到了大步長(zhǎng)的濾波器快收斂速度，還得到了小步長(zhǎng)的濾波器的低失調(diào)量。但是在CMCC濾波器中，由于兩個(gè)濾波器的步長(zhǎng)選取的問(wèn)題，從而導(dǎo)致組合濾波器的收斂和追蹤性能下降。

    基于上述討論，本文提出了基于最大相關(guān)熵的多凸組合濾波器。在MCMCC濾波器中，每個(gè)基于MCC的自適應(yīng)濾波器都表現(xiàn)出很好的追蹤性能，所以MCMCC可以有效地追蹤各種各樣的改變。

1 基于最大相關(guān)熵的凸組合自適應(yīng)濾波器

    根據(jù)自適應(yīng)算法的隨機(jī)梯度原則，基于最大相關(guān)熵的權(quán)重系數(shù)更新方程為^[7]：

其中，y₁(k)=X^TW₁(k)和y₂(k)=X^TW₂(k)分別表示大步長(zhǎng)濾波器和小步長(zhǎng)濾波器的輸出。大步長(zhǎng)濾波器和小步長(zhǎng)濾波器的權(quán)重分別表示為：

其中，e(k)=d(k)-y(k)表示組合誤差；μ_α表示參數(shù)α(k)在基于最大相關(guān)熵準(zhǔn)則下的步長(zhǎng)，并且μ_α必須設(shè)定為遠(yuǎn)大于λ₁，以保證組合濾波器的自適應(yīng)速度快于大步長(zhǎng)的濾波器的自適應(yīng)速度；α(k)的取值范圍限定在[-4，4]，以防止v(k)和1-v(k)接近0而導(dǎo)致算法停止^[12]。

    同時(shí)，基于MCC的凸組合濾波器的性能還可以繼續(xù)被優(yōu)化，通過(guò)引入權(quán)重轉(zhuǎn)移的方法。該方法是用步長(zhǎng)大的濾波器的權(quán)重去加速步長(zhǎng)小的濾波器的權(quán)重^[6]。

2 多凸組合的最大相關(guān)熵的自適應(yīng)濾波器

    由以上的分析可知，凸組合自適應(yīng)濾波器是凸組合兩個(gè)步長(zhǎng)不同的濾波器。多凸組合濾波器就是把多個(gè)步長(zhǎng)不同的濾波器進(jìn)行凸組合。本文所提到的基于最大相關(guān)熵的多凸組合自適應(yīng)濾波器就是多個(gè)步長(zhǎng)不同的基于最大相關(guān)熵準(zhǔn)則的濾波器進(jìn)行凸組合。多凸組合的濾波器模型如圖2所示。接下來(lái)介紹基于最大相關(guān)熵的多凸組合濾波器的各個(gè)參數(shù)的設(shè)定。

    假設(shè)采用的濾波器個(gè)數(shù)為L(zhǎng)，它們的步長(zhǎng)是從大到小排列(μ₁>μ₂>…>μ_L)。考慮L個(gè)基于最大相關(guān)熵的自適應(yīng)濾波器的凸組合，可以得出組合濾波器的輸出為^[13]：

    組合濾波器的權(quán)重為：

    類(lèi)似于CMCC濾波器，基于MCC的多凸組合濾波器的性能也可以繼續(xù)被優(yōu)化，通過(guò)引入改進(jìn)后的權(quán)重轉(zhuǎn)移的方法。該方法是用組合的濾波器的權(quán)重去加速其他所有比組合濾波器收斂速度慢的濾波器的權(quán)重。第i個(gè)濾波器改進(jìn)后的權(quán)重為：

其中，β是轉(zhuǎn)移系數(shù)。使用式(13)的條件是組合濾波器明顯優(yōu)于部分濾波器。判斷組合濾波器明顯優(yōu)于部分濾波器的方法是計(jì)算每個(gè)濾波器的相關(guān)熵的估計(jì)量。相關(guān)熵的估計(jì)量的計(jì)算為：

3 仿真結(jié)果

    綜上所述，可知隨著凸組合濾波器個(gè)數(shù)的增加，收斂性能和追蹤性能也會(huì)越來(lái)越好。但是在濾波器個(gè)數(shù)增加的同時(shí)，計(jì)算量也會(huì)線性地增長(zhǎng)，所以為了更好地表現(xiàn)MCMCC的性能同時(shí)又不會(huì)造成計(jì)算量的急劇增加，本文的仿真結(jié)果采用的是4個(gè)濾波器進(jìn)行凸組合。

    為了進(jìn)一步驗(yàn)證MCMCC算法的收斂性能與跟蹤性能,現(xiàn)將MCMCC算法與CMCC算法用于系統(tǒng)辨識(shí)過(guò)程中進(jìn)行計(jì)算機(jī)仿真分析,并分別對(duì)兩種算法進(jìn)行1 000次獨(dú)立仿真實(shí)驗(yàn),求取統(tǒng)計(jì)平均值。同時(shí),為能夠客觀比較系統(tǒng)失調(diào)等性能參數(shù),兩種算法的參數(shù)均選為經(jīng)過(guò)大量實(shí)驗(yàn)后的相對(duì)最優(yōu)參數(shù)。其中CMCC算法的相關(guān)參數(shù)選擇如下：取μ₁=0.1，μ₄=0.002；對(duì)于本文提出的MCMCC算法,與原算法重合部分的參數(shù)仍取原參數(shù)不變，即μ₁=0.1，μ₄=0.002，同時(shí)選擇其他兩個(gè)濾波器的步長(zhǎng)為：μ₂=0.03，μ₃=0.01。

    在本文中，性能的分析是通過(guò)歸一化均方差(Normalized Mean Square Deviation，NMSD)來(lái)判定，其表示為：NMSD=10log₁₀(||W-W₀||₂/||W₀||₂)。下面在混合高斯噪聲和突變的系統(tǒng)辨識(shí)中比較MCMCC性能和CMCC性能。

3.1 混合高斯噪聲下的性能

    假設(shè)未知系統(tǒng)沖激響應(yīng)滿足7階FIR模型，4個(gè)MCC自適應(yīng)濾波器的階數(shù)也為7階，理想輸出為：d(k)=W₀^TX(k)+N(k)，其中本文設(shè)定W₀=[0.9003，0.5377，-0.2137，0.028，-0.7826，-0.5242，0.0871]′；輸入信號(hào)X(k)為均值0、方差1的高斯白噪聲序列；噪聲信號(hào)N(k)為混合高斯噪聲：

    從圖3的3幅圖還可以明顯地看出，在收斂過(guò)程最初始的階段，分別是圖3(a)的(0，67)、圖3(b)的(0，50)、圖3(c)的(0，21)，4-MCMCC和CMCC的收斂曲線重合。這是因?yàn)樵诔跏茧A段，權(quán)重系數(shù)發(fā)生快速的變化，而4-MCMCC和CMCC都是μ₁在起作用。在收斂過(guò)程中間階段，分別是圖3(a)的(67，983)、圖3(b)的(50，1021)、圖3(c)的(21，1091)，4-MCMCC算法的收斂速度明顯快于CMCC算法。這是因?yàn)?-MCMCC算法比CMCC算法具有更多的步長(zhǎng)，可以更靈活地調(diào)節(jié)步長(zhǎng)，所以可以更適應(yīng)權(quán)重系數(shù)的變化，從而獲得更快的收斂速度。在收斂過(guò)程進(jìn)入穩(wěn)態(tài)階段時(shí)，4-MCMCC算法要比CMCC算法更快地進(jìn)入穩(wěn)態(tài)狀態(tài)，并且4-MCMCC算法也具有低NMSD,這說(shuō)明4-MCMCC算法可以用更少的迭代次數(shù)就收斂并且保持同CMCC算法一樣的低NMSD，因此極大地縮小了系統(tǒng)漸進(jìn)穩(wěn)態(tài)的過(guò)渡過(guò)程。

3.2 突變環(huán)境下的性能

    為了比較兩種算法在權(quán)重突變環(huán)境下的收斂性能和跟蹤性能，使系統(tǒng)的權(quán)重系數(shù)w₀在3 000步時(shí)改變?yōu)?w₀，把噪聲參數(shù)固定為(0，0，0.001，10，0.1)。從而得到4-MCMCC算法和CMCC的收斂曲線，如圖4所示。從圖4中可以看出，在1 049步之前的初始階段，4-MCMCC算法的收斂速度明顯快于CMCC算法的收斂速度，并且有著更低的NMSD；然后，4-MCMCC在1 049步時(shí)就進(jìn)入穩(wěn)定狀態(tài)，所以4-MCMCC比CMCC更早進(jìn)入穩(wěn)定狀態(tài)；當(dāng)在3 000步時(shí)，權(quán)重系數(shù)發(fā)生變化從w₀到-w₀，4-MCMCC以比CMCC更快的收斂速度收斂,最后穩(wěn)定到與CMCC同樣的NMSD。這說(shuō)明4-MCMCC比CMCC有著更好的再收斂性能和追蹤性能。這是因?yàn)楫?dāng)w₀在3 000步改變?yōu)?w₀時(shí)，產(chǎn)生了很大的權(quán)重偏差，而4-MCMCC算法有著4個(gè)不同的步長(zhǎng)，可以根據(jù)偏差盡快地調(diào)節(jié)自身的4個(gè)步長(zhǎng)按照不同的比例來(lái)收斂。但是CMCC只有兩個(gè)步長(zhǎng)，它的步長(zhǎng)調(diào)節(jié)有限，所以MCMCC比CMCC在權(quán)重改變時(shí)有著更好的再收斂能力和追蹤能力。

4 結(jié)論

    為了克服CMCC算法中步長(zhǎng)范圍窄而導(dǎo)致收斂性能和追蹤性能低的缺點(diǎn)，本文嘗試將基于最大相關(guān)熵的凸組合濾波器擴(kuò)展為基于最大相關(guān)熵的多凸組合濾波器。理論分析和仿真結(jié)果表明，MCMCC算法在混合高斯噪聲下，相比CMCC算法，不僅提高了收斂速度，而且還保持了低的失調(diào)量。 MCMCC算法在突變權(quán)重環(huán)境下，相比CMCC算法，因?yàn)榭梢愿`活地調(diào)節(jié)多個(gè)步長(zhǎng)比重，所以提高了再收斂能力和追蹤能力。因此，本算法在系統(tǒng)識(shí)別方面具有較大的實(shí)際應(yīng)用價(jià)值。

參考文獻(xiàn)

[1] WANG R，Chen Badong.A variable step-size adaptive algorithm under maximum correntropy criterion[C].IEEE International Conference on Acoustic，Speech and Signal Processing(ICASSP)，2015：1-5.

[2] SINGH A，PRINCIPE J C.Using correntropy as a cost function in linear adaptive filters[C].International Joint Conference on Neural Networks，Piscataway，2009：2950-2955.

[3] CHEN B，PRINCIPE J C.Maximum correntropy estimation is a smoothed MAP estimation[J].IEEE Signal Processing Letters，2012，19(8)：491-494.

[4] ZHAO S，CHEN B，PRINCIPE J C.Kernel adaptive filtering with maximum correntropy criterion[C].Proceedings of International Joint Conference on Neural Networks，Piscataway，2011：2012-2017.

[5] CHEN B，XING L，LIANG J，et al.Steady-state mean-square error analysis for adaptive filtering under the maximum correntropy criterion[J].IEEE Signal Processing Letters，2014，21(11)：880-884.

[6] Shi Liming.Convex combination of adaptive filters under the maximum correntropy criterion in impulsive interference[J].IEEE Signal Process Letters，2014，21(11)：1385-1388.

[7] GUIMARAES J P F，F(xiàn)ONTES A I R，RLGO J B A，et al.Performance evaluation of the maximum correntropy criterion in identification systems[C].IEEE Conference on Evolving and Adaptive Intelligent Systems，2016：110-113.

[8] LIU W，POKHAREL P，PRINCIPE J.Error entropy，correntropy and m-estimation[C].IEEE International Workshop on Machine Learning for Signal Processing，2006：179-184.

[9] ARENAS-GARCIA J，F(xiàn)IGUEIRAS-VIDAL A R，SAYED A H.Steady state performance of convex combinations of adaptive filters[C].International Conference on Acoustics，Speech and Signal Processing，2005：33-36.

[10] SHI L M，LIN Y，XIE X Z.Combination of affine projection sign algorithms for robust adaptive filtering in non-Gaussian impulsive interference[J].Electronics Letters，2014，50(6)：466-467.

[11] FERRER M.Convex combination filtered-x algorithms for active noise control systems[J].IEEE Transaction on Audio Speech and Language Processing，2013，21(1)：156-167.

[12] ARENAS-GARCIA J，GOMEZ-VERDEJO V，F(xiàn)IGUEIRAS-VIDAL A R.New algorithms for improved adaptive convex combination of LMS transversal  filters[J].IEEE Transaction，2005，54(6)：2239-2249.

[13] ARENAS-GARCIA J，MARTINEZ-RAMIN M，GOMEZ-VERDEJO V，et al.Multiple plant identifier via adaptive LMS convex combination[C].IEEE International Symposium on Intelligent Signal Processing，2003：137-142.

作者信息:

吳文靜，梁中華，羅倩文，李  巍

（長(zhǎng)安大學(xué) 信息工程學(xué)院，陜西 西安710064）