《電子技術(shù)應(yīng)用》
您所在的位置:首頁(yè) > 通信與網(wǎng)絡(luò) > 設(shè)計(jì)應(yīng)用 > 一種基于改進(jìn)遺傳算法的徑向基小波神經(jīng)網(wǎng)絡(luò)
一種基于改進(jìn)遺傳算法的徑向基小波神經(jīng)網(wǎng)絡(luò)
來(lái)源:微型機(jī)與應(yīng)用2012年第14期
彭 勇1,陳俞強(qiáng)1,嚴(yán)文杰2
(1.東莞職業(yè)技術(shù)學(xué)院 計(jì)算機(jī)工程系,廣東 東莞523808; 2.武漢理工大學(xué) 計(jì)算機(jī)科學(xué)與技術(shù)學(xué)
摘要: 為了提高神經(jīng)網(wǎng)絡(luò)進(jìn)行函數(shù)擬合的精度,首先在三層徑向基神經(jīng)網(wǎng)絡(luò)基礎(chǔ)上通過(guò)增加網(wǎng)絡(luò)層次和改變激勵(lì)函數(shù)提出了一種四層徑向基小波神經(jīng)網(wǎng)絡(luò),并采用遺傳算法來(lái)確定初始網(wǎng)絡(luò)參數(shù);其次針對(duì)遺傳算法中容易早熟的缺點(diǎn),在遺傳算法中引入動(dòng)態(tài)平衡策略,根據(jù)適應(yīng)度的變化來(lái)動(dòng)態(tài)改變遺傳算法中交叉和變異概率,從而增加算法全局探索和局部開發(fā)的平衡能力;最后通過(guò)對(duì)函數(shù)擬合試驗(yàn)并與其他方法相比較表明了算法的有效性。
Abstract:
Key words :

摘  要: 為了提高神經(jīng)網(wǎng)絡(luò)進(jìn)行函數(shù)擬合的精度,首先在三層徑向基神經(jīng)網(wǎng)絡(luò)基礎(chǔ)上通過(guò)增加網(wǎng)絡(luò)層次和改變激勵(lì)函數(shù)提出了一種四層徑向基小波神經(jīng)網(wǎng)絡(luò),并采用遺傳算法來(lái)確定初始網(wǎng)絡(luò)參數(shù);其次針對(duì)遺傳算法中容易早熟的缺點(diǎn),在遺傳算法中引入動(dòng)態(tài)平衡策略,根據(jù)適應(yīng)度的變化來(lái)動(dòng)態(tài)改變遺傳算法中交叉和變異概率,從而增加算法全局探索和局部開發(fā)的平衡能力;最后通過(guò)對(duì)函數(shù)擬合試驗(yàn)并與其他方法相比較表明了算法的有效性。
關(guān)鍵詞: 徑向基神經(jīng)網(wǎng)絡(luò);小波神經(jīng)網(wǎng)絡(luò);遺傳算法;動(dòng)態(tài)平衡;函數(shù)擬合


1.2 四層徑向基小波神經(jīng)網(wǎng)絡(luò)數(shù)學(xué)模型
    (1)網(wǎng)絡(luò)輸入第p個(gè)樣本對(duì)第1層第i個(gè)神經(jīng)元的輸入為:
    

2 利用改進(jìn)遺傳算法優(yōu)化四層徑向基小波神經(jīng)網(wǎng)絡(luò)
2.1 算法流程

    利用改進(jìn)遺傳算法優(yōu)化四層徑向基小波神經(jīng)網(wǎng)絡(luò),算法流程如圖2所示。

2.2 算法的改進(jìn)
    遺傳算法是一種應(yīng)用很廣泛的進(jìn)化算法,同時(shí)其又存在很多難以解決的實(shí)際問(wèn)題,包括早熟收斂和各個(gè)算子概率的選擇以及進(jìn)化后期搜索效率低。這些問(wèn)題導(dǎo)致遺傳算法把握總體的能力較強(qiáng),但局部搜索能力較差,最終結(jié)果往往不是全局最優(yōu)解[5-6]。因此,對(duì)遺傳算法的研究主要是避免早熟收斂和提高進(jìn)化后期效率。總的來(lái)看改進(jìn)方法有改進(jìn)遺傳操作、調(diào)整遺傳參數(shù)和采用混合遺傳方法等幾種。
    交叉算子和變異算子決定了遺傳算法的收斂性。交叉算子提供了全局搜索能力,而變異算子則提供了局部搜索能力[7]。在種群進(jìn)化初期,應(yīng)在種群內(nèi)大范圍地搜索,進(jìn)行全局進(jìn)化從而避免早熟收斂;到了進(jìn)化后期,種群成熟度較高,個(gè)體更加逼近最優(yōu)解,種群應(yīng)該在局部范圍內(nèi)搜索,重點(diǎn)進(jìn)化,盡可能提高精度。由此可知,交叉概率和變異概率的選擇很困難,具有很大的盲目性,要么根據(jù)遺傳算法理論中各參數(shù)的大致范圍來(lái)確定,或者根據(jù)開發(fā)者的經(jīng)驗(yàn)來(lái)決定[8-9]。這樣的選擇方法經(jīng)常會(huì)導(dǎo)致算法陷入局部最優(yōu),出現(xiàn)早熟現(xiàn)象。
    動(dòng)態(tài)平衡策略是一種平衡全局探索能力和局部進(jìn)化能力的方法。在基于動(dòng)態(tài)平衡策略的遺傳算法中,首先以較大的交叉概率pc1和較小的變異概率pm1進(jìn)行全局搜索,一旦發(fā)現(xiàn)一個(gè)較好的解,則改變?yōu)橐暂^大的變異概率pm2和較小的交叉概率pc2進(jìn)行局部搜索,如果在搜索過(guò)程中最優(yōu)解得不到改善,則再以較大的交叉概率pc1和較小的變異概率pm1進(jìn)行全局搜索。
    全局搜索主要依靠交叉算子來(lái)產(chǎn)生新個(gè)體。隨著種群的不斷進(jìn)化,種群越來(lái)越成熟,個(gè)體的相似性越來(lái)越高,交叉操作很難產(chǎn)生新的個(gè)體,這將影響算法對(duì)新的解空間進(jìn)行搜索,從而導(dǎo)致種群?jiǎn)适Ф鄻有?,這時(shí)應(yīng)加強(qiáng)個(gè)體的變異。因此,交叉概率應(yīng)隨著進(jìn)化過(guò)程逐漸變小,最后趨于某一穩(wěn)定值,防止算法不能收斂或收斂過(guò)程加長(zhǎng);同時(shí)變異概率應(yīng)當(dāng)越來(lái)越大,以避免個(gè)體出現(xiàn)未成熟收斂[10-11]。
    根據(jù)上述策略,pc1和pm1將隨著進(jìn)化代數(shù)動(dòng)態(tài)改變:
    
式中,i為進(jìn)化代數(shù),M為總進(jìn)化代數(shù),pc1max、pc1min分別為最大最小交叉概率,pm1max、pm1min分別為最大最小變異概率。
    根據(jù)適應(yīng)度的變化來(lái)改變交叉和變異概率,也就是進(jìn)行全局搜索和局部?jī)?yōu)化的切換。假設(shè)以最大化適應(yīng)度為目標(biāo),歷代最好適應(yīng)度為gbest,當(dāng)代最好適應(yīng)度為fbest,以兩者的比值g=fbest/gbest來(lái)改變交叉和變異概率,如果g>k,則進(jìn)行局部?jī)?yōu)化,優(yōu)化代數(shù)為num代,交叉概率和變異概率分別取為pc1、pm1;如果g<k,且局部?jī)?yōu)化num代未完成,交叉概率和變異概率分別取為pc2、pm2,否則按式(1)更新交叉和變異概率。其中k∈[0,1]為系數(shù)。
3 算法有效性驗(yàn)證
    為了驗(yàn)證改進(jìn)算法的性能,本文選擇函數(shù)擬合進(jìn)行仿真實(shí)驗(yàn),并將實(shí)驗(yàn)結(jié)果與其他優(yōu)化方法的計(jì)算結(jié)果進(jìn)行比較。為了方便描述,本文算法簡(jiǎn)寫為IGWRN算法,選取參考文獻(xiàn)[11]中提出的經(jīng)遺傳算法優(yōu)化的BP神經(jīng)網(wǎng)絡(luò)(簡(jiǎn)稱為GABP算法)與參考文獻(xiàn)[12]中提出的三層徑向基小波神經(jīng)網(wǎng)絡(luò)算法(簡(jiǎn)稱為WRBF算法)作比較,假定函數(shù)為:
    
  

 

 

    從圖3和圖4可以看出,本文提出的IGWRN算法相對(duì)于GABP和WRBF算法在擬合精度上有了較大提高。IGWRN算法運(yùn)行過(guò)程中,其迭代次數(shù)與GABP相比有所增加,主要原因是IGWRN算法在發(fā)現(xiàn)較好解之后要進(jìn)行局部搜索,由此降低了交叉概率,從而使得種群中產(chǎn)生較好新個(gè)體的可能性變小,特別是在進(jìn)化早期,對(duì)算法的影響更大。
參考文獻(xiàn)
[1] 褚衍賀,陳洪建,商艷蘭.RBF神經(jīng)網(wǎng)絡(luò)在變速箱齒輪故障診斷中的應(yīng)用[J].微型機(jī)與應(yīng)用,2010,29(17):94-97.
[2] 楊超,王志偉.經(jīng)GA優(yōu)化的WNN在交通流預(yù)測(cè)中的應(yīng)用[J].計(jì)算機(jī)工程,2011,37(14):149-151.
[3] BUHMANN M D.Radial basis functions on compact support[C].Proceedings of the Edinburgh Mathematical Society,1998:33-46.
[4] SHAHIDEHPOUR M,YAMIN H,Li Zuyi.Market operations in electric power systems[M].John Wiley&Sons,Inc.,2002:69-76.
[5] 董福貴,張世英,譚忠富,等.基于遺傳算法的小波神經(jīng)網(wǎng)絡(luò)在電價(jià)預(yù)測(cè)中的應(yīng)用[J].計(jì)算機(jī)工程,2005,31(4):32-33.
[6] SZU H,CAULFIELD H J.Special section on wavelet  transforms[J].Opt Eng,1992,31(9):1823-1916.
[7] 張圓圓,景曉軍.基于快速遺傳算法的指紋匹配[J].計(jì)算機(jī)工程,2011,37(24):13-15.
[8] 斯蕓蕓,徐道連,周卓然.基于遺傳算法和小波神經(jīng)網(wǎng)絡(luò)的語(yǔ)音識(shí)別研究[J].微型機(jī)與應(yīng)用,2011,30(16):68-71.
[9] 任遠(yuǎn),白廣忱.徑向基神經(jīng)網(wǎng)絡(luò)在近似建模中的應(yīng)用研究[J].計(jì)算機(jī)應(yīng)用,2009,29(1):115-118.
[10] 雷霆,余鎮(zhèn)危.一種網(wǎng)絡(luò)流量預(yù)測(cè)的小波神經(jīng)網(wǎng)絡(luò)模型[J].計(jì)算機(jī)應(yīng)用,2006,26(3):526-528.
[11] 馮楠,王振臣.基于遺傳算法和BP神經(jīng)網(wǎng)絡(luò)的電池容量預(yù)測(cè)[J].電源技術(shù),2011,35(12):1586-1588.
[12] 李偉.基于小波變換和徑向基神經(jīng)網(wǎng)絡(luò)的簽名識(shí)別[J].洛陽(yáng)理工學(xué)院學(xué)報(bào)(自然科學(xué)版),2011,21(1):65-68.

此內(nèi)容為AET網(wǎng)站原創(chuàng),未經(jīng)授權(quán)禁止轉(zhuǎn)載。