摘 要: 簡(jiǎn)要分析了徑向基函數(shù)(RBF)神經(jīng)網(wǎng)絡(luò)。在此基礎(chǔ)上,介紹了K-均值聚類算法的神經(jīng)網(wǎng)絡(luò)、C-均值聚類算法的神經(jīng)網(wǎng)絡(luò)和PAM聚類算法的神經(jīng)網(wǎng)絡(luò)三種聚類算法的RBF神經(jīng)網(wǎng)絡(luò)。展望了基于聚類的RBF神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)的發(fā)展趨勢(shì)。
關(guān)鍵詞: 聚類; RBF神經(jīng)網(wǎng)絡(luò); 發(fā)展趨勢(shì)
徑向基函數(shù)(RBF)神經(jīng)網(wǎng)絡(luò)是前向型神經(jīng)網(wǎng)絡(luò)[1],能夠以任意精度逼近于任意函數(shù)。因?yàn)镽BF網(wǎng)絡(luò)結(jié)構(gòu)相對(duì)簡(jiǎn)單、非線性逼近能力強(qiáng)和收斂速度較快,現(xiàn)在已經(jīng)廣泛應(yīng)用在工業(yè)智能控制和系統(tǒng)優(yōu)化、通信系統(tǒng)的信號(hào)以及信息處理等諸多領(lǐng)域。對(duì)該網(wǎng)絡(luò)的深入研究也越來越受到國(guó)內(nèi)外學(xué)者的共同關(guān)注。而聚類分析[2-3]是一種對(duì)數(shù)據(jù)進(jìn)行分析和建模的重要方法,即將沒有明顯規(guī)律的數(shù)據(jù)源,依據(jù)某些特性,將數(shù)據(jù)劃分到有區(qū)別的數(shù)據(jù)類中,所采用的聚類算法就是聚類分析研究的重點(diǎn)。本文綜述了三種聚類算法是如何構(gòu)造RBF神經(jīng)網(wǎng)絡(luò)。
1 RBF神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)及其原理
RBF神經(jīng)網(wǎng)絡(luò)的原理[4]是模擬人腦中局部協(xié)調(diào)和相互覆蓋接收范圍的神經(jīng)網(wǎng)絡(luò)構(gòu)造。它是一種三層前向網(wǎng)絡(luò),由輸入量到輸出量的映射存在非線性,而隱含層空間到輸出空間的映射卻是線性的,從而提高了學(xué)習(xí)速度,同時(shí)也避免了局部極小問題。RBF神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)如圖1所示。它具有n個(gè)輸入節(jié)點(diǎn)、m個(gè)隱含節(jié)點(diǎn)和1個(gè)輸出節(jié)點(diǎn)。
構(gòu)造和訓(xùn)練RBF神經(jīng)網(wǎng)絡(luò)就是要使它經(jīng)過學(xué)習(xí)來確定每個(gè)隱層神經(jīng)元基函數(shù)的中心和寬度,然后再利用最小二乘或其他方法求出隱含層到輸出層的權(quán)值向量,從而構(gòu)建出所研究系統(tǒng)的輸入到輸出的映射關(guān)系。
2 聚類的RBF神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)
對(duì)RBF神經(jīng)網(wǎng)絡(luò)來說,隱層節(jié)點(diǎn)中心和基函數(shù)寬度的初始值的確定會(huì)直接影響神經(jīng)網(wǎng)絡(luò)的收斂速度,因此選擇合適的兩個(gè)參數(shù)的初始值可以提高收斂速度,其選擇方法有很多,比如有梯度下降法、模糊理論算法和自適應(yīng)模糊等方法。而本文就是綜述K-均值聚類算法、C-均值聚類算法和PAM聚類算法,利用不同的聚類分析算法得到隱層節(jié)點(diǎn)中心和基函數(shù)寬度,從而構(gòu)造和訓(xùn)練出合適的RBF神經(jīng)網(wǎng)絡(luò)。
計(jì)算過程從一個(gè)隨機(jī)的聚類中心開始,通過尋找目標(biāo)函數(shù)的最小點(diǎn),反復(fù)調(diào)整聚類中心和各個(gè)樣本的隸屬度,在Jc的局部最小點(diǎn)處收斂,最終達(dá)到確定樣本類別。
近,即d(Pj,Ph)≥d(Pj,Pj2),則Pj2是Pj的第二最近中心點(diǎn)。此時(shí)若將Ph替換Pi作為中心點(diǎn),則Pj∈Pj2所代表的組,因此就Pj來說替換的代價(jià)為Cjih=d(Pj,Pj2)-d(Pj,Pi);
3 發(fā)展趨勢(shì)
要進(jìn)一步提高聚類算法對(duì)RBF神經(jīng)網(wǎng)絡(luò)隱層節(jié)點(diǎn)中心和基函數(shù)寬度的確定,需要優(yōu)化改進(jìn)現(xiàn)有的聚類算法,以提高學(xué)習(xí)性能。因此,出現(xiàn)了一些在原聚類算法基礎(chǔ)上改進(jìn)的聚類算法[8-10],彌補(bǔ)了樣本分析在聚類過程中存在的某些不足,將聚類算法的性能發(fā)揮得更加充分,能更有效地與RBF神經(jīng)網(wǎng)絡(luò)結(jié)合起來。
參考文獻(xiàn)
[1] 蘇美娟.徑向基函數(shù)神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法研究[D].蘇州:蘇州大學(xué),2007.
[2] CHIU S L. Fuzzy model identification based on cluster estimation[J]. Journal of Intelligent and Fuzzy System,1994,2(3):1240-1245.
[3] 滿春濤,李曉霞,張禮勇.一種基于ACO的RBF神經(jīng)網(wǎng)絡(luò)訓(xùn)練方法[J].哈爾濱理工大學(xué)學(xué)報(bào),2008,13(1):59-61,65.
[4] 劉金琨.先進(jìn)PID控制及其MATLAB仿真[M].北京:電子工業(yè)出版社,2003.
[5] 吳曉蓉.K-均值聚類算法初始中心選取相關(guān)問題的研究[D].湖南:湖南大學(xué),2008.
[6] 何迎生,段明秀.基于模糊聚類的RBF分類器的設(shè)計(jì)與實(shí)現(xiàn)[J].重慶科技學(xué)院報(bào),2009,12(2):101-103.
[7] 段明秀,孫可.基于PAM聚類方法的RBF神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)[J].沈陽(yáng)師范大學(xué)學(xué)報(bào),2009,27(4):440-443.
[8] 朱長(zhǎng)江,張纓.模糊C-均值聚類算法的改進(jìn)研究[J]. 河南大學(xué)學(xué)報(bào),2012,42(1):92-95.
[9] 李春富,鄭小青,葛銘.基于改進(jìn)聚類算法的RBF網(wǎng)絡(luò)及其應(yīng)用[J].南京工業(yè)大學(xué)學(xué)報(bào),2011,33(6):72-76.
[10] 龐振,徐蔚鴻.一種基于改進(jìn)K-means的RBF神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)方法[J].(2011-07-14).[2012-01-20]:http://www.cnki.net/kcms/detail/11.2127.TP.20110714.1550.036.html.