摘  要： 小波神經(jīng)網(wǎng)絡(luò)算法（WNN）易陷入局部極小，收斂速度慢，全局搜索能力弱，而遺傳算法（GA）具有高度并行、隨機(jī)、自適應(yīng)搜索性能和全局尋優(yōu)的特點(diǎn)。因此,將遺傳算法和小波神經(jīng)網(wǎng)絡(luò)結(jié)合起來形成一種訓(xùn)練神經(jīng)網(wǎng)絡(luò)的混合算法——GA-WNN算法。仿真實(shí)驗(yàn)結(jié)果表明，該算法有效地縮短了識(shí)別時(shí)間，提高了網(wǎng)絡(luò)訓(xùn)練速度和語(yǔ)音的識(shí)別率。
關(guān)鍵詞： 語(yǔ)音識(shí)別；小波神經(jīng)網(wǎng)絡(luò)；遺傳算法；GA-WNN

   語(yǔ)音識(shí)別是要讓機(jī)器“聽懂”人類的語(yǔ)音并做出正確的反應(yīng)，其終極目標(biāo)是實(shí)現(xiàn)人類與機(jī)器的自然交流。隨著科學(xué)技術(shù)的發(fā)展，語(yǔ)音識(shí)別技術(shù)正逐步形成一套比較完整的理論體系，其實(shí)用產(chǎn)品也相繼推出。
    現(xiàn)代語(yǔ)音識(shí)別技術(shù)以人工神經(jīng)網(wǎng)絡(luò)（ANN）為主要發(fā)展趨勢(shì)，自上世紀(jì)90年代，神經(jīng)網(wǎng)絡(luò)已經(jīng)成為語(yǔ)音識(shí)別的一條重要途徑[1]。目前具有代表性的神經(jīng)網(wǎng)絡(luò)主要有BP神經(jīng)網(wǎng)絡(luò)和RBF神經(jīng)網(wǎng)絡(luò)。為了提高網(wǎng)絡(luò)訓(xùn)練速度和語(yǔ)音識(shí)別的識(shí)別率，神經(jīng)網(wǎng)絡(luò)模型不斷地被優(yōu)化。小波神經(jīng)網(wǎng)絡(luò)（WNN）是BP神經(jīng)網(wǎng)絡(luò)的一種優(yōu)化模型，它采用小波函數(shù)作為激勵(lì)函數(shù)，具有以下一些優(yōu)點(diǎn)：(1)高度的并行性；(2)高度的非線性映射功能；(3)十分強(qiáng)的自適應(yīng)功能；(4)良好的容錯(cuò)性和聯(lián)想記憶功能；(5)小波函數(shù)具有時(shí)頻局部特性和變焦特性[2]。目前神經(jīng)網(wǎng)絡(luò)方法對(duì)網(wǎng)絡(luò)隱層節(jié)點(diǎn)數(shù)、連接權(quán)值（包括閾值）以及學(xué)習(xí)率的依賴性較大，容易導(dǎo)致陷入局部極小、收斂速度慢，甚至不收斂的狀況。而遺傳算法具有很強(qiáng)的宏觀搜索能力，能以較大的概率找到全局最優(yōu)解[3,4]。為了克服神經(jīng)網(wǎng)絡(luò)的不足，本文將兩者結(jié)合在一起，提出了一種訓(xùn)練神經(jīng)網(wǎng)絡(luò)的混合算法——GA－WNN算法。
1 語(yǔ)音識(shí)別的基本原理
    語(yǔ)音識(shí)別系統(tǒng)實(shí)質(zhì)上是一種模式識(shí)別系統(tǒng)，與常規(guī)模式識(shí)別系統(tǒng)一樣包括特征提取、模式匹配、參考模式庫(kù)等三個(gè)基本單元?；谏窠?jīng)網(wǎng)絡(luò)的語(yǔ)音識(shí)別系統(tǒng)識(shí)別功能要經(jīng)過從特征參數(shù)提取到應(yīng)用識(shí)別算法進(jìn)行識(shí)別的過程，它的系統(tǒng)原理框圖如圖１所示。

    由圖1可知，要進(jìn)行語(yǔ)音識(shí)別，首先要對(duì)輸入的語(yǔ)音信號(hào)進(jìn)行預(yù)處理。預(yù)處理主要包括預(yù)加重、加窗、分幀和端點(diǎn)檢測(cè)等過程。
    (1)預(yù)加重：預(yù)加重的主要目的是提升語(yǔ)音信號(hào)中的高頻部分進(jìn)而減小噪聲(主要是50 Hz或60 Hz的工頻干擾)，提高信噪比。本文選擇用預(yù)加重?cái)?shù)字濾波器來實(shí)現(xiàn)對(duì)語(yǔ)言信號(hào)的預(yù)加重，若S(n)為預(yù)加重前語(yǔ)音信號(hào),則經(jīng)過預(yù)加重濾波器的信號(hào)R(n)為:
    
    (2)加窗和分幀：語(yǔ)音信號(hào)隨時(shí)間變化而變化，研究表明語(yǔ)音信號(hào)通?？梢约俣槎虝r(shí)平穩(wěn)，通常認(rèn)為在10 ms～30 ms時(shí)間長(zhǎng)度內(nèi)是相對(duì)平穩(wěn)的。分幀可用窗函數(shù)乘以語(yǔ)音信號(hào)來形成加窗的語(yǔ)音信號(hào)。本文選用漢明窗(Hamming)作為加窗函數(shù)，用漢明窗將語(yǔ)音切割成長(zhǎng)短一致的語(yǔ)音幀，每幀語(yǔ)音采樣點(diǎn)數(shù)為256點(diǎn)，幀移為128點(diǎn)。
    (3)端點(diǎn)檢測(cè)：端點(diǎn)檢測(cè)的目的是判斷找到有用語(yǔ)音信號(hào)的起點(diǎn)和終點(diǎn)，然后根據(jù)語(yǔ)音段的起點(diǎn)和終點(diǎn)，分離出真正有用的語(yǔ)音信號(hào)，為后續(xù)的語(yǔ)音識(shí)別奠定可靠的基礎(chǔ)。本文采用目前比較流行的雙門限端點(diǎn)檢測(cè)算法，通過語(yǔ)音信號(hào)的短時(shí)平均能量和短時(shí)過零率來判斷語(yǔ)音信號(hào)的起點(diǎn)和終點(diǎn)。圖2和圖3分別是一個(gè)數(shù)字“０”的時(shí)域參數(shù)分析及其端點(diǎn)檢測(cè)結(jié)果。語(yǔ)音信號(hào)是用多媒體聲卡在比較安靜的實(shí)驗(yàn)室環(huán)境下錄制的，其信噪比較高，雙門限端點(diǎn)檢測(cè)算法可以較準(zhǔn)確地判斷出語(yǔ)音信號(hào)的起始位置，由圖可知，實(shí)驗(yàn)結(jié)果與理論分析一致。

    語(yǔ)音信號(hào)經(jīng)過預(yù)處理后，將進(jìn)行語(yǔ)音識(shí)別中的一個(gè)重要環(huán)節(jié)——特征參數(shù)提取。好的特征參數(shù)不僅能很好地反應(yīng)語(yǔ)音特征，而且計(jì)算方便，這對(duì)系統(tǒng)的實(shí)現(xiàn)非常重要。常用的特征參數(shù)包括線性預(yù)測(cè)系數(shù)（LPC）、線性預(yù)測(cè)倒譜系數(shù)(LPCC)和美爾頻率倒譜系數(shù)(MFCC)。綜合三者的優(yōu)缺點(diǎn)，本文選用MFCC作為研究的特征參數(shù)。每幀語(yǔ)音信號(hào)分別提取12維的MFCC作為特征向量，為減少運(yùn)算量，每個(gè)語(yǔ)音信號(hào)只選擇中間的6幀來進(jìn)行實(shí)驗(yàn)。
2 語(yǔ)音識(shí)別中的小波神經(jīng)網(wǎng)絡(luò)構(gòu)造
    小波神經(jīng)網(wǎng)絡(luò)是以小波函數(shù)為神經(jīng)元激勵(lì)函數(shù)的前饋網(wǎng)絡(luò)模型，與基于Sigmoid函數(shù)的BP網(wǎng)絡(luò)相比，具有較強(qiáng)的函數(shù)逼近能力和容錯(cuò)能力，同時(shí)具有結(jié)構(gòu)收斂可控性和收斂速度快等優(yōu)點(diǎn)。小波神經(jīng)網(wǎng)絡(luò)構(gòu)造主要包括網(wǎng)絡(luò)層數(shù)、輸入節(jié)點(diǎn)數(shù)、輸出節(jié)點(diǎn)數(shù)、隱層節(jié)點(diǎn)數(shù)、初始權(quán)值、學(xué)習(xí)速率及期望誤差的選取[5,6]。
    (1)網(wǎng)絡(luò)層數(shù)：理論上早已證明，具有偏差和至少一個(gè)隱含層加上一個(gè)線性輸出網(wǎng)絡(luò)就能夠逼近任何有理函數(shù)。本文是針對(duì)數(shù)字孤立詞的識(shí)別，小波神經(jīng)網(wǎng)絡(luò)采用3層結(jié)構(gòu)，包括一個(gè)輸入層、一個(gè)隱含層和一個(gè)輸出層。輸入層激勵(lì)函數(shù)為線性變換（輸出=輸入），隱含層激勵(lì)函數(shù)為小波函數(shù)，輸出層激勵(lì)函數(shù)為Sigmoid。
    (2)輸入節(jié)點(diǎn)數(shù)：輸入層節(jié)點(diǎn)數(shù)與所選取的語(yǔ)音信號(hào)特征參數(shù)的維度和階數(shù)有關(guān)。本文中每個(gè)語(yǔ)音信號(hào)都得到相應(yīng)的6個(gè)12維一階MFCC系數(shù)，故輸入層的節(jié)點(diǎn)數(shù)為6×12=72。
    (3)輸出節(jié)點(diǎn)數(shù)：輸出層的節(jié)點(diǎn)數(shù)取決于輸出數(shù)據(jù)的類型和表示該類型所需的數(shù)據(jù)大小。本文數(shù)字孤立詞識(shí)別的10個(gè)數(shù)是0～9，所以設(shè)定輸出節(jié)點(diǎn)數(shù)為10，分別對(duì)應(yīng)于0～9。
    (4)隱層節(jié)點(diǎn)數(shù)：通過采用一個(gè)隱層，增加其神經(jīng)元個(gè)數(shù)的方法來達(dá)到網(wǎng)絡(luò)訓(xùn)練精度的提高。隱層的神經(jīng)元個(gè)數(shù)選擇可以通過仿真試驗(yàn)來確定，也可以用以下公式[5]作為參考：
    
其中，m為輸入層節(jié)點(diǎn)數(shù)，n為輸出層節(jié)點(diǎn)數(shù)，a為取1~10的常數(shù)。本文采用公式（2）來確定隱層節(jié)點(diǎn)數(shù)，已知輸入節(jié)點(diǎn)數(shù)為72，輸出節(jié)點(diǎn)數(shù)為10，a取常數(shù)5，因此隱層節(jié)點(diǎn)數(shù)n1=14。
    (5)初始權(quán)值：由于系統(tǒng)是非線性的，初始值對(duì)學(xué)習(xí)是否達(dá)到局部最小、是否能收斂以及訓(xùn)練時(shí)間的長(zhǎng)短關(guān)系很大。一般總是希望經(jīng)過初始加權(quán)后的每個(gè)神經(jīng)元的輸出值都接近于零，所以，通常初始值取(-1，1)之間的隨機(jī)數(shù)。
    (6)學(xué)習(xí)速率：學(xué)習(xí)速率決定循環(huán)訓(xùn)練中所產(chǎn)生的權(quán)值變化量。大的學(xué)習(xí)速率可能導(dǎo)致系統(tǒng)的不穩(wěn)定，小的學(xué)習(xí)速率雖然會(huì)導(dǎo)致收斂速度慢，不過能保證網(wǎng)絡(luò)的誤差值不跳出誤差表面的低谷而最終趨于最小值。所以一般情況下，學(xué)習(xí)速率的選取值范圍在0．01～0．8之間。本文設(shè)定學(xué)習(xí)速率為0.8。
    (7)期望誤差的選?。涸谠O(shè)計(jì)網(wǎng)絡(luò)的訓(xùn)練過程中，期望誤差也應(yīng)通過對(duì)比選取一個(gè)合適的值，可以同時(shí)對(duì)兩個(gè)不同時(shí)期的期望誤差的網(wǎng)絡(luò)進(jìn)行訓(xùn)練，通過綜合考慮來確定。本文研究的期望誤差為0.001[7]。
3 基于遺傳算法和神經(jīng)網(wǎng)絡(luò)的語(yǔ)音識(shí)別
    小波神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)對(duì)網(wǎng)絡(luò)隱層節(jié)點(diǎn)數(shù)、初始權(quán)值（包括閾值）、伸縮和平移因子以及學(xué)習(xí)速率的依賴性較大，致使其全局搜索能力弱，易陷入局部極小，收斂速度慢甚至不收斂，而遺傳算法具有很強(qiáng)的宏觀搜索能力，能以較大的概率找到全局最優(yōu)解，因此把遺傳算法和小波神經(jīng)網(wǎng)絡(luò)相結(jié)合，采用遺傳算法對(duì)網(wǎng)絡(luò)的初始權(quán)值（包括閾值）進(jìn)行優(yōu)化處理，用小波神經(jīng)網(wǎng)絡(luò)完成給定精度的學(xué)習(xí)。
3.1 遺傳算法實(shí)現(xiàn)的關(guān)鍵技術(shù)
    （1）編碼方案
    編碼對(duì)網(wǎng)絡(luò)進(jìn)化過程的性能和效率影響很大，因此，編碼技術(shù)是連接權(quán)值進(jìn)化過程中需要解決的首要問題和關(guān)鍵步驟?？紤]到網(wǎng)絡(luò)參數(shù)的規(guī)模較大，若遺傳算法采用二進(jìn)制編碼，會(huì)導(dǎo)致染色體長(zhǎng)度偏長(zhǎng)、搜索空間大、搜索效率低等問題，本文中小波神經(jīng)網(wǎng)絡(luò)的節(jié)點(diǎn)數(shù)和結(jié)構(gòu)已經(jīng)固定，可以采用實(shí)數(shù)編碼方案，將網(wǎng)絡(luò)的權(quán)值和各節(jié)點(diǎn)的閥值依次排列得到一個(gè)向量。
    （2）適應(yīng)度函數(shù)的選擇
    衡量網(wǎng)絡(luò)性能的主要指標(biāo)是網(wǎng)絡(luò)的實(shí)際輸出與期望輸出值之間的誤差平方和。神經(jīng)網(wǎng)絡(luò)中誤差平方和越小，則表示該網(wǎng)絡(luò)性能越好。
    定義適應(yīng)度函數(shù)為：
  
    （3）遺傳操作
    選擇算子：從當(dāng)前種群中選擇優(yōu)勝（即適應(yīng)度高）個(gè)體而淘汰劣質(zhì)個(gè)體。目前常用的選擇算子有以下幾種：適應(yīng)度比例選擇法、最佳個(gè)體保存法、期望值法與排序選擇法等。本文采用適應(yīng)度比例選擇法來進(jìn)行選擇操作[3]。
    交叉算子：交叉是通過替換重組兩個(gè)父代個(gè)體的部分結(jié)構(gòu)而產(chǎn)生新的個(gè)體。在遺傳算法中，交叉操作是最主要的遺傳操作。交叉率Pc是指各代中交叉產(chǎn)生的后代數(shù)與種群規(guī)模之比，這個(gè)概率表明有Pc×pop_size(種群規(guī)模)個(gè)染色體來進(jìn)行交叉操作。常用的交叉率取值范圍為0.6~1.0，在本文中Pc取0.6。
    變異算子：變異就是對(duì)群體中的個(gè)體串的某些基因位上的基因值作變動(dòng)。變異率是指種群中變異的基因數(shù)占總基因數(shù)的比例，其值控制了新基因引入的比例，這個(gè)概率表明有Pm×pop_size(種群規(guī)模)個(gè)染色體來進(jìn)行變異操作。常用變異率的數(shù)量級(jí)范圍為0.1~0.001，在本文中Pm取0.1。
    （4）終止條件
    采用給定的迭代次數(shù)和適應(yīng)度來控制遺傳算法的終止。如果迭代次數(shù)已經(jīng)用完或某代的最優(yōu)個(gè)體的適應(yīng)度值大于等于預(yù)先給定的值，算法就結(jié)束。
3.2 GA-WNN算法實(shí)現(xiàn)的步驟和流程
    采用遺傳算法來優(yōu)化小波神經(jīng)網(wǎng)絡(luò)的權(quán)值和閾值，具體實(shí)現(xiàn)的步驟如下：
    (1)設(shè)定參數(shù)：種群規(guī)模pop_size=100，交叉概率Pc=0.8，變異概率Pm=0.1。
    (2)隨機(jī)產(chǎn)生一組實(shí)值串種群，每一個(gè)個(gè)體由網(wǎng)絡(luò)的初始權(quán)值和閥值構(gòu)成。
    (3)對(duì)實(shí)值串中的個(gè)體進(jìn)行解碼，生成相應(yīng)的網(wǎng)絡(luò)結(jié)構(gòu)，網(wǎng)絡(luò)結(jié)構(gòu)為72-14-10。
    (4)運(yùn)行網(wǎng)絡(luò)，根據(jù)式（4）計(jì)算群體個(gè)體的適應(yīng)度值，評(píng)價(jià)網(wǎng)絡(luò)性能。
    (5)根據(jù)適應(yīng)度大小，通過相應(yīng)的選擇算法進(jìn)行選擇操作，以交叉概率Pc執(zhí)行交叉操作，以遺傳概率Pm執(zhí)行變異操作，保留適應(yīng)度大的個(gè)體產(chǎn)生下一代種群，形成下一代網(wǎng)絡(luò)。
    (6)如果網(wǎng)絡(luò)誤差滿足要求或達(dá)到一定的進(jìn)化代數(shù)，則停止進(jìn)化，輸出結(jié)果；否則重復(fù)操作步驟(3)～步驟(5)。
    (7)將GA優(yōu)化后的初始權(quán)值（包括閾值）作為小波神經(jīng)網(wǎng)絡(luò)使用的參數(shù)。
3.3 基于GA-WNN算法的語(yǔ)音識(shí)別過程
    將本文提出的新算法（GA-WNN算法）應(yīng)用于語(yǔ)音識(shí)別，具體的識(shí)別過程如下：
    （1）語(yǔ)音數(shù)據(jù)由三男二女的發(fā)音（0～9共10個(gè)數(shù)字的普通話發(fā)音）數(shù)據(jù)組成，每個(gè)音每人發(fā)20遍，共計(jì)1 000次發(fā)音，其中以每人每個(gè)發(fā)音的前10次作為訓(xùn)練樣本，后10次作為測(cè)試樣本。
    （2）用數(shù)字濾波器分別對(duì)兩組語(yǔ)音數(shù)據(jù)進(jìn)行預(yù)加重，再通過加漢明窗對(duì)語(yǔ)音信號(hào)進(jìn)行分幀，然后逐幀計(jì)算語(yǔ)音信號(hào)的MFCC系數(shù)，并將其保存。
    （3）構(gòu)造一個(gè)三層的小波神經(jīng)網(wǎng)絡(luò)，設(shè)置初始的網(wǎng)絡(luò)參數(shù)，網(wǎng)絡(luò)結(jié)構(gòu)為72-14-10，取學(xué)習(xí)速率為0.8，訓(xùn)練誤差精度為0.001。
    （4）對(duì)每個(gè)人的語(yǔ)音特征系數(shù)用WNN算法來訓(xùn)練網(wǎng)絡(luò)，同時(shí)用遺傳算法來優(yōu)化神經(jīng)網(wǎng)絡(luò)的權(quán)值，直到網(wǎng)絡(luò)收斂并達(dá)到期望的訓(xùn)練誤差精度0.001，保存最優(yōu)權(quán)值。每個(gè)語(yǔ)音信號(hào)對(duì)應(yīng)一組網(wǎng)絡(luò)權(quán)值。
    （5）在網(wǎng)絡(luò)的輸入層中輸入語(yǔ)音特征參數(shù)系數(shù)，分別調(diào)用已保存的網(wǎng)絡(luò)權(quán)值計(jì)算出結(jié)果得出網(wǎng)絡(luò)輸出矩陣，與期望輸出矩陣逐一比較，誤差最小的那個(gè)語(yǔ)音信號(hào)為識(shí)別結(jié)果。
4 仿真實(shí)驗(yàn)結(jié)果
    為了驗(yàn)證GA-WNN算法的優(yōu)越性，對(duì)算法的性能進(jìn)行了測(cè)試，并與小波神經(jīng)網(wǎng)絡(luò)算法的性能進(jìn)行了比較。
    仿真實(shí)驗(yàn)是針對(duì)非特定人的孤立詞數(shù)字語(yǔ)音識(shí)別，語(yǔ)音數(shù)據(jù)由三男二女的發(fā)音(0～9共10個(gè)數(shù)字的普通話發(fā)音)數(shù)據(jù)組成，本實(shí)驗(yàn)是在PC機(jī)上進(jìn)行，通過PC話筒輸入，每個(gè)音每人發(fā)20遍，共計(jì)1 000次發(fā)音，其中以每人每個(gè)發(fā)音的前10次作為訓(xùn)練樣本，后10次作為測(cè)試樣本。
    經(jīng)過試驗(yàn)仿真，得到實(shí)驗(yàn)結(jié)果如表1。對(duì)實(shí)驗(yàn)結(jié)果進(jìn)行對(duì)比分析，發(fā)現(xiàn)基于GA-WNN算法的語(yǔ)音識(shí)別系統(tǒng)得到了相對(duì)較高的識(shí)別率，基于GA-WNN學(xué)習(xí)算法只迭代了105次便使得誤差為0.001，而小波神經(jīng)網(wǎng)絡(luò)算法需要迭代741次才達(dá)到相同的誤差精度。由此可見，相比小波神經(jīng)網(wǎng)絡(luò)算法，基于GA-WNN算法，無論是在精度上還是收斂速度上，都取得了更好的效果，同時(shí)該算法還避免了局部極小，從而能快速地找到最優(yōu)解，降低學(xué)習(xí)時(shí)間。

    從實(shí)驗(yàn)結(jié)果得出：對(duì)于孤立詞的識(shí)別，WNN的平均識(shí)別率為88.6%，而GA-WNN的平均識(shí)別率達(dá)到94.0%，明顯高于WNN的識(shí)別率，驗(yàn)證了理論的正確性。
    將遺傳算法和小波神經(jīng)網(wǎng)絡(luò)結(jié)合起來形成GA-WNN算法，仿真實(shí)驗(yàn)結(jié)果表明，此算法在孤立詞的識(shí)別中不僅縮短了識(shí)別時(shí)間還有效地提高了系統(tǒng)的識(shí)別率。該算法還可以應(yīng)用于圖像處理或其他領(lǐng)域，需要作進(jìn)一步的驗(yàn)證。
參考文獻(xiàn)
[1] ROBERT E U.Application of artificial neural networks in  industrial technology[J].IEEE Trans,1994,10(3):371-377.
[2] 唐軍.基于HMM與小波神經(jīng)網(wǎng)絡(luò)的語(yǔ)音識(shí)別系統(tǒng)研究[D].南京：南京理工大學(xué)，2007.
[3] BRINDLE A.Genetic algorithms for function optimization [M].Ph.DDissertation, University of Alberta,1981.
[4] SELOUANI TS A，SHAUGHNESSY D O.Robustness of  speeeh recognition using genetie algorithm and a mel-cepstral subspace approach[J].ICASSP,2004，12(2)：201-204.
[5] 趙峰.遺傳神經(jīng)網(wǎng)絡(luò)在語(yǔ)音識(shí)別中的研究[J].電腦知識(shí)與技術(shù),2008,3(4):774-776.
[6] 劉俊華,顏運(yùn)昌,荊琦.遺傳算法與神經(jīng)網(wǎng)絡(luò)在語(yǔ)音識(shí)別中的應(yīng)用[J].機(jī)電工程,2007,24(12):20-24.
[7] 韓志艷,王健,倫淑嫻.基于遺傳小波神經(jīng)網(wǎng)絡(luò)的語(yǔ)音識(shí)別分類器設(shè)計(jì)[J].計(jì)算機(jī)科學(xué),2010,37(11):243-246.