《電子技術(shù)應(yīng)用》
您所在的位置：首頁 > 其他 > 設(shè)計應(yīng)用 > 基于量子遺傳優(yōu)化的改進極限學(xué)習(xí)機及應(yīng)用
基于量子遺傳優(yōu)化的改進極限學(xué)習(xí)機及應(yīng)用
2020年信息技術(shù)與網(wǎng)絡(luò)安全第3期
李雪艷1，廖一鵬2
(1.陽光學(xué)院 人工智能學(xué)院，福建 福州 350015； 2.福州大學(xué) 物理與信息工程學(xué)院，福建 福州 350108)
摘要： 主要研究的是神經(jīng)網(wǎng)絡(luò)的一種新型訓(xùn)練方式——極限學(xué)習(xí)機算法的優(yōu)化和改進。首先通過與傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)算法的對比，介紹極限學(xué)習(xí)機算法的主要思想和流程，展現(xiàn)其特點及優(yōu)勢；其次，由于常規(guī)極限學(xué)習(xí)機在預(yù)測的精度上及運用的穩(wěn)定上存在不小的缺陷，通過闡述幾個智能尋優(yōu)算法及優(yōu)缺點比較，引出該文的重點量子遺傳算法，并利用此算法去優(yōu)化極限學(xué)習(xí)機的連接權(quán)值和閾值，選取最優(yōu)的權(quán)值和閾值賦予測試網(wǎng)絡(luò)，達(dá)到良好的使用效果；最后，介紹了改進極限學(xué)習(xí)機算法在MATLAB上進行實驗仿真及結(jié)果分析的步驟與流程，實驗結(jié)果說明改進后的算法相比于經(jīng)典算法在回歸問題的預(yù)測上有優(yōu)勢，預(yù)測精度更高，且結(jié)果更穩(wěn)定；在分類問題的處理上，準(zhǔn)確性也具有壓倒性優(yōu)勢。
中圖分類號：TP391
文獻(xiàn)標(biāo)識碼：A
DOI： 10.19358/j.issn.2096-5133.2020.03.006
引用格式：李雪艷，廖一鵬.基于量子遺傳優(yōu)化的改進極限學(xué)習(xí)機及應(yīng)用［J］.信息技術(shù)與網(wǎng)絡(luò)安全，2020,39（3）：29-34,39.
Improved extreme learning machine based on quantum genetic algorithm and its application
Li Xueyan1，Liao Yipeng2
(1.College of Artificial Intelligence,Yango University,Fuzhou 350015,China; 2.College of Physics and Information Engineering,Fuzhou University,Fuzhou 350108,China)
Abstract： Artificial neural network is an important learning method of machine learning,and this paper mainly studies the optimization and improvement of the new training method of neural networkthe algorithm of extreme learning machine.This paper firstly studies traditional neural network algorithms,introduces the main ideas and processes of the algorithm, and compares it with the traditional algorithm to show its characteristics and advantages.Secondly,due to the fact that the algorithm has no small flaws in the accuracy of the prediction and the stability of the application,by describing several intelligent optimization algorithms and comparing their advantages and disadvantages, it introduces the focus of this article quantum genetic algorithm,and uses this algorithm to select the optimal weight and threshold to give the test network,to achieve good results.Finally,the steps and processes of the improved limit learning machine algorithm for experimental simulation and result analysis on MATLAB are introduced.The experimental results show that the improved algorithm has an advantage over the classical algorithm in the prediction of regression problems,with higher prediction accuracy and more stable results.The accuracy of classification is also overwhelming.
Key words : extreme learning machine;quantum genetic algorithm;regression fit;classification;artificial neural networks

0    引言

人工神經(jīng)網(wǎng)絡(luò)是機器學(xué)習(xí)的一種重要學(xué)習(xí)方式，而對神經(jīng)網(wǎng)絡(luò)的研究已經(jīng)很久了，有些訓(xùn)練算法已經(jīng)非常成熟，如經(jīng)典的多層前饋(Back Propagation，BP)神經(jīng)網(wǎng)絡(luò)等，應(yīng)用已經(jīng)非常廣泛，大量地應(yīng)用于回歸擬合和分類問題之中。但是這種被廣泛應(yīng)用于多層前饋神經(jīng)網(wǎng)絡(luò)的經(jīng)典訓(xùn)練算法，大多是基于梯度下降的方式來調(diào)整權(quán)值和閾值。這類算法的訓(xùn)練速度慢、有可能得到的不是全局最優(yōu)而是陷入局部最優(yōu)，還有著參數(shù)調(diào)整復(fù)雜的問題。HUANG G B等人在2004年提出了一種新型的前饋神經(jīng)網(wǎng)絡(luò)即極限學(xué)習(xí)機(ELM)。極限學(xué)習(xí)機(Extreme Learning Machine,ELM)是用于單隱層神經(jīng)網(wǎng)絡(luò)(Single hidden LayerFeedforward Neural networks,SLFNs)訓(xùn)練的一種高效的訓(xùn)練算法。ELM不同于經(jīng)典的神經(jīng)網(wǎng)絡(luò)，它不需要梯度下降算法中繁瑣的迭代過程去調(diào)參而耗費很多時間。其隨機產(chǎn)生所有的權(quán)值和隱層節(jié)點閾值。并且它在訓(xùn)練中一直不變，需要人為設(shè)定的只有節(jié)點個數(shù)，然后求逆矩陣得到輸出權(quán)值，便能計算得到最優(yōu)值。相較于傳統(tǒng)的SLFNs，ELM的訓(xùn)練速度顯著提升，效率遠(yuǎn)高于之前算法，且泛化性能好。ELM作為優(yōu)秀的分類器，擁有良好的應(yīng)用前景。但是在實際應(yīng)用中，尤其是在處理回歸擬合的問題上，它的效果并不好，準(zhǔn)確度一般。為了達(dá)到理想的誤差精度，ELM需要龐大的隱含層神經(jīng)元。而由于它的輸入權(quán)值和閾值是隨機設(shè)定的，這導(dǎo)致龐大的基數(shù)中有很多神經(jīng)元是無效的，即存在隨機出的輸入權(quán)值和閾值為0。



本文詳細(xì)內(nèi)容請下載：http://ihrv.cn/resource/share/2000003172





作者信息：

李雪艷1，廖一鵬2

(1.陽光學(xué)院 人工智能學(xué)院，福建 福州 350015；2.福州大學(xué) 物理與信息工程學(xué)院，福建 福州 350108)


此內(nèi)容為AET網(wǎng)站原創(chuàng)，未經(jīng)授權(quán)禁止轉(zhuǎn)載。