《電子技術(shù)應用》
您所在的位置:首頁 > 其他 > 設計應用 > 基于量子遺傳優(yōu)化的改進極限學習機及應用
基于量子遺傳優(yōu)化的改進極限學習機及應用
2020年信息技術(shù)與網(wǎng)絡安全第3期
李雪艷1,廖一鵬2
(1.陽光學院 人工智能學院,福建 福州 350015; 2.福州大學 物理與信息工程學院,福建 福州 350108)
摘要: 主要研究的是神經(jīng)網(wǎng)絡的一種新型訓練方式——極限學習機算法的優(yōu)化和改進。首先通過與傳統(tǒng)的神經(jīng)網(wǎng)絡算法的對比,介紹極限學習機算法的主要思想和流程,展現(xiàn)其特點及優(yōu)勢;其次,由于常規(guī)極限學習機在預測的精度上及運用的穩(wěn)定上存在不小的缺陷,通過闡述幾個智能尋優(yōu)算法及優(yōu)缺點比較,引出該文的重點量子遺傳算法,并利用此算法去優(yōu)化極限學習機的連接權(quán)值和閾值,選取最優(yōu)的權(quán)值和閾值賦予測試網(wǎng)絡,達到良好的使用效果;最后,介紹了改進極限學習機算法在MATLAB上進行實驗仿真及結(jié)果分析的步驟與流程,實驗結(jié)果說明改進后的算法相比于經(jīng)典算法在回歸問題的預測上有優(yōu)勢,預測精度更高,且結(jié)果更穩(wěn)定;在分類問題的處理上,準確性也具有壓倒性優(yōu)勢。
中圖分類號:TP391
文獻標識碼:A
DOI: 10.19358/j.issn.2096-5133.2020.03.006
引用格式:李雪艷,廖一鵬.基于量子遺傳優(yōu)化的改進極限學習機及應用[J].信息技術(shù)與網(wǎng)絡安全,2020,39(3):29-34,39.
Improved extreme learning machine based on quantum genetic algorithm and its application
Li Xueyan1,Liao Yipeng2
(1.College of Artificial Intelligence,Yango University,Fuzhou 350015,China; 2.College of Physics and Information Engineering,Fuzhou University,Fuzhou 350108,China)
Abstract: Artificial neural network is an important learning method of machine learning,and this paper mainly studies the optimization and improvement of the new training method of neural networkthe algorithm of extreme learning machine.This paper firstly studies traditional neural network algorithms,introduces the main ideas and processes of the algorithm, and compares it with the traditional algorithm to show its characteristics and advantages.Secondly,due to the fact that the algorithm has no small flaws in the accuracy of the prediction and the stability of the application,by describing several intelligent optimization algorithms and comparing their advantages and disadvantages, it introduces the focus of this article quantum genetic algorithm,and uses this algorithm to select the optimal weight and threshold to give the test network,to achieve good results.Finally,the steps and processes of the improved limit learning machine algorithm for experimental simulation and result analysis on MATLAB are introduced.The experimental results show that the improved algorithm has an advantage over the classical algorithm in the prediction of regression problems,with higher prediction accuracy and more stable results.The accuracy of classification is also overwhelming.
Key words : extreme learning machine;quantum genetic algorithm;regression fit;classification;artificial neural networks

0    引言

人工神經(jīng)網(wǎng)絡是機器學習的一種重要學習方式,而對神經(jīng)網(wǎng)絡的研究已經(jīng)很久了,有些訓練算法已經(jīng)非常成熟,如經(jīng)典的多層前饋(Back Propagation,BP)神經(jīng)網(wǎng)絡等,應用已經(jīng)非常廣泛,大量地應用于回歸擬合分類問題之中。但是這種被廣泛應用于多層前饋神經(jīng)網(wǎng)絡的經(jīng)典訓練算法,大多是基于梯度下降的方式來調(diào)整權(quán)值和閾值。這類算法的訓練速度慢、有可能得到的不是全局最優(yōu)而是陷入局部最優(yōu),還有著參數(shù)調(diào)整復雜的問題。HUANG G B等人在2004年提出了一種新型的前饋神經(jīng)網(wǎng)絡即極限學習機(ELM)。極限學習機(Extreme Learning Machine,ELM)是用于單隱層神經(jīng)網(wǎng)絡(Single hidden LayerFeedforward Neural networks,SLFNs)訓練的一種高效的訓練算法。ELM不同于經(jīng)典的神經(jīng)網(wǎng)絡,它不需要梯度下降算法中繁瑣的迭代過程去調(diào)參而耗費很多時間。其隨機產(chǎn)生所有的權(quán)值和隱層節(jié)點閾值。并且它在訓練中一直不變,需要人為設定的只有節(jié)點個數(shù),然后求逆矩陣得到輸出權(quán)值,便能計算得到最優(yōu)值。相較于傳統(tǒng)的SLFNs,ELM的訓練速度顯著提升,效率遠高于之前算法,且泛化性能好。ELM作為優(yōu)秀的分類器,擁有良好的應用前景。但是在實際應用中,尤其是在處理回歸擬合的問題上,它的效果并不好,準確度一般。為了達到理想的誤差精度,ELM需要龐大的隱含層神經(jīng)元。而由于它的輸入權(quán)值和閾值是隨機設定的,這導致龐大的基數(shù)中有很多神經(jīng)元是無效的,即存在隨機出的輸入權(quán)值和閾值為0。



本文詳細內(nèi)容請下載:http://ihrv.cn/resource/share/2000003172





作者信息:

李雪艷1,廖一鵬2

(1.陽光學院 人工智能學院,福建 福州 350015;2.福州大學 物理與信息工程學院,福建 福州 350108)


此內(nèi)容為AET網(wǎng)站原創(chuàng),未經(jīng)授權(quán)禁止轉(zhuǎn)載。