一種基于思維進(jìn)化算法的極限學(xué)習(xí)機(jī)及其應(yīng)用

劉俊

（商洛學(xué)院電子信息與電氣工程學(xué)院，陜西商洛726000）

一種基于思維進(jìn)化算法的極限學(xué)習(xí)機(jī)及其應(yīng)用

劉俊

（商洛學(xué)院電子信息與電氣工程學(xué)院，陜西商洛726000）

極限學(xué)習(xí)機(jī)（Extreme Learning Machine,ELM）是一種新型的單隱含層前饋神經(jīng)網(wǎng)絡(luò)，與傳統(tǒng)神經(jīng)網(wǎng)絡(luò)訓(xùn)練方法相比，ELM具有泛化能力好、學(xué)習(xí)速率快等優(yōu)點(diǎn)。但隨機(jī)產(chǎn)生的輸入權(quán)值和閾值，往往會(huì)出現(xiàn)一些作用很小或“無(wú)用”的值，為了達(dá)到理想精度，通常需要增加隱含層節(jié)點(diǎn)數(shù)。思維進(jìn)化極限學(xué)習(xí)機(jī)使用思維進(jìn)化算法MEA優(yōu)化輸入權(quán)值矩陣和閾值向量，再利用MP廣義逆求出輸出權(quán)值矩陣，從而減小隱含層節(jié)點(diǎn)數(shù)，增大網(wǎng)絡(luò)預(yù)測(cè)精度。通過函數(shù)擬合仿真實(shí)驗(yàn)，并同ELM算法和BP神經(jīng)網(wǎng)絡(luò)算法比較，思維進(jìn)化極限學(xué)習(xí)機(jī)算法可以用較少的隱含層節(jié)點(diǎn)數(shù)實(shí)現(xiàn)更高的精度。

思維進(jìn)化；極限學(xué)習(xí)機(jī)；權(quán)值；閾值

隨著智能信息的發(fā)展，具有良好系統(tǒng)辨識(shí)能力的神經(jīng)網(wǎng)絡(luò)得到了更廣泛的應(yīng)用，但傳統(tǒng)神經(jīng)網(wǎng)絡(luò)（如BP、SVM神經(jīng)網(wǎng)絡(luò)）的固有缺陷，如收斂速度慢、易收斂到局部最優(yōu)解、過擬合問題、網(wǎng)絡(luò)隱含層節(jié)點(diǎn)數(shù)多且不能確定等，成為制約其發(fā)展的主要瓶頸。極限學(xué)習(xí)機(jī)（Extreme Learning Machine,ELM）是黃廣斌等[1]提出一種新的單隱層前饋神經(jīng)網(wǎng)絡(luò)（Single-hidden Layer Feedforward Neural Network,SLFN）。該算法隨機(jī)選取輸入層與隱含層間的連接權(quán)值和隱含層節(jié)點(diǎn)的閾值，且在訓(xùn)練過程中無(wú)需調(diào)整，只需設(shè)置隱含層節(jié)點(diǎn)數(shù)目，再通過一步計(jì)算得到方程組的最小二乘解，即隱含層與輸出層的連接權(quán)值。因此，ELM較傳統(tǒng)網(wǎng)絡(luò)模型具有更快的學(xué)習(xí)速度、更高的精度和更強(qiáng)的泛化能力，已經(jīng)得到很多學(xué)者的應(yīng)用研究[2-5]。……