基于蟻群優(yōu)化算法的BP神經(jīng)網(wǎng)絡(luò)的RPROP混合算法仿真的研究

，

(陜西國(guó)防工業(yè)職業(yè)技術(shù)學(xué)院,西安 710302)

0 引言

近年來(lái)，伴隨著互聯(lián)網(wǎng)技術(shù)的迅猛發(fā)展，出現(xiàn)了智能手機(jī)，IPA等多種使用無(wú)線網(wǎng)絡(luò)的新型上網(wǎng)終端。同時(shí)，在相關(guān)網(wǎng)絡(luò)運(yùn)行過(guò)程中，出現(xiàn)了大量冗余、重復(fù)等無(wú)用的信息數(shù)據(jù)，使BP神經(jīng)網(wǎng)絡(luò)在學(xué)習(xí)訓(xùn)練過(guò)程中不斷出現(xiàn)了減慢網(wǎng)絡(luò)收縮速度、泛化能力低等問(wèn)題，以分布式計(jì)算、無(wú)線通訊技術(shù)、嵌入式計(jì)算等技術(shù)為基礎(chǔ)建立的傳統(tǒng)無(wú)線傳感器網(wǎng)絡(luò)的運(yùn)算速度已經(jīng)無(wú)法滿足現(xiàn)實(shí)的需要。本文在現(xiàn)有無(wú)線傳感器網(wǎng)絡(luò)的基礎(chǔ)上，使用基于蟻群算法優(yōu)化的BP神經(jīng)網(wǎng)絡(luò)，混合RPROP算法模型，實(shí)現(xiàn)建立WSN的系統(tǒng)構(gòu)架，完成構(gòu)架的信息服務(wù)點(diǎn)的組成。使用該種混合算法，減少了BP神經(jīng)網(wǎng)絡(luò)中數(shù)據(jù)服務(wù)點(diǎn)的數(shù)量，降低了無(wú)線網(wǎng)絡(luò)處理信息相關(guān)資源管理、調(diào)配等關(guān)鍵問(wèn)題的處置，加快BP神經(jīng)網(wǎng)絡(luò)的收縮速度，能夠?qū)⒕W(wǎng)絡(luò)中信息服務(wù)點(diǎn)的重復(fù)數(shù)據(jù)進(jìn)行有效的合并處理，并及時(shí)過(guò)濾掉非正常信息服務(wù)點(diǎn)的數(shù)據(jù)，減少數(shù)據(jù)服務(wù)點(diǎn)的能量消耗。提高了響應(yīng)時(shí)間，增強(qiáng)了無(wú)線網(wǎng)絡(luò)的傳輸效率。

1 蟻群優(yōu)化算法與RPROP混合算法

1.1 蟻群優(yōu)化算法

蟻群優(yōu)化算法(Ant Colony Optimization，ACO)也叫作螞蟻優(yōu)化算法，是模仿野外螞蟻群尋找食物過(guò)程的一種仿生的優(yōu)化算法，該算法是在運(yùn)行表中尋找并選擇最優(yōu)路徑的概率性算法，且具有較強(qiáng)的兼容性，正負(fù)優(yōu)化反饋性，自行組織，同時(shí)兼顧網(wǎng)格計(jì)算、并行計(jì)算、分布式計(jì)算、易于獲取實(shí)現(xiàn)等優(yōu)點(diǎn)，使用該種算法可以有效實(shí)現(xiàn)最佳、有效覓食路徑構(gòu)建，避免了無(wú)效循環(huán)路徑的出現(xiàn)，形成有效數(shù)據(jù)的及時(shí)交換處理，實(shí)現(xiàn)有效數(shù)據(jù)之間的關(guān)聯(lián)。解決了路徑之間的聯(lián)通，加速了信息之間的轉(zhuǎn)換，實(shí)現(xiàn)路徑之間的相互關(guān)聯(lián)。發(fā)揮了算法的高速、通用性等優(yōu)勢(shì)。因此，蟻群優(yōu)化算法非常適合解決BP神經(jīng)網(wǎng)絡(luò)中的相關(guān)數(shù)據(jù)問(wèn)題。

1.2 RPROP混合算法

RPROP混合算法 (Resilient Propagation Training,RPROP)是一種基于BP神經(jīng)網(wǎng)絡(luò)的彈性傳播算法，該算法在運(yùn)行過(guò)程中使用權(quán)重初始值，設(shè)置出現(xiàn)在權(quán)重變化過(guò)程中的加速度信息量和減速度信息量，在迭代次數(shù)不發(fā)生改變的時(shí)候，使用加速度的方式，增快學(xué)習(xí)和訓(xùn)練過(guò)程中的速度。當(dāng)?shù)螖?shù)不斷發(fā)生改變的時(shí)候，使用減速度的方式，下降幅度，并對(duì)每一個(gè)權(quán)重矩陣值都保持相對(duì)獨(dú)立的增量，它最大的優(yōu)勢(shì)是在運(yùn)行前不再進(jìn)行學(xué)習(xí)，速度、變量、常量等相關(guān)參數(shù)不再單獨(dú)設(shè)置，這樣能夠保持較為穩(wěn)定的收縮，得到最快的權(quán)重更新值，并獲得最佳的學(xué)習(xí)效果。

2 基于蟻群優(yōu)化算法的BP神經(jīng)網(wǎng)絡(luò)的RPROP混合算法模型

2.1 蟻群優(yōu)化算法的BP神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法

BP神經(jīng)網(wǎng)絡(luò)(Back Propagation)是一種多層次、多方位的逆向反饋神經(jīng)網(wǎng)絡(luò)系統(tǒng)。該網(wǎng)絡(luò)最大的優(yōu)點(diǎn)是相關(guān)數(shù)據(jù)參數(shù)順向傳遞，出現(xiàn)的誤差數(shù)據(jù)參數(shù)逆向傳遞，最終形成輸出預(yù)估值逐漸接近最終數(shù)據(jù)值。基于蟻群優(yōu)化算法的BP神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法的架構(gòu)，設(shè)置BP神經(jīng)網(wǎng)絡(luò)有N個(gè)數(shù)據(jù)參數(shù)需要順向傳遞，包含其權(quán)重值(Xuv，Ywu)和調(diào)整值(Hu，Iv)，其中數(shù)據(jù)參數(shù)為Pw(w=1，2，……，N)中的隨機(jī)非零數(shù)據(jù)形成路徑集合Dpw。當(dāng)蟻群外出覓食時(shí)，隨機(jī)從集合Dpw選擇合適的路徑尋找食物，并原路返回，該過(guò)程連續(xù)不斷被執(zhí)行，只有當(dāng)該蟻群中所有的螞蟻都使用同一路徑尋食時(shí)，就得到了N個(gè)數(shù)據(jù)參數(shù)的最佳解決方案。其對(duì)BP神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)算法如下。

步驟一：設(shè)置初始值，其中路徑數(shù)據(jù)參數(shù)最大值設(shè)置為Dm，最大的螞蟻數(shù)為Q，停止學(xué)習(xí)誤差值為L(zhǎng)0。

步驟二：蟻群中螞蟻按照隨機(jī)路徑選擇可以使用公式(1)選取。

(1)

其中:Prob(Dpw)為選擇隨機(jī)路徑的結(jié)果，πw為調(diào)節(jié)常量，∑NW=1πw(Dpw)從全部路徑集合挑選合適路徑參數(shù)。

步驟三：當(dāng)蟻群中所有的螞蟻通過(guò)步驟二都找到自己的覓食路徑后，就會(huì)調(diào)整出學(xué)習(xí)誤差值，若誤差值L達(dá)到小于等于其最大值Lm時(shí)，符合誤差值范圍，則退出程序。否則運(yùn)行步驟四。

步驟四：在步驟三中如果學(xué)習(xí)誤差值大于其最大值時(shí)，則需要重新刷新數(shù)據(jù)信息，設(shè)置更新時(shí)間最大次數(shù)為Tm，其隨機(jī)非零數(shù)據(jù)形成路徑集合Dpw更新數(shù)據(jù)信息如公式(2)所示。

(2)

步驟五：通過(guò)上述步驟循環(huán)運(yùn)行后，當(dāng)達(dá)到路徑數(shù)據(jù)參數(shù)最大值Dm時(shí)，該蟻群中所有螞蟻的往返路徑將會(huì)達(dá)到相同的一條路徑中，結(jié)束本次尋找最優(yōu)路徑，得到最優(yōu)的結(jié)果。

2.2 基于蟻群優(yōu)化算法的BP神經(jīng)網(wǎng)絡(luò)的RPROP混合算法

蟻群優(yōu)化算法的BP神經(jīng)網(wǎng)絡(luò)的RPROP混合算法，是一種較為特殊處理信息數(shù)據(jù)的算法，它主要是對(duì)于目前無(wú)線網(wǎng)絡(luò)傳感器中處理信息服務(wù)點(diǎn)中大量的冗余數(shù)據(jù)、網(wǎng)絡(luò)運(yùn)行速度等相關(guān)問(wèn)題找到適合的分析、優(yōu)化和解決的方法。該種混合算法包括了管理、調(diào)度無(wú)線傳感器網(wǎng)絡(luò)中相關(guān)信息服務(wù)點(diǎn)的信息。其中，每一個(gè)信息服務(wù)點(diǎn)的信息都是由其主信息服務(wù)作業(yè)點(diǎn)搜尋獨(dú)立服務(wù)點(diǎn)和獨(dú)立作業(yè)任務(wù)搜尋服務(wù)點(diǎn)組合而成，主信息服務(wù)作業(yè)點(diǎn)會(huì)將所有獨(dú)立作業(yè)服務(wù)點(diǎn)任務(wù)接收，并進(jìn)行有序處理相關(guān)信息，獨(dú)立作業(yè)服務(wù)點(diǎn)也會(huì)接收主信息服務(wù)作業(yè)點(diǎn)發(fā)送的所有命令和任務(wù)要求，并延續(xù)到下一個(gè)獨(dú)立作業(yè)服務(wù)點(diǎn)。其框架結(jié)構(gòu)圖如圖1所示。

圖1 框架結(jié)構(gòu)圖

利用蟻群優(yōu)化算法結(jié)合RPROP的混合算法能夠較快的解決網(wǎng)絡(luò)運(yùn)行速度的問(wèn)題，其算法如下：

步驟一：建立系統(tǒng)初始化狀態(tài)。設(shè)置P(X，Y)為客戶上網(wǎng)終端的客戶數(shù)量，X表示客戶終端信息點(diǎn)，Y表示蟻群在各信息點(diǎn)間的循環(huán)的路徑。設(shè)置在客戶終端信息點(diǎn)X有i個(gè)數(shù)據(jù)點(diǎn)，表示為X{x1,x2,……,xi}，數(shù)據(jù)點(diǎn)的q循環(huán)路徑響應(yīng)值為Y{y1,y2,……,yq}，且i

(3)

其中:Fab表示各條路徑上的數(shù)據(jù)點(diǎn)數(shù)量，Eab表示從起始數(shù)據(jù)點(diǎn)a到終點(diǎn)數(shù)據(jù)點(diǎn)b的數(shù)據(jù)常量，F(xiàn)[a][b]表示與前期相符獲得的路徑，i表示數(shù)據(jù)點(diǎn)，n表示客戶端硬件運(yùn)行速度。根據(jù)該項(xiàng)運(yùn)行，每只螞蟻在每個(gè)數(shù)據(jù)點(diǎn)上會(huì)尋找與前期相符獲得的路徑，縮小了搜尋路徑和范圍，提高了效率。

步驟二：調(diào)整信息點(diǎn)的數(shù)據(jù)點(diǎn)數(shù)量。當(dāng)蟻群完成第一次循環(huán)后，為了提高運(yùn)行速度，需要根據(jù)公式(4)調(diào)整數(shù)據(jù)點(diǎn)數(shù)量的時(shí)間。

(4)

其中:HFab表示從起始點(diǎn)a到終點(diǎn)b的運(yùn)行所用時(shí)間，HFab(g)表示前一次運(yùn)行路徑所預(yù)計(jì)使用的時(shí)間，SFab(g)表示前一次運(yùn)行路徑實(shí)際所用的時(shí)間。通過(guò)混合算法蟻群中的每一只螞蟻搜索到最佳數(shù)據(jù)點(diǎn)，并對(duì)循環(huán)路徑做最優(yōu)的配置，達(dá)到運(yùn)行的最快速度。

由此可以發(fā)現(xiàn)該種混合算法首先能夠具有得到準(zhǔn)確相關(guān)信息服務(wù)點(diǎn)中有效數(shù)據(jù)的功能，在無(wú)線網(wǎng)絡(luò)傳感器中存在多個(gè)信息點(diǎn)，每個(gè)信息點(diǎn)會(huì)產(chǎn)生大量數(shù)據(jù)，包括冗余數(shù)據(jù)，該種算法可以準(zhǔn)確的搜索到有效數(shù)據(jù)，提高數(shù)據(jù)搜索的精確度。其次可以有效提高數(shù)據(jù)的傳送速度，使用該種混合算法可以在搜索數(shù)據(jù)精確度的基礎(chǔ)上，有效避免了大量數(shù)據(jù)所產(chǎn)生的信息傳送擁堵、延遲等相關(guān)問(wèn)題。再次由于能夠去除掉大量冗余數(shù)據(jù)，就可以使無(wú)線網(wǎng)絡(luò)傳感器有效降低使用能耗，提升資源的有效利用。

3 基于蟻群優(yōu)化算法的BP神經(jīng)網(wǎng)絡(luò)的RPROP混合算法仿真

其具體仿真步驟為，該實(shí)驗(yàn)需要建立BP神經(jīng)網(wǎng)絡(luò)的虛擬局域網(wǎng)環(huán)境，具體配置如下。

配置硬件：12臺(tái)8 G以上的酷睿i3的CPU的PC；

操作系統(tǒng)：Linux操作系統(tǒng)。

設(shè)置其中一臺(tái)為L(zhǎng)inux服務(wù)器，該服務(wù)器提供相關(guān)服務(wù)日志，數(shù)據(jù)分析、在BP神經(jīng)網(wǎng)絡(luò)中使用mnist數(shù)據(jù)庫(kù)中l(wèi)abels數(shù)據(jù)集，包含6000個(gè)樣本標(biāo)簽，將這些樣本標(biāo)簽作為測(cè)試數(shù)據(jù)樣本。相關(guān)參數(shù)設(shè)置如下，蟻群中螞蟻總數(shù)為80只，內(nèi)存空間取值范圍128～10 240 MB，命令調(diào)節(jié)參數(shù)的取值范圍300～43 000，設(shè)置時(shí)間更新最大次數(shù)為3 000，學(xué)習(xí)誤差最小值為10-5。

在實(shí)驗(yàn)操作中，其仿真環(huán)境是基于BP神經(jīng)網(wǎng)絡(luò)屬性獲取協(xié)議及基于群優(yōu)化算法的BP神經(jīng)網(wǎng)絡(luò)的RPROP混合算法，設(shè)置其網(wǎng)格區(qū)域大小為300M(300M，布局無(wú)線傳感器信息點(diǎn)數(shù)為200～500個(gè)，這些無(wú)線傳感器信息點(diǎn)隨機(jī)分配在已經(jīng)設(shè)置好的網(wǎng)格區(qū)域內(nèi)，MAC層信息傳遞速度為6 Mbs，信息傳遞數(shù)據(jù)包為128 Bytes，信息點(diǎn)間互聯(lián)距離80 M，仿真時(shí)間確定為400 S。在該仿真?zhèn)鬏斀缑鎯?nèi)，使用信息服務(wù)點(diǎn)個(gè)數(shù)為10～20個(gè)，BS節(jié)點(diǎn)的坐標(biāo)位置為(0，0)，第一信息服務(wù)點(diǎn)的目標(biāo)服務(wù)點(diǎn)是第二信息服務(wù)點(diǎn)，第二信息服務(wù)點(diǎn)的目標(biāo)服務(wù)點(diǎn)是第一信息服務(wù)點(diǎn)，第三信息服務(wù)點(diǎn)的目標(biāo)服務(wù)點(diǎn)是第二信息服務(wù)點(diǎn)，以此方式貫通整個(gè)信息服務(wù)點(diǎn)。這些信息服務(wù)點(diǎn)之間通過(guò)是廣播通訊方式，相互關(guān)聯(lián)，能夠保持?jǐn)?shù)據(jù)通訊暢通并交換，進(jìn)而可以任意獲得時(shí)間點(diǎn)內(nèi)的相關(guān)服務(wù)內(nèi)容信息。隨著信息交換量的不斷增加，可以發(fā)現(xiàn)該混合算法的優(yōu)化迭代次數(shù)穩(wěn)步增長(zhǎng)，每個(gè)信息服務(wù)點(diǎn)的適合發(fā)展度也在穩(wěn)步增加，并且會(huì)以最快的速度達(dá)到最有適應(yīng)值，其信息過(guò)程數(shù)據(jù)展現(xiàn)出穩(wěn)定，同時(shí)不斷平穩(wěn)有效的收斂，并在平穩(wěn)收斂的過(guò)程中，解決了傳統(tǒng)BP神經(jīng)網(wǎng)絡(luò)查詢范圍較為狹窄，有效擴(kuò)充了查詢范圍，有效避免了在數(shù)據(jù)運(yùn)行過(guò)程中在狹窄范圍陷入死循環(huán)的問(wèn)題。

在仿真實(shí)驗(yàn)的過(guò)程中，設(shè)置第一信息服務(wù)點(diǎn)頻率大小為30、80、130，第二信息服務(wù)點(diǎn)變化的頻率為300、600、800，在此條件下，通過(guò)使用基于群優(yōu)化算法的BP神經(jīng)網(wǎng)絡(luò)的RPROP混合算法，總體運(yùn)行過(guò)程所消耗的能量要比一般算法要低得多，在無(wú)線傳感器信息點(diǎn)中，能量消耗的問(wèn)題非常重要，對(duì)于整個(gè)無(wú)線網(wǎng)絡(luò)這個(gè)整體，它的網(wǎng)絡(luò)總能量是一定的，而它的能量也是由各個(gè)信息點(diǎn)的能量組合而成，所以當(dāng)在一定時(shí)間段內(nèi)總能量使用過(guò)高，就會(huì)最終造成整個(gè)無(wú)線網(wǎng)絡(luò)的能量未在規(guī)定的時(shí)間提前消耗完。在該仿真過(guò)程中，特別是在第一信息服務(wù)點(diǎn)頻率運(yùn)行到80以后，節(jié)能優(yōu)勢(shì)更加明顯。追其原因，在該混合算法中，運(yùn)行時(shí)將網(wǎng)格區(qū)域分割為多個(gè)不同區(qū)域，無(wú)線傳感器信息點(diǎn)均勻分布在網(wǎng)格區(qū)域的不同分割區(qū)域中，這些信息點(diǎn)可以在同一時(shí)間內(nèi)在自己的分割區(qū)域內(nèi)同時(shí)傳送各自數(shù)據(jù)，發(fā)揮出混合算法的優(yōu)勢(shì)，即時(shí)計(jì)算出需要傳送的數(shù)據(jù)中的大量冗余數(shù)據(jù)，并及時(shí)刪除掉這些冗余數(shù)據(jù)，通過(guò)多次循環(huán)仿真可以發(fā)現(xiàn)，該種算法消耗的能量較低，其融合度也較為理想，其使用生命周期也相對(duì)延長(zhǎng)。節(jié)約了時(shí)間，提高了效率。

通過(guò)上述仿真方式得到仿真測(cè)試的結(jié)果可以發(fā)現(xiàn)，信息服務(wù)點(diǎn)收到的數(shù)據(jù)情況以及CPU時(shí)間損耗情況。由圖2可知，隨著時(shí)間的不斷延長(zhǎng)，數(shù)據(jù)融合度的增加，服務(wù)點(diǎn)頻率不斷改變、相對(duì)應(yīng)頻率不斷的增加，將會(huì)獲得更加穩(wěn)定的數(shù)據(jù)流量包，可以滿足大部分?jǐn)?shù)據(jù)調(diào)用需要。同時(shí)也驗(yàn)證了該種混合算法通過(guò)BP神經(jīng)網(wǎng)絡(luò)達(dá)到在無(wú)線網(wǎng)絡(luò)傳感器中大量信息數(shù)據(jù)點(diǎn)的最佳融合方式，有效提高了在無(wú)線網(wǎng)絡(luò)傳感器中信息數(shù)據(jù)點(diǎn)相互交換信息的正確度和正確性。

圖2 信息服務(wù)點(diǎn)頻率圖

4 結(jié)論

本文通過(guò)在BP神經(jīng)網(wǎng)絡(luò)中，利用蟻群優(yōu)化算法的RPROP混合算法，研究數(shù)據(jù)融合的相關(guān)問(wèn)題。通過(guò)仿真實(shí)驗(yàn)，可以將海量的信息數(shù)據(jù)按照相同關(guān)系實(shí)現(xiàn)合并處理，并將其中相同的信息處理去除，該種技術(shù)就可以在網(wǎng)絡(luò)傳遞數(shù)據(jù)時(shí)，減少掉大量無(wú)用、重復(fù)的數(shù)據(jù)，大大減少了數(shù)據(jù)的傳送數(shù)量，降低了信息點(diǎn)間的沖突，過(guò)濾了異樣信息數(shù)據(jù)，提高網(wǎng)絡(luò)傳輸速度，增強(qiáng)了信息數(shù)據(jù)的準(zhǔn)確度，同時(shí)節(jié)約了無(wú)線傳感器網(wǎng)絡(luò)信息點(diǎn)的傳輸量，增長(zhǎng)了生命周期。從實(shí)驗(yàn)結(jié)果可以發(fā)現(xiàn)，其具有快速計(jì)算能力，配置能力，隨機(jī)訪問(wèn)，成本較低，效率較高等能力，并提供優(yōu)異資源實(shí)時(shí)查詢，使其綜合性能達(dá)到最優(yōu)化。