一種優化極限學習機的果園濕度預測方法*

匡 亮,華 馳,鄧小龍,施 珮

(1.江蘇信息職業技術學院 物聯網工程學院,江蘇 無錫 214153;2.南京信息工程大學 物理與光電工程學院,南京 210044; 3.南京航空航天大學 計算機信息科學與技術學院,南京 210016;4.中國水產科學研究院淡水漁業研究中心,農業部淡水漁業和種質資源利用重點實驗室,江蘇 無錫 214081)

水蜜桃是華東華南地區具有巨大經濟價值的農作物之一。水蜜桃的生長除了品種影響因素外,還與種植的環境有著密切聯系。基于前人對水蜜桃影響因子的研究可以發現[1-2],除了不同肥料比例、pH和紫外線等因素,濕度也是果園中重要的環境參數之一,與果樹的病蟲害及果子品質有著密切的聯系。精準、實時的果園濕度監控系統對水蜜桃的產量和品質有重要影響。

目前,有很多專家學者搭建基于WSN的濕度監控系統,也展開了濕度的監控、插補和預測研究。郭秀明等[3]搭建了基于WSN的蘋果園溫度采集系統,研究空氣溫濕度的果園分布特征;謝新華等[4]在番茄溫室大棚中,利用WSN監控系統分析和研究溫濕度的變化規律;鄧雯等[5]基于能量平衡和物質平衡原理,建立了蔬菜大棚的溫度和濕度的預測模型,模型的輸入參數不易測量,實用性不強。趙新蕖等[6]建立基于改進灰色模型的糧倉溫濕度預測模型,模型對歷史數據依賴性強,沒有考慮其他相關因素之間的聯系。鄒偉東等[7]提出改進極限學習機的日光溫室溫濕度預測模型,考慮隱含層節點數的確定問題,但忽略了隨機參數對模型的影響,同時缺少對模型輸入變量的分析。在水蜜桃的果園種植中,無線監測系統的使用仍然較為貧乏。同時,基于無線監測系統的果園濕度預測其預測模型的輸入數據較為冗余,預測精度較低。

針對上述問題,本文基于水蜜桃無線傳感監測實驗基地,提出基于主成分分析(PCA)的粒子群優化算法(PSO)改進極限學習機(ELM)果園濕度預測方法。首先,利用PCA對影響濕度的氣象因子進行分析,獲得模型的預測輸入變量,降低數據維度。再利用PSO算法改進ELM,獲得最優初始權值和閾值,比較不同激活函數下改進ELM的預測模型效果,以果園環境監測系統中9天(1296組)的數據為訓練和測試對象,完成PSO-ELM濕度預測模型的驗證,并將預測模型應用到無錫水蜜桃果園的溫濕度監測預警中。

1 研究方法

1.1 主成分分析

主成分分析PCA(Principal Component Analysis),又稱主分量分析,是將原來眾多具有相關性的指標,利用降維的方法將多個指標轉換為少量相互不相關的指標,從而簡化模型的一種統計方法[8]。主成分分析是數學建模中常用的方法,廣泛應用于人口統計、模式識別等領域[9]。設原變量X1,X2,X3…,Xm分別表示各對象的特征,可以用N×m矩陣表示,則

(1)

主成分分析步驟如下:

①原始數據進行標準化處理,得到標準矩陣Y,即

(2)

②計算特征值和特征向量

R=X*TX*/(N-1)

(3)

式中:X*為標準化后的數據矩陣。求得相關矩陣的特征值λ1,λ2,…,λm和相應的特征向量u1,u2,…,um。

③計算主成分貢獻率和累計貢獻率

主成分貢獻率:

(4)

累計貢獻率:

(5)

④確定主成分個數和主成分矩陣

一般選取前p(p

主成分對應的特征向量為Um×p=[u1,u2,…,up],則p個主成分構成的矩陣為:

(6)

1.2 粒子群算法

粒子群優化算法PSO(Particle Swarm Optimization)是按照群鳥覓食的模型來求解優化問題的[11]。每個粒子都能夠表示問題的一個潛在解。粒子特征用粒子的位置、速度和適應度值來表示。每次粒子移動的方位和距離均由粒子自身速度來決定。根據其他粒子的移動情況,粒子的速度也可同時調整,達到在可解空間尋優[12-13]。在每次迭代尋優的過程中,粒子速度和位置都要通過個體極值和全局極值來更新,可用如下公式表示:

(7)

(8)

式中:w為慣性權重;k為當前迭代次數;Vid表示粒子速度;c1和c2為加速度因子。r1和r2分別為[0,1]內的隨機數。

1.3 PSO優化ELM算法

極限學習機ELM(Extreme Learning Machine)是一種快速、高效的前饋神經網絡學習算法[14-16]。其包含輸入層、隱含層和輸出層。在包含n個樣本的集合(xi,yi)中,隱含層個數為L,激活函數為g(x),則該網絡輸出可表示為:

(9)

wj為第j個隱含節點與輸入節點間權值;bj為第j個隱含節點的偏置;β為隱含節點與輸出節點間權值;H為ELM網絡隱含層的輸出矩陣。則n個樣本的等式可寫成:

Hβ=Y

(10)

雖然極限學習機學習速度快,泛化能力好,但輸入層與隱含層間的連接權值、隱含層神經元的閾值,隱含層神經元個數對極限學習機精度有很大影響[17-19]。因此,本文選用粒子群優化算法確定這些最優化的參數值,以期獲得最優的ELM預測模型。其主要步驟如下所示:

①建立ELM網絡,確定ELM網絡的拓撲結構,輸入變量X=[X1,X2,…,Xm]T,輸出變量Y=[Y1,Y2,…,Yk]T。對粒子群參數進行初始化,包括種群規模M、慣性權重w、迭代次數k、加速度因子C1、C2和粒子維數D等。

②根據自身適應度函數計算得到PSO適應度值fitness,并得到個體極值和群體極值。

③對粒子的速度和位置進行更新,計算粒子適應度值,對更新后的個體極值和群體極值進行判斷,當達到迭代次數或最小誤差時,粒子群尋優終止。

④得到ELM算法所需的最優輸入權值矩陣abest和隱含層偏置bbest。

⑤計算隱含層的輸出矩陣H。

(11)

通過確定的隱含層輸出矩陣H,利用線性系統最小二乘解的求解方法,得到隱含層節點與輸出節點之間的輸出權值β,公式如下所示。

(12)

式中:H+為輸出矩陣H的廣義逆。

基于PSO優化ELM算法分為ELM神經網絡隱含層確定、PSO優化和ELM神經網絡預測插補值3個部分,算法流程圖如圖1所示。

圖1 PSO優化ELM算法流程圖

1.4 激活函數

在ELM中,激活函數在ELM網絡中擁有重要地位。合適的激活函數能夠優化網絡性能,提高算法的精度和泛化能力。反之,不合適的激活函數則會降低網絡性能,無論怎么優化都實現不了好的學習效果。目前,ELM常用的激活函數包括4種[20],如下所示:

①Sigmoid函數:

(13)

②Sine函數:

g(x)=sin(aix)

(14)

③hardlim函數:

g(x)=2 hardlim(aix)

(15)

hardlim激活函數的返回值為0或1。若輸入元素大于0,則返回1,;否則即返回0。

④Rbf(Radial basis function)函數

(16)

式中:ai為函數的中心,σ為激活函數的寬度參數,控制函數作用范圍。

2 果園濕度預測模型構建

2.1 研究區域

本文中的無線傳感網溫濕度監測系統布局在江蘇省無錫市陽山水蜜桃種植基地。試驗基地25畝桃林中共鋪設3個微型果園無線傳感網監測系統。每個系統由多個傳感器構建無線傳感器網絡,如圖2所示。監控系統可以對溫度、濕度、壓強、光照、風速、風向和二氧化碳進行數據采集,每10 min采集一組數據,選取其中一個監測系統 2016年7月22日至7月30日9 d內全天的監控數據,共計1 296條數據。取前1 152組(8 d)數據為訓練集,剩余144組(1 d)數據作為測試集,對果園的濕度指標進行預測。此實驗周期為水蜜桃大量成熟的時間,天氣環境無極端情況。

圖2 果園無線傳感網監測系統

2.2 數據標準化

為避免各維數據之間數量級差別太大,使得其某些分量失去了對整個網絡的調控能力,需在極限學習機構建神經網絡過程中,將樣本數據進行歸一化處理[21]。本文使用最大最小法(Max-Min Normalization)分別對原始氣象數據中溫度、濕度、壓強、光照、風速、風向和二氧化碳含量數值進行歸一化,如公示(17)所示。

xk=(xk-xmin)/(xmax-xmin)

(17)

式中:xmin為該維數據中的最小數,xmax為該維數據中的最大數。

2.3 預測體系構建

本文以果園濕度指標為預測對象,首先利用PCA方法對歸一化后的1296組樣本7個影響因素進行主成分分析。由計算可獲得 7個影響因子的特征值和方差貢獻率,如表1所示。其中3個主成分的累積方差貢獻率為86.865%,故選擇表1中的3個主成分來代表綜合指標。各主成分因子載荷矩陣如表2所示。事實上,各個主成分對應的各輸入指標的載荷值反映了該指標所表征的信息量,載荷越大,信息量就越大。主成分1的貢獻率為39%,可表征濕度、溫度及二氧化碳3個影響因素。主成分2的累計貢獻率為67%,可表征壓強和風向兩個影響因素。主成分3的累計貢獻率為86%,可表征光照影響因素。由此,可確定濕度預測模型的輸入維度,即溫度、二氧化碳、壓強、風向和光照5個指標,并構建濕度預測模型的輸入輸出模型。

表1 特征值及方差貢獻率

表2 主成分因子載荷矩陣

2.4 濕度預測模型的參數設置

經過主成分分析,確定濕度預測模型的輸入輸出指標。在MATLAB R2014a的運行環境下,對PSO-ELM中的PSO優化部分和ELM算法的參數進行設置,完成模型的訓練和預測。

①PSO優化部分。在PSO優化算法中,設置種群大小為40,迭代次數為200,加速度因子c1和c2分別為2.8和1.3。為了均衡全局搜索和局部搜索能力,采用線性遞減慣性權重方法,設置初始慣性權重為0.9,迭代結束時慣性權重設置為0.4。

②ELM神經網絡部分。在ELM網絡中,包含5個輸入節點和1個輸出節點。在隱含層節點數的確定上,為了避免出現“欠適配”、“過適配”的問題[22],借鑒“試錯法”,通過不斷試驗和改變模型的拓撲結構,最終確定預測模型的隱含層節點數為26。

2.5 性能評估

為了對PSO優化極限學習機算法的預測性能進行評估,選擇均方根誤差RMSE(Root Mean Square Error)、平均絕對百分比誤差MAPE(Mean Absolute Percent Error)和平均絕對誤差MAE(Mean Absolute Error)等指標作為模型預測性能判斷的標準[23]。各評估指標的計算公式分別為:

(18)

(19)

(20)

3 實驗結果與分析

3.1 模型的選擇

本文的預測模型以溫濕度監測系統的一個監測點為例,對構建的1 296組訓練樣本和144組測試樣本進行對比分析。

在PSO-ELM預測模型中,由于ELM的激活函數有多種,且激活函數對模型的預測效果有重要影響。為了選擇適宜的激活函數,本文選擇“Sigmoid”、“Sine”、“hardlim”和“Rbf”4種常用激活函數進行預測,根據預測的性能效果確定模型的激活函數,結果如圖3所示。

圖3 PSO-ELM不同激活函數預測效果

由圖3信息可知,這4類常見激活函數均可實現濕度的預測,輸出濕度預測值;從預測性能上看,Sigmoid函數獲得了最小的MAE、RMSE和MAPE值,Sine函數和Rbf函數的預測精度相差不大,hardlim函數的預測性能最差,該激活函數不適宜處理該濕度的預測過程。從預測精度最高的原則出發,最終確定性能最優的Sigmoid作為PSO-ELM預測模型中隱含層的激活函數,從而確定預測模型的拓撲結構。

3.2 預測模型比較

經上述實驗,最終確立以Sigmoid激活函數的PSO-ELM預測模型。PSO算法和ELM算法的參數如2.4節所述,對構建的濕度預測訓練集和測試集進行測試。模型的迭代曲線如圖4所示,從圖中可以發現模型的收斂速度較快,適應度達到了較高的精度。

圖4 PSO-ELM 迭代誤差圖

為了驗證PSO-ELM濕度預測模型有較好的性能,將PSO-ELM算法與單純ELM算法進行對比試驗。本文中單純ELM預測模型的輸入指標同PSO-ELM,將PCA方法中確定的5個指標作為預測模型的輸入,輸出為濕度,其中ELM的初始權重和偏置通過隨機的方式獲得。圖5為PSO-ELM和ELM模型的預測值和真實值對比。由圖5可以發現,PSO-ELM模型的擬合曲線與實際值一致,擬合效果較好,且明顯優于ELM模型擬合效果。在ELM預測中,有較大部分數據偏離真實值,誤差較大,且預測精度起伏較大,預測性能不穩定。整個測試集合中,PSO-ELM模型的預測曲線與實際數據曲線之間雖存在較小的誤差,但實際預測效果能較好的反映真實數據的變化趨勢。

圖5 預測效果對比圖

為了進一步分析PSO-ELM和ELM模型的預測性能,本文對兩預測模型進行了比較,如表3所示。PSO-ELM的預測性能RMSE、MAPE、MAE相較于ELM模型分別提高了89.07%、89.31%和89.39%。該模型預測精度穩定,總體預測性能明顯優于ELM模型。PSO算法有較好的尋優能力,能夠得到ELM所需最優權值和隱含層偏置,因此PSO-ELM更適于實現濕度的預測。

表3 PSO-ELM、ELM模型插補性能評估對比

本文同時也引入傳統線性回歸方法,獲得不同預測方法的預測精度對比結果,其中僅顯示其中部分數據如表4所示。

表4顯示,本文提出的PSO-ELM算法的實際預測值更接近真實值,平均相對誤差優于線性回歸法,且預測效果穩定。線性回歸算法的預測精度優于ELM模型,兩模型均存在預測精度差異較大的問題,預測性能不穩定。這是因為線性回歸法較適用于單調函數,在震蕩劇烈、局部極值點不明確的情況下,線性回歸易發生偏差。而ELM模型的參數隨機獲取,預測結果易出現較大誤差。改進的ELM預測模型克服了這些問題,可以對果園濕度指標實現可靠、準確的預測。

表4 不同預測方法預測精度對比

4 結束語

針對水蜜桃對溫濕度條件要求較高的情況,本文利用無線傳感果園溫濕度監測系統,實時獲取果園環境、天氣狀況。并通過PCA算法聯合PSO和ELM,構建PCA算法下的PSO-ELM預測模型對果園的濕度進行預測。基于果園種植條件下,空氣濕度主要受多種環境因素影響,本文將PCA方法分析各影響因素的關系,降低輸入變量的維度,去除變量間相關性;利用PSO算法優化ELM模型的輸入權值和閾值;通過訓練和測試發現,以Sigmoid為激活函數的PSO-ELM模型,RMSE為0.5038預測精度較高,與傳統線性回歸法、ELM法相比有明顯的提升。PSO-ELM適用于多變量輸入的預測模型,不僅能為果園濕度預測提供切實可行的方法,也為其他環境指標的預測提供新的思路。