流形正則化框架下的極限學(xué)習(xí)機(jī)預(yù)測(cè)鋰電池SOC方法

談發(fā)明，李秋燁，趙俊杰，王 琪

(江蘇理工學(xué)院 a.信息中心；b.電氣信息工程學(xué)院，江蘇 常州 213001)

0 引 言

鋰電池管理系統(tǒng)優(yōu)化控制的前提條件是要獲得電池荷電狀態(tài)(State of Charge,SOC)的精確值。根據(jù)當(dāng)前的SOC值來估計(jì)鋰電池續(xù)航能力，以防鋰電池在使用過程中放電過度造成電池?fù)p害而導(dǎo)致危險(xiǎn)情況發(fā)生。因此，如何精確預(yù)測(cè)鋰電池的SOC成為鋰電池管理系統(tǒng)的重點(diǎn)研究問題。

Huang等提出了基于單隱層前饋神經(jīng)網(wǎng)絡(luò)的一種極限學(xué)習(xí)機(jī)(Extreme Learning Machine，ELM)學(xué)習(xí)算法，該算法隨機(jī)產(chǎn)生隱層輸入權(quán)值和偏置，整個(gè)過程一次完成，學(xué)習(xí)效率高，被廣泛應(yīng)用于SOC預(yù)測(cè)所屬的回歸領(lǐng)域。文獻(xiàn)[1]中利用ELM針對(duì)磷酸鐵鋰電池建模預(yù)測(cè)SOC取得了較好的效果，并驗(yàn)證了預(yù)測(cè)性能超越了神經(jīng)網(wǎng)絡(luò)和支持向量機(jī)方法。文獻(xiàn)[2-4]中采用不同的啟發(fā)式搜索算法對(duì)ELM的輸入權(quán)值矩陣和隱層偏置量進(jìn)行尋優(yōu)，降低了隨機(jī)性給ELM帶來的影響，SOC預(yù)測(cè)精度較ELM直接建模有所提高。文獻(xiàn)[5-6]中為了提高ELM建立的SOC預(yù)測(cè)模型的擬合和泛化能力，采用貝葉斯方法優(yōu)化ELM的輸出層權(quán)重，實(shí)驗(yàn)結(jié)果驗(yàn)證了其預(yù)測(cè)電池SOC方面應(yīng)用的有效性。文獻(xiàn)[7]中提出基于核的ELM在線預(yù)測(cè)電池SOC，無需事先確定隱層網(wǎng)絡(luò)節(jié)點(diǎn)數(shù)量，使網(wǎng)絡(luò)輸出權(quán)值隨新樣本逐次加入遞推求解更新，提高了預(yù)測(cè)模型的泛化能力和在線學(xué)習(xí)效率。以上幾種方法中，ELM均基于經(jīng)驗(yàn)風(fēng)險(xiǎn)最小化原理，在鋰電池SOC建模預(yù)測(cè)實(shí)際應(yīng)用時(shí)還是可能出現(xiàn)過度擬合問題。

本文提出了一種流形正則化框架下的極限學(xué)習(xí)機(jī)(Manifold Regularization Extreme Learning Machine，MRELM)建模預(yù)測(cè)鋰電池SOC的方法。首先，為了提高建立預(yù)測(cè)模型的泛化性能，克服ELM采用最小二乘法求解輸出層權(quán)值，隨機(jī)初始化隱層節(jié)點(diǎn)偏置與輸入層權(quán)值所導(dǎo)致的潛在過擬合問題，在流形正則化框架內(nèi)針對(duì)極限學(xué)習(xí)機(jī)進(jìn)行泛化性能方面的優(yōu)化；其次，由于引入了流行正則化方法，導(dǎo)致存在正則化參數(shù)存在如何尋優(yōu)的問題，通過差分進(jìn)化(Differential Evolution，DE)優(yōu)化算法尋優(yōu)取得全局最優(yōu)解。最后，通過采集的鋰電池的端電壓、電流、溫度、內(nèi)阻以及SOC樣本數(shù)據(jù)進(jìn)行實(shí)驗(yàn)驗(yàn)證，取得了很好的應(yīng)用效果。

1 ELM建立預(yù)測(cè)鋰電池SOC模型

對(duì)于離線采集到的任意N組鋰電池訓(xùn)練樣本數(shù)據(jù)集{(xi,yi)}i=1,2,…,N，其中:xi=[xi1,xi2,xi3,xi4]為輸入訓(xùn)練樣本的端電壓、電流、溫度及內(nèi)阻數(shù)據(jù)；yi為標(biāo)簽樣本的SOC數(shù)據(jù)。對(duì)于含有l(wèi)個(gè)隱層節(jié)點(diǎn)的ELM，回歸模型定義為：

(1)

式中：ωi=[ωi1,ωi2,ωi3,ωi4]T是連接輸入節(jié)點(diǎn)和第i個(gè)隱含層節(jié)點(diǎn)之間的權(quán)值；bi為第i個(gè)隱層節(jié)點(diǎn)偏移量；g(ωi,bi,xi)為激活函數(shù)；βi為第i個(gè)隱層節(jié)點(diǎn)輸出權(quán)值。

據(jù)此可得到根據(jù)ELM回歸模型建立的電池的預(yù)測(cè)模型結(jié)構(gòu)如圖1所示。

將式(1)以矩陣形式表示為：

Hβ=Y

(2)

式中：Y為位置期望輸出矩陣；β為輸出權(quán)值矩陣；H為隱含層輸出矩陣,

圖1 ELM預(yù)測(cè)SOC模型結(jié)構(gòu)

(3)

ELM學(xué)習(xí)過程關(guān)鍵在于計(jì)算輸出層的權(quán)值矩陣β，利用最小二乘法求解式(2)可得

β=H+Y

(4)

式中，H+是矩陣H的Moore-Penrose廣義逆。

使用ELM建立鋰電池SOC預(yù)測(cè)模型存在以下兩點(diǎn)問題：

(1)ELM沒有能權(quán)衡好經(jīng)驗(yàn)風(fēng)險(xiǎn)和結(jié)構(gòu)風(fēng)險(xiǎn)[8]，未考慮結(jié)構(gòu)化風(fēng)險(xiǎn)，因此容易導(dǎo)致過度擬合問題，泛化性能變差；

(2)輸入的鋰電池?cái)?shù)據(jù)樣本在ELM特征空間中分布存在一定的隨機(jī)性，無法直接用最小二乘法求解和恢復(fù)這種非線性幾何結(jié)構(gòu)[9]。

2 流形正則化框架分析

流形正則化使數(shù)據(jù)在新的決策空間中能夠保持?jǐn)?shù)據(jù)在原有特征空間中的局部幾何結(jié)構(gòu)，即如果某2個(gè)單樣本點(diǎn)在原特征空間中的相似度很大，則它們?cè)谛碌耐队翱臻g中的距離應(yīng)該很近[10-11]。假設(shè)2個(gè)點(diǎn)xi和xj在相同的局部鄰域，那么其條件概率P(y|xi)和P(y|xj)也應(yīng)該相似。由于條件概率不便于計(jì)算，因此，本文采用數(shù)據(jù)樣本的預(yù)測(cè)誤差加權(quán)平方和近似，據(jù)此可定義流行正則化框架內(nèi)提出的最小化成本函數(shù)：

(5)

式中：yi和yj分別是樣本xi和xj的輸出預(yù)測(cè)值；wij為相本點(diǎn)xi和xj之間的邊權(quán)值矩陣，表示2個(gè)點(diǎn)的相似程度。采用公知的K近鄰方法,即通過計(jì)算歐式距離方式找到與樣本點(diǎn)xi距離最近的k個(gè)樣本,將這k個(gè)樣本定義為xi的鄰居。本文引入高斯核函數(shù)計(jì)算各點(diǎn)與xi的相似度,該策略可以很好地反映樣本空間的流形，以提高預(yù)測(cè)精度[12]，具體如下式所示：

wij=

(6)

式中:ρ為寬度參數(shù)；e(xi，xj)=1表示xi和xj互為鄰居關(guān)系；C(xi)=C(xj)表示xi和xj屬于同一類別。通過上述方法，可得到相似度矩陣

(7)

根據(jù)流行正則化理論，最小化式(5)中的最小成本函數(shù)，即相當(dāng)于最小化如下目標(biāo)函數(shù):

min:tr(YTLY)

(8)

3 流形正則化框架下優(yōu)化ELM

流形正則化框架下優(yōu)化ELM以特征空間作為出發(fā)點(diǎn)，通過流形學(xué)習(xí)挖掘高維空間的數(shù)據(jù)幾何結(jié)構(gòu)，在ELM算法中引入流形正則化項(xiàng)，約束輸出模型的幾何形狀，能有效解決模型高復(fù)雜度引起的泛化性能下降問題[13]。將式(8)引入到ELM目標(biāo)函數(shù)中,則構(gòu)成了流形正則框下的極限學(xué)習(xí)機(jī)學(xué)習(xí)方法，MRELM的目標(biāo)函數(shù)如下所示：

(9)

式中:L是由在ELM特征空間中的樣本求得；正則化參數(shù)C1用來平衡ELM的經(jīng)驗(yàn)風(fēng)驗(yàn)和結(jié)構(gòu)風(fēng)險(xiǎn)；C2為流形正則化結(jié)構(gòu)中的正則化參數(shù)，其對(duì)應(yīng)目標(biāo)函數(shù)中第3項(xiàng)的主要作用在于使ELM 特征空間中相似度較大的數(shù)據(jù)在決策空間中的距離較小，即在決策空間中保持?jǐn)?shù)據(jù)在原 ELM 特征空間中的幾何結(jié)構(gòu)性質(zhì)。將約束項(xiàng)代入目標(biāo)函數(shù),上式可以表示為如下形式：

(10)

流形正則化框架下優(yōu)化極限學(xué)習(xí)機(jī)不僅考慮了數(shù)據(jù)的結(jié)構(gòu)特性，而且折中了經(jīng)驗(yàn)風(fēng)險(xiǎn)和結(jié)構(gòu)風(fēng)險(xiǎn)[14]。進(jìn)一步對(duì)矩陣β求導(dǎo)為零可得：

β=(HTH+C1I+C2HTLH)+HTT

(11)

此解不但可以達(dá)到最小訓(xùn)練誤差，同時(shí)對(duì)野值有一定的抗干擾能力，具有相當(dāng)高效的泛化能力。總結(jié)MRELM算法實(shí)現(xiàn)步驟具體描述如下：

輸入N個(gè)采集到的鋰電池訓(xùn)練樣本數(shù)據(jù)集{(xi,yi)}。

輸出隱層節(jié)點(diǎn)的輸出矩陣β。① 使用K近鄰法計(jì)算單個(gè)樣本與相鄰相本距離，計(jì)算相似度，構(gòu)建相似度矩陣W；② 計(jì)算圖拉普拉斯陣L；③ 設(shè)置ELM隱層節(jié)點(diǎn)數(shù)，激活函數(shù)形式、極值及偏置;④ 計(jì)算隱層輸出矩陣H;⑤ 計(jì)算隱層和輸出層之間的權(quán)值矩陣β。

4 利用DE算法尋優(yōu)MRELM正則化參數(shù)

DE算法是一種高效的全局優(yōu)化算法，它是基于群體的啟發(fā)式搜索算法，群中的每個(gè)個(gè)體對(duì)應(yīng)一個(gè)相應(yīng)的解向量[3]。利用DE算法優(yōu)化MRELM模型正則化參數(shù)C1和C2，以采集的鋰電池樣本數(shù)據(jù)作為訓(xùn)練樣本，具體迭代步驟如下：

步驟1初始化交叉概率CR、搜索維數(shù)D、縮放因子F以及種群數(shù)量，種群初值通過以下式子來進(jìn)行初始化：

xi=xmin+rand (xmax-xmin)

(12)

式中：xmin、xmax是其某一維的取值邊界；rand為(0,1)之間的隨機(jī)數(shù)。

步驟2父代個(gè)體間選擇兩個(gè)個(gè)體進(jìn)行向量做差生成差分矢量，然后，選擇另外一個(gè)個(gè)體與差分矢量求和生成實(shí)驗(yàn)個(gè)體，完成變異操作。縮放因子F主要影響算法的全局尋優(yōu)能力。F越小，算法對(duì)局部的搜索能力更好；F越大算法越能跳出局部極小點(diǎn)，但是收斂速度會(huì)變慢。

步驟3選擇好交叉概率CR，將變異向量與目標(biāo)向量進(jìn)行交叉操作得到最新的實(shí)驗(yàn)向量ui。CR主要反映的是在交叉的過程中，子代與父代、中間變異體之間交換信息量的大小程度。CR的值越大，信息量交換的程度越大。

步驟4DE采用貪婪選擇的策略，選擇較優(yōu)的個(gè)體作為新的個(gè)體，選擇過程分2種情況：

① 如果f(ui)

② 如果f(ui)>f(xi)，則xi+1=xi，

(13)

5 實(shí)驗(yàn)與分析

5.1 樣本數(shù)據(jù)采集分析

實(shí)驗(yàn)樣本數(shù)據(jù)的獲取采用多物理場(chǎng)仿真軟件COMSOL對(duì)石墨/LMO鋰電池采用電化學(xué)方程模型建模仿真得到。電池內(nèi)部模型域構(gòu)成主要為：負(fù)多孔電極采用石墨(MCMB LixC6)活性材料和電子導(dǎo)體；正多孔電極采用LMO(LiMn2O4)活性材料、電子導(dǎo)體及填料；電解質(zhì)采用1.0 mol/L LiPF6 in EC:DEC(質(zhì)量比為1∶1)。實(shí)驗(yàn)鋰電池對(duì)象組件的電壓約4 V，模擬測(cè)試工況為油電混動(dòng)汽車駕駛循環(huán)。

以1 Hz的頻率采集測(cè)試過程中鋰電池的端電壓、電流、溫度、極化內(nèi)阻及SOC數(shù)據(jù)，共獲取601組樣本數(shù)據(jù)，采集數(shù)據(jù)建模輸入樣本信息如圖2所示。

(a) 電壓樣本(b) 電流樣本

(c) 溫度樣本(d) 極化內(nèi)阻

圖2 鋰電池樣本數(shù)據(jù)

圖2(a)為鋰電池端電壓；圖2(b)為鋰電池在測(cè)試工況條件下的樣本電流數(shù)據(jù)，設(shè)定負(fù)載放電倍率為20C(1C=12 A)。由于模擬測(cè)試工況存在再生制動(dòng)過程，會(huì)導(dǎo)致圖3中的SOC變化時(shí)而呈現(xiàn)出增加趨勢(shì)波動(dòng)，對(duì)應(yīng)電池電流的負(fù)值部分，符合實(shí)際應(yīng)用情況；圖2(c)表示電池表面溫度隨著電池的使用緩慢上升狀態(tài)，溫度的變化對(duì)鋰電池內(nèi)阻的影響也較大。圖2(d)中的電池極化內(nèi)阻變化劇烈，說明電池內(nèi)部極化和濃差反應(yīng)較強(qiáng)。由圖3可知，鋰電池在使用過程中SOC整體趨勢(shì)呈緩慢下降態(tài)勢(shì)。

圖3 鋰電池SOC變化曲線

5.2 建模性能測(cè)試分析

從驗(yàn)證有效性的角度出發(fā)檢驗(yàn)算法建立預(yù)測(cè)模型的泛化性能。在實(shí)驗(yàn)獲得樣本數(shù)據(jù)中選取奇數(shù)項(xiàng)數(shù)據(jù)用于訓(xùn)練建模;偶數(shù)項(xiàng)數(shù)據(jù)用于對(duì)所建預(yù)測(cè)模型的測(cè)試。系統(tǒng)運(yùn)行軟件條件為Matlab 2016b，硬件條件為Core i3二代處理器和8GB DDR3內(nèi)存的臺(tái)式電腦。

由于鋰電池電壓、電流、溫度及內(nèi)阻在采集時(shí)使用不同的單位，表示含義不一，在數(shù)量級(jí)上存在很大的差別，影響算法收斂速度和精度。在訓(xùn)練模型之前，本文采用0均值標(biāo)準(zhǔn)化方法將這些數(shù)據(jù)處理為歸一化為[0,1]范圍內(nèi)的新數(shù)據(jù)，去掉量綱，使指標(biāo)之間更具可比性[15]。

DE-MRELM算法中除正則化參數(shù)外的其他參數(shù)設(shè)置如下：

(1)MRELM部分。隱層節(jié)點(diǎn)個(gè)數(shù)l=30，激活函數(shù)采用Sigmod函數(shù)形式，K近鄰法最近鄰數(shù)k=12，高斯核函數(shù)寬度參數(shù)ρ=1；

(2)DE部分。種群規(guī)模N=30，搜索維數(shù)D=2，迭代次數(shù)tmax=200、交叉概率CR=0.2，縮放因子F=0.5，待尋優(yōu)的正則化參數(shù)C1和C2的取值范圍為[0.01,1 500]。圖4進(jìn)化曲線說明利用DE算法優(yōu)化MRELM的正則化參數(shù)，不僅收斂速度快，而且精度高。采用這種方式尋優(yōu)正則化參數(shù)的最終結(jié)果為C1=767.4及C2=1 024。

圖4 目標(biāo)函數(shù)值進(jìn)化曲線

為了說明MRELM建立預(yù)測(cè)模型的性能優(yōu)勢(shì)，利用MRELM、ELM以及最小二乘支持向量機(jī)(Least Squares Support Vector Machine，LSSVM)3種方法在相同樣本數(shù)據(jù)條件下建立預(yù)測(cè)模型進(jìn)行測(cè)試效果比較。ELM和MRELM公共部分參數(shù)設(shè)置相同；LSSVM的核函數(shù)形式選擇RBF，采用DE算法尋優(yōu)LSSVM正則化參數(shù)和核函數(shù)參數(shù)，其對(duì)應(yīng)值分別為0.1和99.76；3種方法的測(cè)試結(jié)果如圖5所示。

圖5中3種方法預(yù)測(cè)值和真實(shí)值的咬合度都比較緊密，收斂精度較高。但ELM建立的預(yù)測(cè)模型在多個(gè)測(cè)試點(diǎn)出現(xiàn)過擬合的現(xiàn)象，泛化性能不足。LSSVM建立的預(yù)測(cè)模型在精度方面和MRELM對(duì)比還是有所欠缺，MRELM方法在鋰電池能量回饋較多的區(qū)域，仍然能夠保持較強(qiáng)的跟蹤響應(yīng)速度和精度，總體性能最優(yōu)。由圖6可見，應(yīng)用MRELM算法預(yù)測(cè)準(zhǔn)確度最高，誤差小，誤差分布均勻密集。

圖5 建模預(yù)測(cè)結(jié)果比較

圖6 預(yù)測(cè)結(jié)果誤差比較

為了進(jìn)一步評(píng)價(jià)3種算法的優(yōu)劣，利用訓(xùn)練時(shí)間和預(yù)測(cè)結(jié)果的絕對(duì)誤差及相對(duì)誤差作為衡量標(biāo)準(zhǔn)，絕對(duì)誤差EA和相對(duì)誤差ER的定義如下：

(13)

誤差結(jié)果如表1所示。

表1 不同方法的性能比較

從表1的性能比較結(jié)果可以看出，MRELM建立的預(yù)測(cè)模型精度最高，但訓(xùn)練時(shí)間稍長(zhǎng)，其主要原因就是在于訓(xùn)練前需要對(duì)樣本數(shù)據(jù)進(jìn)行特征空間映射，建立圖拉普拉斯矩陣花費(fèi)了較多的時(shí)間。總體而言，應(yīng)用MRELM方法建立鋰電池SOC預(yù)測(cè)模型性能更加優(yōu)越。

6 結(jié) 論

(1)分析了ELM算法建立鋰電池SOC預(yù)測(cè)模型的方法，并指出其建立模型存在的缺陷。

(2)引入流形正則化框架結(jié)構(gòu)優(yōu)化ELM構(gòu)成MRELM，并用DE算法尋優(yōu)MRELM的正則化參數(shù)，能有效提高所建模型預(yù)測(cè)鋰電池SOC的精度和泛化能力，給出了方法具體的實(shí)現(xiàn)步驟。

(3)采集鋰電池的實(shí)驗(yàn)樣本數(shù)據(jù)，利用MRELM、ELM以及LSSVM 3種方法建立預(yù)測(cè)模型進(jìn)行測(cè)試比較，實(shí)驗(yàn)結(jié)果表示MRELM算法建立的模型性能占優(yōu)，有很好的推廣應(yīng)用價(jià)值。