基于LSTM的重要用戶電能質(zhì)量趨勢預(yù)測分析模型

趙長偉，駢睿珺，杜天碩，葛磊蛟

（1.國網(wǎng)天津市電力公司城東供電分公司，天津 300260；2.天津大學(xué)電氣自動(dòng)化與信息工程學(xué)院，天津 300072）

隨著電網(wǎng)的不斷發(fā)展以及電網(wǎng)中各類影響電能質(zhì)量新“污染源”的接入，如何為用戶提供安全、可靠的電力供應(yīng)已經(jīng)成為近些年來電力科研者研究的主要課題[1]。重要電力用戶為保證企業(yè)的效益與安全則重點(diǎn)關(guān)注供電的電能質(zhì)量水平[2]，如電壓偏差、電壓總諧波畸變率、電壓的波動(dòng)與閃變等，因此對電能質(zhì)量趨勢變化進(jìn)行預(yù)測分析，有利于運(yùn)維人員提前掌握電能質(zhì)量狀況并迅速采取相關(guān)措施進(jìn)行改善，挖掘電力數(shù)字化信息系統(tǒng)和各類量測系統(tǒng)積累的大量數(shù)據(jù)價(jià)值[3]，為提高供電質(zhì)量和提供定制電力等增值服務(wù)做好支撐，保證電力系統(tǒng)的安全穩(wěn)定運(yùn)行。

目前，對電能質(zhì)量指標(biāo)趨勢變化預(yù)測研究的方法主要有回歸分析、時(shí)間序列、灰色預(yù)測、神經(jīng)網(wǎng)絡(luò)等[4]。基于電力物聯(lián)網(wǎng)提供的信息基礎(chǔ)，以智能電表等智能計(jì)量設(shè)備和相應(yīng)的信息通訊技術(shù)迅速提升，使得海量的用電數(shù)據(jù)在用戶側(cè)產(chǎn)生，這些數(shù)據(jù)通常包含用電行為與電能質(zhì)量的內(nèi)在規(guī)律和衍生信息?；谶@些電力大數(shù)據(jù)，相關(guān)學(xué)者已經(jīng)開始通過數(shù)據(jù)挖掘等技術(shù)獲取其中有價(jià)值的信息[5]，探究數(shù)據(jù)驅(qū)動(dòng)的電能質(zhì)量趨勢變化預(yù)測方法。文獻(xiàn)[6]通過混沌理論和最小二乘支持向量機(jī)的方法構(gòu)建電能質(zhì)量穩(wěn)態(tài)指標(biāo)預(yù)測模型，以監(jiān)測點(diǎn)大數(shù)據(jù)樣本為依據(jù)對電能質(zhì)量的典型指標(biāo)包括電壓偏差、電壓諧波總畸變率以及長時(shí)閃變進(jìn)行預(yù)測，不同的指標(biāo)預(yù)測精度有所差異，同時(shí)效果僅可滿足工程需求。文獻(xiàn)[7]通過線性回歸模型和灰色模型對電能質(zhì)量相關(guān)指標(biāo)進(jìn)行預(yù)測，并構(gòu)建基于預(yù)測數(shù)據(jù)的預(yù)警機(jī)制，將預(yù)警劃分為4個(gè)等級，可以在電能質(zhì)量指標(biāo)異?；虺瑯?biāo)前，發(fā)布預(yù)警信息。上述研究僅針對電能質(zhì)量指標(biāo)的歷史數(shù)據(jù)進(jìn)行研究，沒有利用可以表征電能質(zhì)量的多維度特征數(shù)據(jù)，對拐點(diǎn)的預(yù)測效果較差。文獻(xiàn)[8]提出一種基于長短時(shí)記憶網(wǎng)絡(luò)的穩(wěn)態(tài)電壓質(zhì)量指標(biāo)預(yù)測方法，分析有功功率與電壓質(zhì)量指標(biāo)的關(guān)聯(lián)性，篩選出用電特征與電能質(zhì)量變化規(guī)律相關(guān)程度高的用戶，并以此作為電能質(zhì)量預(yù)測的特征輸入，具有較好的效果。文獻(xiàn)[9]為提高預(yù)測精度，綜合考慮氣象因素、有功負(fù)荷及歷史電能質(zhì)量等數(shù)據(jù)并將其作為輸入變量，并通過多種算法對電能質(zhì)量穩(wěn)態(tài)指標(biāo)進(jìn)行預(yù)測比較。文獻(xiàn)[10]同樣以大量的電能質(zhì)量歷史數(shù)據(jù)、環(huán)境因素及負(fù)荷數(shù)據(jù)為依據(jù)，利用長短時(shí)記憶網(wǎng)絡(luò)進(jìn)行預(yù)測。由文獻(xiàn)[8-10]可知，對電能質(zhì)量的趨勢變化進(jìn)行預(yù)測時(shí)可選擇的輸入特征多種多樣，但是其與電能質(zhì)量變化規(guī)律的相關(guān)程度有高有低。與預(yù)測值相關(guān)程度高的特征值之間相互補(bǔ)充可以有效提高預(yù)測精度，實(shí)現(xiàn)對重要用戶電能質(zhì)量趨勢變化的準(zhǔn)確預(yù)判。

本文以上述研究為出發(fā)點(diǎn)，提出一種基于距離相關(guān)系數(shù)和長短時(shí)記憶網(wǎng)絡(luò)的重要用戶電能質(zhì)量趨勢變化預(yù)測方法，對收集到的用戶多維度用電特征數(shù)據(jù)利用距離相關(guān)系數(shù)進(jìn)行篩選，根據(jù)樣本特征利用LSTM進(jìn)行預(yù)測。最后，在實(shí)例分析中以電能質(zhì)量的重要指標(biāo)電壓總諧波畸變率、電壓偏差、短時(shí)閃變?yōu)槟繕?biāo)值，通過模型得到各個(gè)指標(biāo)的趨勢變化結(jié)果，并對預(yù)測結(jié)果進(jìn)行分析評價(jià)。

1 相關(guān)理論原理

近年來，機(jī)器學(xué)習(xí)和深度學(xué)習(xí)取得了迅速的發(fā)展，并在許多工程領(lǐng)域得到了廣泛的應(yīng)用[11]。文中模型的輸入為多模態(tài)時(shí)序數(shù)據(jù)，具有典型的時(shí)間特性，利用模型所得到的結(jié)果不僅與當(dāng)前輸入有關(guān)，而且與過去的輸入相關(guān)，故采用循環(huán)神經(jīng)網(wǎng)絡(luò)能夠較好地解決問題。但是當(dāng)時(shí)間序列過長時(shí)循環(huán)神經(jīng)網(wǎng)絡(luò)存在梯度爆炸和梯度消失等問題[12]，長短時(shí)記憶LSTM[13]（long short-term memory）網(wǎng)絡(luò)為改進(jìn)后的循環(huán)神經(jīng)網(wǎng)絡(luò)，彌補(bǔ)了RNN存在的缺點(diǎn)，當(dāng)處理長距離的時(shí)序信息也可使得循環(huán)神經(jīng)網(wǎng)絡(luò)能夠真正有效地對其利用，是目前最先進(jìn)的用于序列學(xué)習(xí)任務(wù)的深度學(xué)習(xí)體系結(jié)構(gòu)之一[14]。

1.1 LSTM神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)

LSTM網(wǎng)絡(luò)與RNN一樣由輸入層、隱藏層和輸出層組成，同時(shí)在其基礎(chǔ)上增加了一個(gè)狀態(tài)單元c，并通過遺忘門、輸入門、輸出門讓信息有選擇地影響LSTM網(wǎng)絡(luò)每個(gè)時(shí)刻的狀態(tài)，LSTM內(nèi)部結(jié)構(gòu)如圖1所示。LSTM單元在t時(shí)刻有3個(gè)輸入：當(dāng)前時(shí)刻網(wǎng)絡(luò)的輸入值x t；上一時(shí)刻LSTM隱含層的輸出值h t-1；上一時(shí)刻的單元狀態(tài)c t-1。LSTM單元在t時(shí)刻有2個(gè)輸出：當(dāng)前時(shí)刻隱含層的輸出值h t和單元狀態(tài)c t。

圖1 LSTM網(wǎng)絡(luò)內(nèi)部結(jié)構(gòu)Fig.1 Internal structure of LSTM network

1）遺忘門

式中：f t是當(dāng)前時(shí)刻控制遺忘信息的比例系數(shù)；σ是sigmoid激活函數(shù)，作用是將運(yùn)算后得到的數(shù)據(jù)光滑地映射到（0，1）區(qū)間，恰好對應(yīng)了“控制門”的開關(guān)程度；W f是遺忘門的權(quán)重矩陣；b f是遺忘門的偏置項(xiàng)。

式中，權(quán)重矩陣W f由兩個(gè)權(quán)重矩陣組成，一個(gè)是W fh另一個(gè)是W fx，分別對應(yīng)輸入項(xiàng)h t-1和x t。

遺忘門的作用是讓LSTM“忘記”之前無用的信息，假設(shè)t時(shí)刻LSTM的輸入時(shí)間序列x t=時(shí)刻隱含層輸出將兩者作為輸入通過式（1）得到?jīng)Q定遺忘信息比例的系數(shù)f t，f t接近于0的維度上的信息會(huì)被完全忘記，而f t接近于1的維度上的信息會(huì)被完全保留。

2）輸入門

式中：i t是當(dāng)前時(shí)刻控制輸入信息的比例系數(shù)；W i是輸入門的權(quán)重矩陣，由對應(yīng)于h t-1和x t的W ih和W ix權(quán)重矩陣組成；b i為輸入門的偏置項(xiàng)。

式中：為當(dāng)前時(shí)刻候選單元狀態(tài)；tanh為激活函數(shù)，與sigmoid激活函數(shù)不同的是tanh激活函數(shù)將數(shù)據(jù)平滑地映射到（-1，1）區(qū)間；W c為候選單元狀態(tài)的權(quán)重矩陣，由對應(yīng)于h t-1和x t的W ch和W cx權(quán)重矩陣組成；b c為候選單元狀態(tài)的偏置項(xiàng)。

LSTM網(wǎng)絡(luò)需要從當(dāng)前的輸入中補(bǔ)充最新的信息，這個(gè)過程通過“輸入門”完成。首先，“輸入門”通過式（3）得到控制輸入信息的比例系數(shù)i t決定候選單元狀態(tài)中哪些信息加入到上一個(gè)單元狀態(tài)c t-1中以生成新的狀態(tài)c t。其次，通過式（5）將h t-1和x t作為輸入得到候選單元狀態(tài)c?t。最后，通過式（7）由f t按元素乘以上一次的單元狀態(tài)c t-1，再用當(dāng)前候選單元狀態(tài)c?t按元素乘以i t，將兩者相加得到當(dāng)前單元狀態(tài)c t。

3）輸出門

式中：o t為當(dāng)前時(shí)刻控制輸出信息的比例系數(shù)；W o為輸出門的權(quán)重矩陣，由對應(yīng)于h t-1和x t的W oh和W ox權(quán)重矩陣組成；b o為輸出門的偏置項(xiàng)。

LSTM產(chǎn)生當(dāng)前時(shí)刻的輸出過程是通過“輸出門”完成的。首先通過式（8）得到控制“輸出門”開關(guān)程度的參數(shù)o t，然后通過式（10）將最新的單元狀態(tài)c t通過激活函數(shù)tanh運(yùn)算后與o t對應(yīng)參數(shù)相乘得到當(dāng)前時(shí)刻的輸出h t。

具體到本文，LSTM網(wǎng)絡(luò)模型的輸入x為篩選后的電力用戶用電特征數(shù)據(jù)和電能質(zhì)量歷史監(jiān)測數(shù)據(jù)，最終模型輸出量即為電能質(zhì)量指標(biāo)數(shù)據(jù)預(yù)測值。

1.2 LSTM網(wǎng)絡(luò)訓(xùn)練

針對LSTM等神經(jīng)網(wǎng)絡(luò)模型目前主流的訓(xùn)練方法有BPTT（back propagation through time）和RTRL（real-time recurrent learning）。兩者均為基于梯度下降的算法，其中RTRL的迭代方向與前向傳播方向一致，計(jì)算量較大，而BPTT算法概念清晰且計(jì)算高效，在計(jì)算時(shí)間上較RTRL更有優(yōu)勢，因此本文采用BPTT算法來訓(xùn)練LSTM網(wǎng)絡(luò)。

LSTM網(wǎng)絡(luò)的訓(xùn)練主要分為4個(gè)步驟。

步驟1將劃分好的訓(xùn)練集的數(shù)據(jù)輸入到LSTM中，前向計(jì)算每個(gè)神經(jīng)元的輸出值，對于LSTM網(wǎng)絡(luò)來說即為f t、i t、o t、h t、c t5個(gè)向量的值，相關(guān)表達(dá)式已經(jīng)在1.1節(jié)中說明。

步驟2反向計(jì)算每個(gè)神經(jīng)元的誤差項(xiàng)δ。LSTM的誤差項(xiàng)不僅沿時(shí)間進(jìn)行反向傳播，而且也向上一層傳播。

步驟3根據(jù)誤差項(xiàng)重新計(jì)算各權(quán)重矩陣的梯度，同時(shí)將偏置項(xiàng)b f、b i、b o、b c各個(gè)時(shí)刻的梯度相加得到最后的梯度。

步驟4根據(jù)梯度與學(xué)習(xí)率更新對應(yīng)權(quán)值，采用適應(yīng)性動(dòng)量估計(jì)（Adam）梯度優(yōu)化算法，其優(yōu)點(diǎn)為能較好地處理稀疏梯度、噪音樣本，同時(shí)對目標(biāo)函數(shù)沒有平穩(wěn)要求。

2 電能質(zhì)量預(yù)測模型構(gòu)建

2.1 模型構(gòu)建流程

如圖2所示，LSTM模型構(gòu)建與實(shí)現(xiàn)分為3個(gè)步驟。

圖2 預(yù)測模型流程Fig.2 Flow chart of prediction model

步驟1對采集到的重要用戶用電特征與電能質(zhì)量監(jiān)測數(shù)據(jù)進(jìn)行數(shù)據(jù)集劃分、標(biāo)準(zhǔn)化等預(yù)處理。框圖中預(yù)處理后的數(shù)據(jù)分為兩部分：第一部分為模型訓(xùn)練時(shí)需要輸入的特征數(shù)據(jù)；另一部分為電能質(zhì)量指標(biāo)數(shù)據(jù)，結(jié)合模型所得結(jié)果完成損失函數(shù)的計(jì)算。

步驟2通過特征選擇確定用于模型訓(xùn)練所需要的輸入特征與目標(biāo)值，并初步確定LSTM網(wǎng)絡(luò)的相關(guān)參數(shù)進(jìn)行訓(xùn)練?？驁D中全連接層（dense）的輸出也分為兩部分：第一部分為訓(xùn)練時(shí)所得模型結(jié)果，其作用是結(jié)合實(shí)際結(jié)果優(yōu)化模型參數(shù)；另一部分為測試時(shí)的電能質(zhì)量指標(biāo)預(yù)測結(jié)果，該部分為最終所需要的數(shù)據(jù)。

步驟3以Adam為優(yōu)化算法，通過1.2節(jié)所述步驟訓(xùn)練優(yōu)化參數(shù)完成模型的建立，并利用測試集數(shù)據(jù)進(jìn)行性能檢驗(yàn)與模型評估。

2.2 數(shù)據(jù)預(yù)處理

重要用戶用電特征之間以及與電能質(zhì)量之間的量綱不同，同時(shí)數(shù)量級之間也有差別，比如電壓總諧波畸變率為百分?jǐn)?shù)，而功率則達(dá)kW甚至MW級，所以需要進(jìn)行特征縮放。縮放后的多維度特征無量綱且具有相近的尺度，可以使梯度下降算法更快的收斂。處理的方法包括歸一化[15]和標(biāo)準(zhǔn)化，而歸一化易受最大最小值影響，同時(shí)每次新添加值為最值時(shí)還需要重新定義，所以本文采用標(biāo)準(zhǔn)化對數(shù)據(jù)進(jìn)行預(yù)處理。

對重要用戶某一用電特征數(shù)據(jù)進(jìn)行標(biāo)準(zhǔn)化處理方法如式（10）所示，將其轉(zhuǎn)化為均值為0，標(biāo)準(zhǔn)差為1的數(shù)據(jù)，即

式中：x′為標(biāo)準(zhǔn)化后的數(shù)據(jù)；x為某一特征原始數(shù)據(jù)樣本；xˉ為樣本均值；σ(x)為樣本標(biāo)準(zhǔn)差。

經(jīng)過模型預(yù)測得到的結(jié)果再進(jìn)行反標(biāo)準(zhǔn)化后使其具有物理意義，反標(biāo)準(zhǔn)化公式為

2.3 特征選擇

近年來，隨著電力大數(shù)據(jù)的增長和相應(yīng)監(jiān)測技術(shù)的迅速提升，使得海量的電力數(shù)據(jù)在用戶側(cè)產(chǎn)生[16]，為基于多維度電力數(shù)據(jù)的電能質(zhì)量趨勢預(yù)測分析提供了嶄新的思路。針對重要用戶的電能質(zhì)量趨勢預(yù)測，可選擇的特征較多，但是冗余的特征不僅不會(huì)給算法帶來新的有效的信息，反而造成信息的冗余[17]，降低模型的性能。因此，構(gòu)建模型時(shí)十分有必要采取一種方法對輸入特征進(jìn)行篩選，進(jìn)而提高電能質(zhì)量趨勢預(yù)測的準(zhǔn)確度。

利用Pearson相關(guān)系數(shù)可以作為選擇特征的依據(jù)[18]，但是局限于線性關(guān)系，而電能質(zhì)量相關(guān)指標(biāo)函數(shù)是多變量、強(qiáng)非線性函數(shù)，Pearson相關(guān)系數(shù)無法準(zhǔn)確反映目標(biāo)值與特征向量之間的相關(guān)程度，為此Szekely等定義了距離相關(guān)系數(shù)概念，彌補(bǔ)了Pearson相關(guān)系數(shù)的不足。故本文采用距離相關(guān)系數(shù)（distance correlation coefficient）過濾掉低相關(guān)系數(shù)特征，實(shí)現(xiàn)特征降維并以該特征作為LSTM模型的輸入，避免特征冗余影響模型性能。假設(shè)采集到的樣本數(shù)據(jù)個(gè)數(shù)為n，定義X樣本為電壓、電流、有功功率等特征數(shù)據(jù)，Y樣本為電壓總諧波畸變率、電壓偏差、短時(shí)閃變等電能質(zhì)量指標(biāo)，兩個(gè)樣本間距離相關(guān)系數(shù)公式為

式中：R2(X,Y)為X，Y兩樣本數(shù)據(jù)的距離相關(guān)系數(shù)；X i、X j、X k、X l分別為某一輸入特征數(shù)據(jù)集中第i、j、k、l個(gè)樣本；Yi、Y j、Y k、Yl分別為某一電能質(zhì)量指標(biāo)數(shù)據(jù)集中第i、j、k、l個(gè)樣本。v2(X,X)、v2(Y,Y)均可通過上述公式求出。

在本文中以電壓、電流、有功功率、零序電流、功率因數(shù)、無功功率、頻率等為原始特征，目標(biāo)值采用電壓偏差、電壓總諧波畸變率與短時(shí)閃變等電能質(zhì)量指標(biāo)，篩選出與電能質(zhì)量數(shù)據(jù)相關(guān)性強(qiáng)的特征，將其作為預(yù)測模型的輸入變量相互補(bǔ)充和增強(qiáng)，提升模型對電能質(zhì)量趨勢預(yù)測的效果，具體將在下文算例分析中進(jìn)行描述。

2.4 模型評估

本文采用典型模型評估指標(biāo)平均絕對誤差MAE（mean absolute error）和均方誤差MSE（mean squared error）評估LSTM模型預(yù)測效果。

式中：y為測試集樣本目標(biāo)值真實(shí)值；y?為LSTM模型輸出目標(biāo)值；m為測試集樣本個(gè)數(shù)。

3 實(shí)例分析

3.1 數(shù)據(jù)說明

本文數(shù)據(jù)由天津某重要用戶監(jiān)測點(diǎn)每3 s采集一次得到，4月20日—23日3天內(nèi)采集共計(jì)86 937個(gè)樣本數(shù)據(jù)。用電數(shù)據(jù)包括動(dòng)態(tài)用電數(shù)據(jù)信息與靜態(tài)用電數(shù)據(jù)信息，其中靜態(tài)數(shù)據(jù)信息有用戶基本信息、電表廠家型號等，但由于無法體現(xiàn)電能質(zhì)量趨勢變化，本文不作分析。動(dòng)態(tài)用電數(shù)據(jù)信息包括監(jiān)測點(diǎn)電壓、電流、有功功率、頻率、功率因數(shù)等。同時(shí)本文采用電壓偏差(ΔU)、電壓總諧波畸變率THDU（total harmonic distortion of voltage）與短時(shí)閃變(P st)等電能質(zhì)量指標(biāo)數(shù)據(jù)為預(yù)測目標(biāo)。原始電壓偏差、電壓總諧波畸變率、短時(shí)間閃變等典型電能質(zhì)量指標(biāo)隨時(shí)間變化數(shù)據(jù)如圖3~圖5所示，可以看出有明顯的時(shí)間周期特性，通過式（10）對采集到的數(shù)據(jù)進(jìn)行標(biāo)準(zhǔn)化處理，并將標(biāo)準(zhǔn)化后的數(shù)據(jù)集以6：2：2的比例劃分為訓(xùn)練集、驗(yàn)證集、測試集。其中訓(xùn)練集用來訓(xùn)練模型，然后通過驗(yàn)證集對超參數(shù)進(jìn)行調(diào)整，最后對電壓偏差、電壓總諧波畸變率、短時(shí)間閃變進(jìn)行預(yù)測并通過測試集數(shù)據(jù)進(jìn)行模型評估，后文將具體講述利用長短時(shí)記憶網(wǎng)絡(luò)進(jìn)行預(yù)測分析流程。

圖3 電壓偏差時(shí)間序列Fig.3 Time series of voltage deviation

圖4 電壓總諧波畸變率時(shí)間序列Fig.4 Time series of THDU

圖5 短時(shí)閃變時(shí)間序列Fig.5 Time series of short-term flicker

3.2 相關(guān)性分析

本實(shí)驗(yàn)將對采集到的多維度原始特征數(shù)據(jù)與電能質(zhì)量指標(biāo)數(shù)據(jù)進(jìn)行相關(guān)性計(jì)算，同時(shí)對所得距離相關(guān)系數(shù)進(jìn)行排序如表1所示。實(shí)驗(yàn)分析可知當(dāng)排名第4的變量加入時(shí)模型性能有所下降，所以篩選出排名前3的變量作為模型的輸入。

表1 輸入變量與電能質(zhì)量指標(biāo)距離相關(guān)系數(shù)Tab.1 Distance correlation coefficient between input variables and power quality indexes

由表1可知，重要用戶電壓與3個(gè)電能質(zhì)量指標(biāo)的距離相關(guān)系數(shù)均較高，說明該用戶電壓情況與電能質(zhì)量變化緊密相關(guān)，在后續(xù)的電能監(jiān)測中應(yīng)重點(diǎn)監(jiān)測該用戶電壓變化情況，作為電能質(zhì)量預(yù)測的重要依據(jù)。

同時(shí)另外3個(gè)變量與電能質(zhì)量指標(biāo)的距離相關(guān)系數(shù)過低，尤其是功率因數(shù)，說明監(jiān)測點(diǎn)所得到數(shù)據(jù)具有一定局限性，本文所采用的原始數(shù)據(jù)輸入特征維度較少，后續(xù)應(yīng)考慮監(jiān)測更多的變量，為重要用戶電能質(zhì)量變化規(guī)律預(yù)測提供相關(guān)程度更高的輸入量，提高模型預(yù)測的準(zhǔn)確度。

3.3 模型參數(shù)設(shè)置

長短時(shí)記憶網(wǎng)絡(luò)訓(xùn)練在輸入時(shí)需要確定多個(gè)超參數(shù)，其中input_size為輸入特征維數(shù)，本文中為重要用戶的電壓、有功功率、電流，所以input_size為3。step_time為每個(gè)樣本包含的時(shí)間序列長度也即滑窗的長度。通過驗(yàn)證，合適的滑窗長度既可以增加模型訓(xùn)練速度也可以提高模型的性能，在本文中設(shè)置time_step為10。hidden_size為隱含層神經(jīng)元維度即h的維數(shù)，本模型采用h維度分別為16和5的兩層LSTM網(wǎng)絡(luò)。batch_size為一次輸入訓(xùn)練網(wǎng)絡(luò)的樣本個(gè)數(shù)，其值越大訓(xùn)練的速度越快，但是模型的性能有所下降，適當(dāng)?shù)腷atch_size不僅提高訓(xùn)練的速度也可使梯度下降方向更加準(zhǔn)確，加快結(jié)果誤差的收斂速度，在本文中設(shè)置batch_size為72，損失函數(shù)采用MSE迭代次數(shù)為16次。訓(xùn)練LSTM網(wǎng)絡(luò)的過程中可能存在過擬合現(xiàn)象，導(dǎo)致模型在測試集合表現(xiàn)不佳，解決問題的簡單方法是指定參數(shù)“dropout”提高神經(jīng)網(wǎng)絡(luò)的泛化能力，經(jīng)實(shí)驗(yàn)分析可知，本模型采用參數(shù)dropout為0.3時(shí)預(yù)測效果較好，后文將對模型預(yù)測結(jié)果進(jìn)行具體分析。

3.4 實(shí)驗(yàn)結(jié)果與分析

本文基于Tensorflow深度學(xué)習(xí)框架構(gòu)建模型分別以電壓偏差、電壓總諧波畸變率、短時(shí)閃變?yōu)槟繕?biāo)值進(jìn)行預(yù)測，訓(xùn)練過程訓(xùn)練集損失函數(shù)與驗(yàn)證集合損失函數(shù)如圖6所示，由于訓(xùn)練數(shù)據(jù)已經(jīng)進(jìn)行標(biāo)準(zhǔn)化所以損失函數(shù)值沒有量綱。其中，train_loss為訓(xùn)練集損失函數(shù)值，val_loss為驗(yàn)證集損失函數(shù)值，可以看出隨著每一輪的迭代訓(xùn)練集損失函數(shù)和驗(yàn)證集損失函數(shù)都不斷下降，并趨近于0，說明模型參數(shù)設(shè)置較為合理。

圖6 訓(xùn)練過程的損失函數(shù)Fig.6 Loss function during training process

為清晰展示對電能質(zhì)量趨勢變化的預(yù)測效果，選取前2 000個(gè)電能質(zhì)量各個(gè)指標(biāo)預(yù)測值與真實(shí)值進(jìn)行比對，如圖7~圖9所示。從圖7~圖9可以看出，預(yù)測值與真實(shí)值之間整體趨勢幾乎相同，擬合效果較好，說明本文所提出方法可以對電能質(zhì)量趨勢變化進(jìn)行精確預(yù)測，有利于運(yùn)維人員提前掌握電能質(zhì)量狀況并迅速采取相關(guān)措施進(jìn)行改善。

圖7 電壓偏差預(yù)測值與真實(shí)值對比Fig.7 Comparison between predicted and real values of voltage deviation

圖8 電壓總諧波畸變率預(yù)測值與真實(shí)值對比Fig.8 Comparison between predicted and real values of THDU

圖9 短時(shí)閃變預(yù)測值與真實(shí)值對比Fig.9 Comparison between predicted and real values of short-term flicker

上述分析從視覺方面展示了對電能質(zhì)量指標(biāo)趨勢預(yù)測的效果，為展示本文所提出方法在準(zhǔn)確度方面的優(yōu)越性將原始多變量預(yù)測與篩選后多變量預(yù)測準(zhǔn)確度進(jìn)行比對，以3.3節(jié)中提出的模型評估指標(biāo)MSE和MAE作為評價(jià)標(biāo)準(zhǔn)得到表2。

表2 原始多變量輸入與篩選變量后模型性能對比Tab.2 Comparison of model performance after raw multi-variable input and filtered variables

通過對比該監(jiān)測點(diǎn)的電能質(zhì)量指標(biāo)誤差評價(jià)結(jié)果，可以看出：

（1）本方法對電壓總諧波畸變率、電壓偏差、短時(shí)閃變等典型指標(biāo)的趨勢變化預(yù)測較為精準(zhǔn)，但是預(yù)測精度各有不同，原因可能在于各個(gè)指標(biāo)預(yù)測時(shí)模型的最優(yōu)參數(shù)不同及其歷史數(shù)據(jù)變化趨勢和受到的影響因素不同；

（2）篩選后多輸入變量模型較原始變量輸入模型各個(gè)指標(biāo)預(yù)測精度均有所提高，說明過濾與電能質(zhì)量低相關(guān)或無關(guān)的用戶用電數(shù)據(jù)特征，充分利用對電能質(zhì)量預(yù)測有價(jià)值的數(shù)據(jù)，將相關(guān)程度高的變量作為輸入，在提高模型預(yù)測精度上有一定優(yōu)勢；

（3）本文所用數(shù)據(jù)樣本中的各個(gè)輸入變量雖然彼此之間可以起到相互補(bǔ)充增強(qiáng)作用，但由于總體上有功功率、電流與電能質(zhì)量指標(biāo)的相關(guān)性并不高，所以預(yù)測精確度提高得并不明顯。

4 結(jié)語

為分析重要用戶用電特性與電能質(zhì)量關(guān)聯(lián)關(guān)系，對電能質(zhì)量趨勢進(jìn)行預(yù)測分析以保證重要用戶對電能質(zhì)量的需求，本文提出了一種基于距離相關(guān)系數(shù)與長短時(shí)間記憶網(wǎng)絡(luò)的電能質(zhì)量預(yù)測方法，利用距離相關(guān)系數(shù)過濾低相關(guān)特征實(shí)現(xiàn)特征降維，并在算例分析中對典型電能質(zhì)量指標(biāo)電壓偏差、電壓總諧波畸變率、短時(shí)閃變變化趨勢進(jìn)行預(yù)測分析，同時(shí)與原始多變量輸入預(yù)測結(jié)果進(jìn)行比對，證明了本模型的有效性，為各個(gè)領(lǐng)域多變量預(yù)測提供思路。

本模型不足包括對模型參數(shù)研究不夠深入，不同的樣本數(shù)量或者不同的預(yù)測目標(biāo)值所對應(yīng)的最優(yōu)參數(shù)不同。同時(shí)監(jiān)測點(diǎn)所得到數(shù)據(jù)具有一定局限性，本文所采用的原始數(shù)據(jù)輸入特征維度較少，篩選后的特征除了電壓外其他特征與電能質(zhì)量指標(biāo)相關(guān)程度不夠高。后續(xù)研究應(yīng)考慮監(jiān)測更多的用電特征，為重要用戶電能質(zhì)量趨勢變化預(yù)測分析提供依據(jù)，提高模型預(yù)測的準(zhǔn)確度，為重要用戶高品質(zhì)電能質(zhì)量的供應(yīng)保障提供重要技術(shù)支撐。