基于E-LSTM循環神經網絡的制冷設備狀態預測

徐晨蕊，賈克斌，劉鵬宇

(1.北京工業大學 信息學部，北京 100124； 2.先進信息網絡北京實驗室，北京 100124；3.計算智能與智能系統北京市重點實驗室，北京 100124)

數據中心[1]主要由IT設備、制冷設備系統和供配電系統三部分構成，隨著數據中心的規模不斷擴大，數據中心機房的安全作為網絡正常運行的前提，已成為人們生活的一部分。隨著智能樓宇[2]的發展，制冷設備的安裝量和使用量不斷增加，但是運維人員的數目有限，由于故障造成的能耗損失占總能耗損失相當大的一部分，據統計由于制冷設備故障導致的能耗損失占制冷設備總能耗的10%～40%，所以一旦發生故障，會造成不同程度的經濟損失和嚴重后果。因此對制冷系統里的重要特征值進行預測，可以提高風險分析能力，防范于未然，加強制冷設備的穩定性。

隨著計算機技術的進步和數據分析方法的發展，預測研究不斷深入，相應的預測方法也是層出不窮。文明[3]等人提出用非線性自回歸時間序列預測模型對隧道施工過程中的圍巖水平收斂和地表變形進行預測，僅對趨勢性較平穩的數據具有良好的預測效果，而對具有趨勢性、季節周期性和隨機性的非平穩序列，難以得到較高的預測精度；張潔[4]用回歸預測模型對實際的電力預測問題進行深入研究與分析，但用的是人工提取的方法，其泛化性較差；為此，李彬楠[5]等人采用灰色-BP神經網絡的組合預測模型對土壤的水分特征進行預測分析，通過關聯度的計算,量化各影響因子對因變量的影響程度,進而合理確定BP神經網絡的輸入因子,最終達到優化模型微觀結構。雖然該方法相比人工提取特征的方法有更好的性能，但是沒考慮到數據間的時序性；鐘楠祎[6]提出基于深度學習的數據特征的提取與預測，用RNN-RBM神經網絡模型對醫院的門診量數據進行預測，雖然RNN能從時間序列中提取時間特征，但是很容易遺忘歷史信息，從而降低了預測精度。

針對數據中心中的制冷設備采集的數據為時序序列的特點，應用一種深度學習的方法——LSTM神經網絡去預測制冷設備的狀態。研究發現制冷設備普遍存在工作原理復雜、數據類型繁多的問題，LSTM較難對制冷設備里的特征進行有效提取。鑒于此類問題，本文提出了一種E-LSTM循環神經網絡的制冷設備狀態預測方法。基于有限長度的時序數據，提出一種在原有的LSTM模型前加一層全連接神經網絡，對制冷設備的特征進行預提取。旨在提高數據預測的正確率和加強預測模型的魯棒性。

1 相關理論

本章簡要介紹制冷系統工作原理、數據預處理、相關性分析的相關方法，以及LSTM神經網絡的細胞結構。

1.1 制冷系統工作原理

機房里的制冷系統主要由冷卻水循環系統、冷水機組和冷凍水循環系統組成，其工作原理極其復雜。制冷系統的工作原理圖如圖1所示。

冷水機組[7]是由壓縮機、冷凝器、膨脹閥(又稱節流閥)和蒸發器四大件組成。冷水機組通過壓縮機將低溫低壓制冷劑氣體壓縮成高溫高壓氣體，冷凝器通過將高溫高壓氣體轉化為低溫低壓液體與冷卻水進行

圖1 制冷系統工作原理圖

熱交換，使冷卻水溫度升高，由冷卻泵將升了溫的冷卻水壓入冷卻塔，使之在冷卻塔中與大氣進行熱交換，然后再將降溫了的冷卻水，送回到冷水機組進行熱交換；低溫低壓冷凝劑液體經過節流裝置膨脹閥，蒸發器通過將低溫低壓液體變成氣體與冷凍水進行交換，使冷凍水溫度降低，冷凍水泵將冷凍水送到各數據機房的空調末端，由風機吹送冷風達到機房內降溫的目的。

1.2 數據預處理

分析的數據來源于某個數據中心實際采集得到的制冷設備的數據，選取2018年7月1日0時0分至2018年9月28日23時19分范圍內平均每35 s采集一次的數據，輸入的特征值有：室外溫度、濕球溫度、室外焓值、回路壓差、數據中心總功率、IT負載；輸出特征有：冷源功率、PUE和冷凍二次泵，其中，輸出特征里的過去信息同樣也作為輸入。一共有36080條數據。先對數據進行初步分析，其中PUE的曲線圖的波動較大，如圖2所示。

圖2 PUE數據分布圖

PUE值越接近于1，表示一個數據中心的綠色化程度越高。我國的大多數數據中心的PUE值在2～3之間。對于圖中PUE出現的異常值，通過調研發現，是因為機房有的時候，會出現大批裁撤和下架，所以值會有所波動，出現異常。

那么對于原始數據中包含有異常值或空值的情況，無法直接進行數據分析預測，或者預測結果差強人意。為了提高數據分析預測的質量，需要用到數據預處理技術。在本文中，采用的是均值濾波[8]的方法對PUE等特征值里的異常數據進行刪除和填補，具體是利用python中的pandas庫對數據進行清洗，刪掉空行，過濾異常值，填補空缺值。使用scikit-Learn[9]中的MinMaxScaler中的預處理類對數據進行歸一化處理，將數據縮放到0～1,這樣做的目的是提高預測精度。均值濾波流程圖如圖3所示。

圖3 均值濾波流程圖

1.3 相關性分析

相關分析是研究兩個或兩個以上處于同等地位的隨機變量間的相關關系的統計分析方法。對制冷設備的特征值進行相關性的分析，可以得到特征值之間的相關性系數，對后續選取相關性大的特征值具有重要意義。相關性可以通過熱力圖[10]展示出來，這樣可以對數據間線性關系有更直觀的了解。用R語言內置函數 cor()計算特征值之間的相關系數，使用Python的pandas庫中corrmat函數和sns.heatmap函數畫熱力圖，使之前的相關性系數矩陣直觀展現出來，便于后續進行數據分析。熱力圖如圖4所示。

圖4 特征之間關聯性分析熱力圖

由圖4可以得出各個特征之間的相關性系數。圖4中，顏色越淺，代表相關性越大，顏色越深，代表相關性越小。由熱力圖，可以發現冷源功率和數據中心總功率(0.82)、濕球溫度(0.94)、室外焓值(0.95)的相關性較大； PUE 和 IT 負載(-0.63)成負相關，負相關一般看絕對值，絕對值越大，相關性越高。由此能發現制冷設備中各個特征之間都有關聯性。

1.4 LSTM關鍵技術介紹

LSTM神經網絡[11]是一種改進的時間序列循環神經網絡(Recurrent Neural Network,RNN)，緩解了傳統RNN在訓練過程中容易出現的梯度消失、爆炸等現象。LSTM通過在RNN的重復模塊中加入輸入門、遺忘門和輸出門來解決普通循環神經網絡具有的長期依賴問題，通過其獨特的記憶模式和遺忘模式，使網絡充分挖掘數據的時序特征，學習信號中的時間依賴關系，對長期信息的記憶使得長短期記憶神經網絡具有更好的預測準確率，標準LSTM 框架圖如圖5所示。

圖5 標準LSTM 框架圖

在每個時間步t中，xt為輸入向量，ct為細胞狀態向量，ht是根據ct輸出的隱藏狀態向量，公式如下:

it=sigmoid(Wixt+Uiht-1+bi)

(1)

ft=sigmoid(Wfxt+Ufht-1+bf)

(2)

ot=sigmoid(Woxt+Uoht-1+bo)

(3)

(4)

(5)

ht=ot○ tanh(ct)

(6)

2 LSTM模型的改進

2.1 E-LSTM模型的介紹

為解決LSTM記憶模塊的選擇有限、輸入的序列長度不宜過大的問題，本文提出一種改進型LSTM網絡(Enhanced-LSTM)模型去提高預測制冷設備的精度。具體結構如圖6所示。

圖6 E-LSTM模型架構

在原始的LSTM模型前加入了全連接網絡Dense層，相當于利用神經網絡進行特征的預提取和降維。將預提取后的特征輸入到LSTM網絡，為了防止網絡層數過深或數據維度太少導致的過擬合問題，在LSTM網絡層嵌入了一層Dropout層，隨機抽取模型中一定概率的神經元權重不參與訓練，最后整個改進模型的輸出層也選用Dense層。

改進的E-LSTM模型有效解決了制冷設備中數據復雜度高的問題，不僅能夠對輸入的長序列信息進行特征預提取，還增加了整個模型的深度，有效防止了由于網絡層數的過深導致的過擬合問題，提高了整個網絡模型的預測精度。

2.2 E-LSTM模型的訓練和預測

E-LSTM的網絡訓練主要是在Tensorflow[12]平臺實現的。訓練過程主要分為7個步驟：

① 在輸入數據到E-LSTM模型之前，設定每個時間步長輸入8個變量，序列長度設置為5(在3.1.2節會具體闡述設置為5的原因)，以2：1的比例劃分數據集(即前2500個數據為訓練集，其余為測試集)。

② 訓練集數據歸一化。用sklearn.preprocessing模塊對數據進行歸一化處理，使得數據范圍在[0,1]之間。把歸一化后的數據放到神經網絡里，可以使得模型的收斂速度加快。

③ 將歸一化后的輸入序列在LSTM網絡的前置神經網絡中處理后由全連接層輸出，將一個5×8(40)維的輸入序列經過全連接層輸出后降維到5維。

④ 設定LSTM網絡的隱藏層有128個神經元，epoch為100，每個batch的大小為200。由式(1)～式(6)計算LSTM細胞的輸出值。

⑤ 計算每個細胞的誤差。本文用均方誤差(MSE)來計算誤差，誤差函數計算公式如下：

(7)

⑥ 根據誤差計算每個權重的梯度。

⑦ 應用基于梯度的優化算法更新權重。本文采用Adadelta[13]梯度下降算法來最小化地降低誤差。損失函數選用mean_squared_error。

應用訓練好的E-LSTM模型進行預測，將測試集test_x輸入到模型，利用test_y作為理論輸出和模型的實際輸出來計算模型的預測精度。本文選用MAE和RMSE作為模型預測精度的評估標準，公式如下：

(8)

(9)

式中，T為整個時間步長的個數；yt、ft分別為模型輸出的實際值和預測值。MAE、RMSE的數值越小，說明模型的預測精度越高。

3 實驗驗證

本章使用某數據中心的制冷設備中的數據作為實驗數據集，應用第2章的相關理論和第3章的模型構建方法展開實驗驗證，具體包括實驗結果、案列分析兩部分。

3.1 實驗結果

3.1.1 對比實驗

為了驗證E-LSTM模型性能的優越性，本文選用6種機器學習的方法與之做對比。實驗選用相同的超參數去訓練所有的循環神經網絡。PUE、冷源功率和冷凍二次泵的對比實驗如表1所示。

表1 三種預測的對比結果

從表中可以看出，E-LSTM模型的RMSE和MAE均低于原始的LSTM模型、RNN模型和GRU模型。與其他機器學習的算法相比，改進的模型的RMSE和MAE明顯低于NN、支持向量機和線性回歸3種方法，證明了該方法在制冷設備狀態預測任務中的有效性。

3.1.2 獲取精度較高的模型參數

為了進一步評估模型的性能，本文對不同的序列長度的PUE、冷源功率、冷凍二次泵做實驗。分別選取序列長度為1、3、5、10、30、50、100和150作為時間步長，訓練E-LSTM模型。PUE、冷源功率和冷凍二次泵的預測結果如圖7所示。

圖7 不同序列長度下3種E-LSTM模型的RMSE和MAE變化

從圖7可以看出，E-LSTM模型的RMSE和MAE在不同的PUE、冷源功率和冷凍二次泵序列下呈波浪式上升。RMSE和MAE的值都是在PUE、冷源功率、冷凍二次泵時間序列長度為5時最小。從而得出結論：本文選用時間序列長度為5，去預測未來3 h的制冷設備狀態下的數值，預測效果最好。

3.2 案列分析

為了證明對制冷設備狀態進行多變量輸入預測的必要性，本部分將多輸入制冷設備狀態預測與單輸入制冷設備狀態預測的效果進行了比較。保持其他參數設置不變，只更改輸入。圖8展示了多輸入預測和單輸入預測之間的PUE、冷源功率和冷凍二次泵的性能。其中藍線代表實際曲線，紅線代表預測趨勢。

圖8 單輸入和多輸入預測的對比實驗

從圖8可以看出，單輸入預測的性能比多輸入預測差得多。在RMSE方面，單輸入預測的誤差明顯大于多輸入預測的誤差。該對比實驗證明了E-LSTM模型能夠較好地預測多輸入制冷設備的狀態。

4 結束語

本文基于機房的制冷設備中的數據，選取PUE、冷源功率、冷凍二次泵、室外溫度、濕球溫度、室外焓值、回路壓差、數據中心總功率、IT負載這10個特征為主要研究對象，應用改進型LSTM(E-LSTM)對PUE、冷源功率、冷凍二次泵做預測，得出以下幾點結論：

① 改進的LSTM(E-LSTM)神經網絡有效地改善了LSTM 在有限長度的數據預測中存在的問題，比LSTM更高效地提取時序數據之間特征，使得改進的LSTM 預測能力更強。

② E-LSTM循環神經網絡模型的RMSE和MAE都遠遠低于RNN、GRU、NN、SVR、Linear regression這5種模型，說明E-LSTM模型更適用于制冷設備的狀態的預測。

③ E-LSTM神經網絡適用于多輸入單輸出預測。進行單輸入單輸出和多輸入單輸出預測對比實驗發現，在針對制冷設備中各個特征之間有相關性這個特點，對改進型神經網絡進行多輸入單輸出預測，預測精度會更高。