






摘 要:為提高變壓器色譜診斷的準(zhǔn)確率,在分析故障類型與特征氣體關(guān)系到基礎(chǔ)上,提出一種基于Adam優(yōu)化BP的變壓器色譜診斷模型,并重點(diǎn)探討了不同優(yōu)化器訓(xùn)練的診斷結(jié)果。結(jié)果表明,Adam梯度優(yōu)化算法能夠有效改進(jìn)BP神經(jīng)網(wǎng)絡(luò)模型的診斷效果,BP-Adam模型在測(cè)試中表現(xiàn)出更高的診斷準(zhǔn)確率。采用Adam優(yōu)化器的BP神經(jīng)網(wǎng)絡(luò)診斷模型,其誤差要明顯低于SGD和RMSProp,利用Adam梯度優(yōu)化算法對(duì)BP神經(jīng)網(wǎng)絡(luò)進(jìn)行優(yōu)化,Adam-BP模型對(duì)于變壓器故障進(jìn)行診斷的平均準(zhǔn)確率高達(dá)95.62%。Adam算法對(duì)于BP神經(jīng)網(wǎng)絡(luò)的優(yōu)化效果具有穩(wěn)定、顯著的優(yōu)勢(shì)。
關(guān)鍵詞:Adam優(yōu)化器;色譜診斷;特征氣體;BP神經(jīng)網(wǎng)絡(luò);變壓器
中圖分類號(hào):TQ150.5;TM41"""""""""""""""""""""" 文獻(xiàn)標(biāo)識(shí)碼:A"""""""""""""""nbsp;"""" 文章編號(hào):1001-5922(2024)07-0128-04
Transformer chemical chromatography diagnostic analysis technology based on optimized BP
FENG Yang,XING Ya,HOU Feng,WU Peitao,YAN Jingdong
(Training Center of State Grid Ningxia Electric Power Co.,Ltd.,Yinchuan 750002, China)
Abstract: In order to improve the accuracy of transformer chromatography diagnosis, a transformer chromatography diagnosis model based on Adam optimized BP was proposed based on the analysis of the relationship between fault types and characteristic gases, and the diagnostic results trained by different optimizers were mainly discussed. The results showed that the Adam gradient optimization algorithm could effectively improve the diagnostic effect of the BP neural network model, and the BP?Adam model showed higher diagnostic accuracy in the test. The error of the BP neural network diagnostic model using Adam optimizer was significantly lower than that of SGD and RMSProp, and the Adam gradient optimization algorithm is used to optimize the BP neural network," the average accuracy of the Adam-BP model for the diagnosis of transformer faults was as high as 95.62%. The Adam algorithm has stable and significant advantages for the optimization effect of BP neural network.
Key words: adam optimizer;chromatographic diagnosis;characteristic gas;BP neural network;transformer
目前,變壓器故障診斷面臨人力依賴、診斷不準(zhǔn)、診斷遲緩等問(wèn)題。為此,引入人工智能算法,以實(shí)現(xiàn)快速、精準(zhǔn)、穩(wěn)定地診斷變壓器故障,如灰色關(guān)聯(lián)法、SVM、IEC三比值等,但泛化性差、診斷準(zhǔn)確率低[1?5]。神經(jīng)網(wǎng)絡(luò)具有自適應(yīng)、自學(xué)習(xí)、自組織的特點(diǎn),依據(jù)非線性逼近原則可實(shí)現(xiàn)故障診斷功能,但當(dāng)模型深度達(dá)到一定水平以后,繼續(xù)增大模型深度無(wú)法改善其診斷性能,甚至反而會(huì)拉低其診斷性能。另外,傳統(tǒng)神經(jīng)網(wǎng)絡(luò)模型在小樣本條件下的診斷性能不佳,樣本數(shù)據(jù)不足將會(huì)直接拉低模型的診斷精度。對(duì)此,部分學(xué)者嘗試改進(jìn)神經(jīng)網(wǎng)絡(luò)算法,如改進(jìn)樣本數(shù)據(jù),優(yōu)化參數(shù)等,以期提高變壓器故障診斷效果。本研究在上述基礎(chǔ)上,提出一種改進(jìn)方法,并對(duì)改進(jìn)方法在變壓器故障應(yīng)用的可行性進(jìn)行驗(yàn)證。
1"" 變壓器故障診斷模型構(gòu)建
1.1"" 模型構(gòu)建思路
BP神經(jīng)網(wǎng)絡(luò)模型具備自適應(yīng)自學(xué)習(xí)和非線性映射能力,同時(shí)在容錯(cuò)、泛化等方面性能良好,因而被許多領(lǐng)域利用。結(jié)合前人的研究成果,選定BP神經(jīng)網(wǎng)絡(luò)對(duì)變壓器故障進(jìn)行診斷,利用Adam算法優(yōu)化BP 神經(jīng)網(wǎng)絡(luò)算法合理設(shè)定初始權(quán)值及閾值。
首先,建立BP神經(jīng)網(wǎng)絡(luò),引用Adam梯度優(yōu)化下降算法優(yōu)化BP神經(jīng)網(wǎng)絡(luò)參數(shù);然后,選用TensorFlow深度學(xué)習(xí)框架對(duì)模型進(jìn)行訓(xùn)練,具體框架如圖1所示。
1.2"" 模型訓(xùn)練
本變壓器故障診斷模型訓(xùn)練步驟為:
Step1,參數(shù)初始化,從訓(xùn)練集中隨機(jī)選出[m]個(gè)樣本數(shù)據(jù);
Step 2,利用損失函數(shù)的目標(biāo)[yi]求解出梯度;
Step 3,對(duì)步長(zhǎng)進(jìn)行更新;
Step 4,求解出梯度的一階矩估計(jì)[mt]、二階矩估計(jì)[nt];
Step 5,對(duì)求解出的[mt、nt]進(jìn)行校正;
Step 6,對(duì)參數(shù)[?θt]進(jìn)行更新,設(shè)定BP神經(jīng)網(wǎng)絡(luò)算法的權(quán)值、閾值。
2"" 試驗(yàn)驗(yàn)證
2.1"" 數(shù)據(jù)來(lái)源
將收集到的2 040組變壓器油色譜樣本數(shù)據(jù)作為數(shù)據(jù)集,讀取油色譜數(shù)據(jù)。然后根據(jù)不同特征氣體間的關(guān)系輸出結(jié)果。在一個(gè)文件夾中列出一種變壓器故障類型,其中包含多項(xiàng)油色譜樣本數(shù)據(jù)。把7種變壓器故障類型列入TensorFlow,利用訓(xùn)練集中的2 040組變壓器油色譜樣本數(shù)據(jù)對(duì)BP變壓器故障診斷模型開展訓(xùn)練。
2.2"" 試驗(yàn)環(huán)境
選用Python語(yǔ)言進(jìn)行編程,選定TensorFlow深度學(xué)習(xí)框架。表1為本次試驗(yàn)的環(huán)境信息。
2.3"" 模型參數(shù)設(shè)定
本文建立的基于Adam優(yōu)化的BP神經(jīng)網(wǎng)絡(luò)模型,具體參數(shù)見表2和表3所示。
2.4"" 試驗(yàn)診斷代碼
利用pandas 庫(kù)讀寫數(shù)據(jù),采用numpy庫(kù)執(zhí)行矩陣操作,以及利用 pandas.core.frame執(zhí)行數(shù)據(jù)操作。
2.5"" 變壓器故障診斷結(jié)果分析
利用680組油色譜樣本數(shù)據(jù)建立測(cè)試集;利用測(cè)試集對(duì)本文建立的基于Adam優(yōu)化的BP變壓器故障診斷模型進(jìn)行測(cè)試[12?16],模型測(cè)試結(jié)果如表4所示。
由表4可知,所建立的基于Adam優(yōu)化的BP變壓器故障診斷模型對(duì)7種變壓器故障的診斷準(zhǔn)確率均值是99.10%。具體來(lái)說(shuō),本文模型對(duì)于高溫?zé)峁收稀⒌湍芊烹姽收稀⒕植糠烹姽收稀⒄_\(yùn)行的診斷準(zhǔn)確率都達(dá)到了100%,對(duì)高能放電故障、低溫過(guò)熱故障以及中溫?zé)峁收系脑\斷準(zhǔn)確率分別是98.75%、97.03%和97.89%。可見,Adam梯度優(yōu)化算法能夠有效改進(jìn)BP神經(jīng)網(wǎng)絡(luò)模型的診斷效果,BP-Adam模型在測(cè)試中表現(xiàn)出更高的診斷準(zhǔn)確率。
2.6"" BP-Adam與其他優(yōu)化算法的性能對(duì)比
2.6.1"" 訓(xùn)練誤差曲線對(duì)比分析
為檢驗(yàn)Adam梯度優(yōu)化算法對(duì)于BP神經(jīng)網(wǎng)絡(luò)的優(yōu)化效果,對(duì)比了Adam算法、SGD算法和RMSProp算法在相同測(cè)試條件下的訓(xùn)練誤差,從而評(píng)判3類算法的優(yōu)化性能。將3 400組油色譜樣本數(shù)據(jù)導(dǎo)入TensorFlow,針對(duì)任一優(yōu)化算法開展4輪測(cè)試,3類算法的參數(shù)設(shè)定:SGD算法(η=0.1)、RMSProp算法(η=0.1,β=0.2,ε=1e?06)、Adam算法(n=0.001,μ=0.9,v=0.999,ε=1e-08),測(cè)試所得訓(xùn)練誤差曲線如圖2。
由圖2可知,與Adam算法相比較,RMSProp算法、SGD算法的收斂過(guò)程不穩(wěn)定,整體的收斂速度較慢。此外,因BP神經(jīng)網(wǎng)絡(luò)的參數(shù)對(duì)于某些樣本數(shù)據(jù)不夠敏感,基于RMSProp算法或SGD算法的BP神經(jīng)網(wǎng)絡(luò)的訓(xùn)練誤差偏大;BP神經(jīng)網(wǎng)絡(luò)的激活函數(shù)屬于非凸函數(shù),利用SGD算法對(duì)BP神經(jīng)網(wǎng)絡(luò)進(jìn)行優(yōu)化會(huì)出現(xiàn)收斂誤差擴(kuò)大、收斂速度趨緩的問(wèn)題。根據(jù)測(cè)試結(jié)果,RMSProp算法在收斂誤差及收斂速度方面的表現(xiàn)均不及Adam算法。通過(guò)對(duì)比發(fā)現(xiàn),Adam梯度優(yōu)化算法在迭代初期即可實(shí)現(xiàn)快速收斂,并且最終的訓(xùn)練誤差處于可接受水平。
2.6.2"" 準(zhǔn)確率對(duì)比分析
對(duì)比利用Adam梯度優(yōu)化算法與SGD算法、RMSprop算法優(yōu)化后的BP神經(jīng)網(wǎng)絡(luò)對(duì)于變壓器故障的診斷準(zhǔn)確率,用以檢驗(yàn)Adam梯度優(yōu)化算法的應(yīng)用優(yōu)勢(shì)。為了確保測(cè)試結(jié)果的可靠性,本文采用相同的測(cè)試條件進(jìn)行試驗(yàn),并且針對(duì)3類算法進(jìn)行4輪測(cè)試,結(jié)果見圖3。
由圖3可知,利用SGD算法對(duì)BP神經(jīng)網(wǎng)絡(luò)進(jìn)行優(yōu)化,SGD-BP模型對(duì)于變壓器故障進(jìn)行診斷的平均準(zhǔn)確率僅有18.48%,且在4輪測(cè)試中的最佳表現(xiàn)也僅有18.50%;利用RMSProp算法對(duì)BP神經(jīng)網(wǎng)絡(luò)進(jìn)行優(yōu)化,RMSProp-BP模型對(duì)于變壓器故障進(jìn)行診斷的平均準(zhǔn)確率為74.66%,但在4輪測(cè)試中也出現(xiàn)了56.90%的診斷準(zhǔn)確率,這揭示出RMSProp算法優(yōu)化效果的不穩(wěn)定性;利用Adam梯度優(yōu)化算法對(duì)BP神經(jīng)網(wǎng)絡(luò)進(jìn)行優(yōu)化,Adam-BP模型對(duì)于變壓器故障進(jìn)行診斷的平均準(zhǔn)確率高達(dá)95.62%,且在4輪測(cè)試中的最低準(zhǔn)確率是87.93%,最高準(zhǔn)確率是99.20%。可見,Adam算法對(duì)于BP神經(jīng)網(wǎng)絡(luò)的優(yōu)化效果具有穩(wěn)定、顯著的優(yōu)勢(shì);而SGD算法、RMSProp算法對(duì)于BP神經(jīng)網(wǎng)絡(luò)的優(yōu)化效果并不理想。
此外,基于Adam優(yōu)化的BP神經(jīng)網(wǎng)絡(luò)模型對(duì)于變壓器故障進(jìn)行診斷的平均準(zhǔn)確率達(dá)到99.59%,而且在4輪測(cè)試中的診斷準(zhǔn)確率分別為99.70%、99.77%、99.60%、99.27%,這超出了Adam-BP模型的診斷準(zhǔn)確率水平。說(shuō)明Adam有效優(yōu)化了BP神經(jīng)網(wǎng)絡(luò)的關(guān)鍵參量,同時(shí)增強(qiáng)了BP神經(jīng)網(wǎng)絡(luò)的泛化能力,使其在變壓器故障診斷實(shí)務(wù)中更具應(yīng)用價(jià)值。
3"" 結(jié)語(yǔ)
本文利用Adam算法來(lái)優(yōu)化BP神經(jīng)網(wǎng)絡(luò),在此基礎(chǔ)上構(gòu)建Adam-BP神經(jīng)網(wǎng)絡(luò)模型。采用Adam對(duì)BP神經(jīng)網(wǎng)絡(luò)的優(yōu)化,其得到的結(jié)果無(wú)論在誤差,還是在準(zhǔn)確率方面,都比其他優(yōu)化器具有優(yōu)勢(shì)。Adam有效優(yōu)化了BP神經(jīng)網(wǎng)絡(luò)的關(guān)鍵參量,同時(shí)增強(qiáng)了BP神經(jīng)網(wǎng)絡(luò)的泛化能力,使其在變壓器故障診斷實(shí)務(wù)中更具應(yīng)用價(jià)值。因此,本研究方案在一定程度可行,具有一定的工程應(yīng)用價(jià)值。
【參考文獻(xiàn)】
[1]""" 薛健侗,馬宏忠.基于VMD和WOA-SVM的變壓器繞組松動(dòng)故障診斷[J].電機(jī)與控制應(yīng)用,2023,50(8):84?90.
[2]""" 徐昊,肖勇,馬雪菲.基于灰色關(guān)聯(lián)和層次分析的電網(wǎng)故障診斷[J].中國(guó)科技信息,2023(14):101?104.
[3]""" 翟陸琦.基于隨機(jī)森林和三比值法的高鐵牽引變壓器故障診斷研究[J].鄭州鐵路職業(yè)技術(shù)學(xué)院學(xué)報(bào),2022,34(4):23?26.
[4]""" 周曉華,馮雨辰,胡旭初,等.基于禿鷹搜索算法優(yōu)化SVM的變壓器故障診斷[J].南方電網(wǎng)技術(shù),2023,17(6):99?106.
[5]""" 周倫鋼,趙松波,仝戈,等.基于IG?CPSO?BP的水工鋼閘門安全等級(jí)識(shí)別[J].人民黃河,2023,45(7):130?133.
[6]""" 王博喬,張彬,林葉錦,等.基于RAdam Bi?LSTM的LNG動(dòng)力船舶上甲板儲(chǔ)罐泄漏后果預(yù)測(cè)方法[J].中國(guó)航海,2023,46(2):60?66.
[7]""" 劉永波,高文波,何鵬,等.基于改進(jìn)ResNet50模型的自然環(huán)境下蘋果物候期識(shí)別[J].智慧農(nóng)業(yè)(中英文),2023,5(2):13?22.
[8]""" 王家鑫,王瑞琪,孟海波,等.基于深度神經(jīng)網(wǎng)絡(luò)AdaMod優(yōu)化模型的來(lái)襲目標(biāo)攻擊意圖識(shí)別[J].計(jì)算機(jī)測(cè)量與控制,2023,31(6):274?279.
[9]""" 鄭博文,王秋雯,牛斌,等.面向油色譜化學(xué)成分分析的變壓器并行診斷研究[J].粘接,2020,41(3):39?43.
[10]""" 楊廷勝,盧志鵬,苗厚利.基于PMS的設(shè)備故障數(shù)據(jù)分" 析模型構(gòu)建及仿真[J].粘接,2022,49(7):165?169.
[11]""" 周秀,怡愷,李剛,等.基于鄰域粗糙集與AMPOS?ELM" 的變壓器DGA故障診斷[J].電力科學(xué)與技術(shù)學(xué)報(bào),nbsp; 2022,37(3):157?164.
[12]""" 潘錦業(yè),王苗苗,闞威,等.基于Adam優(yōu)化算法和長(zhǎng)短" 期記憶神經(jīng)網(wǎng)絡(luò)的鋰離子電池荷電狀態(tài)估計(jì)方法" [J].電氣技術(shù),2022,23(4):25?30.
[13]""" 李明,來(lái)國(guó)紅,常晏鳴,等.深度學(xué)習(xí)算法中不同優(yōu)化器" 的性能分析[J].信息技術(shù)與信息化,2022,(3):206?209.
[14]""" 張晨晨,叢意林,田野,等.基于改進(jìn)算法的空調(diào)冷負(fù)荷" 組合預(yù)測(cè)研究[J].青島大學(xué)學(xué)報(bào)(工程技術(shù)版),2021," 36(4):107?114.
[15]""" 張曉英,史冬雪,張琎,等.基于CPSO?BP神經(jīng)網(wǎng)絡(luò)的" 風(fēng)電并網(wǎng)暫態(tài)電壓穩(wěn)定評(píng)估[J].智慧電力,2021," 49(10):38?44.
[16]""" 紀(jì)廣月.基于改進(jìn)粒子群算法優(yōu)化BP神經(jīng)網(wǎng)絡(luò)的西" 江水質(zhì)預(yù)測(cè)研究[J].水動(dòng)力學(xué)研究與進(jìn)展(A輯)," 2020,35(5):567?574.
[17]"" "曾曉雪,吉衛(wèi)喜,徐杰.基于CPSO?BP的刀具壽命預(yù)" 測(cè)算法[J].組合機(jī)床與自動(dòng)化加工技術(shù),2020(8):" 57?59.
[18]""" 張立,王騰軍,劉帥令,等.基于CPSO?BP神經(jīng)網(wǎng)絡(luò)的" PM_(2.5)濃度預(yù)測(cè)模型[J].甘肅科學(xué)學(xué)報(bào),2020," 32(2):47?50.
[19]""" 徐偉,金國(guó)忠,苗振林,等.基于紅外圖像的變壓器故障" 在線檢測(cè)技術(shù)分析[J].粘接,2022,49(9):193?196.
[20]""" 吐松江·卡日,艾斯卡爾·肉孜,張紫薇,等.基于改進(jìn)灰" 關(guān)聯(lián)分析的變壓器故障診斷[J].變壓器,2022,59(12):" 49?53.