基于TrellisNet和注意力機(jī)制的電力設(shè)備故障檢測模型

摘要電力設(shè)備故障檢測模型的性能受到多種因素的影響，如故障種類的多樣性、故障特征的復(fù)雜性和圖像質(zhì)量的差異等．為此，本文提出一種基于TrellisNet和注意力機(jī)制的新型電力設(shè)備故障檢測模型．首先，將長短期記憶（Long Short-Term Memory，LSTM）網(wǎng)絡(luò)和卷積神經(jīng)網(wǎng)絡(luò)（Convolutional Neural Network，CNN）進(jìn)行融合，構(gòu)建LSTM-CNN來獲取圖片中的故障特征，以有效區(qū)分不同故障類型的特征，并減少噪聲和干擾因素的影響．然后，將LSTM-CNN獲得的特征數(shù)據(jù)作為輸入，并將注意力機(jī)制嵌入到TrellisNet中，構(gòu)建具有高分辨能力的AT-TrellisNet網(wǎng)絡(luò)來檢測不同電力設(shè)備的故障類型．最后，選取5種常見的電力設(shè)備故障進(jìn)行模型驗(yàn)證.實(shí)驗(yàn)結(jié)果顯示，本文模型與一些現(xiàn)有的檢測模型相比，檢測精確率較高，最高可達(dá)90％以上，可滿足實(shí)際電力設(shè)備故障檢測需求．

關(guān)鍵詞故障檢測;TrellisNet;長短期記憶網(wǎng)絡(luò);卷積神經(jīng)網(wǎng)絡(luò);注意力機(jī)制;圖像識(shí)別

中圖分類號(hào)TP183;TM507

文獻(xiàn)標(biāo)志碼A

0 引言

目前，基于計(jì)算機(jī)視覺的配網(wǎng)設(shè)備故障自動(dòng)識(shí)別已經(jīng)成為配網(wǎng)設(shè)備狀態(tài)監(jiān)測和故障預(yù)警的重要手段． 對于故障檢測，計(jì)算機(jī)視覺提供了一種高效、準(zhǔn)確的方法用來監(jiān)測設(shè)備的狀態(tài)、識(shí)別異常情況，并及時(shí)預(yù)警或報(bào)警．特別是在高溫、高壓等高風(fēng)險(xiǎn)的環(huán)境中，計(jì)算機(jī)視覺技術(shù)可以替代人工進(jìn)行實(shí)時(shí)、安全的監(jiān)測．計(jì)算機(jī)視覺算法通過特征提取和識(shí)別［1-2］，為故障檢測帶來了極大的便利．近年來，卷積神經(jīng)網(wǎng)絡(luò)（Convolutional Neural Network，CNN）在圖像識(shí)別與檢測方面應(yīng)用廣泛［3-4］．與人工特征提取方法相比，能夠自動(dòng)學(xué)習(xí)圖像特征的神經(jīng)網(wǎng)絡(luò)可以有效地減少工作量以及降低特征提取誤差．2015年，馮?。?］基于紅外圖像分析提出一種電力設(shè)備故障檢測方法，通過設(shè)備的溫度不同，相對應(yīng)的紅外圖像不同的原理進(jìn)行故障診斷．但是該方法對溫度較為敏感，檢測失誤率較高．2017年，曠可嘉［6］利用CNN進(jìn)行缺陷檢測，可以檢測出缺陷的種類和缺陷的相對位置，但準(zhǔn)確率較低．同年，蘆竹茂等［7］基于設(shè)備紅外圖像和溫度系數(shù)修正方法提出一種電力設(shè)備故障檢測方法，通過識(shí)別電力設(shè)備并給出溫度區(qū)間來檢測故障，精度較高．但是紅外圖像只適合溫度變換，對于常溫設(shè)備無法檢測．2021年，Ji等［8］通過均勻分布的卷積神經(jīng)網(wǎng)絡(luò)對鑄件X光照片進(jìn)行缺陷檢測，在背景簡單的情況下效果較好，但是在檢測電力設(shè)備故障的實(shí)際應(yīng)用中，由于設(shè)備所處環(huán)境復(fù)雜，各種故障難以分辨．2022年，陳富國等［9］利用YOLO v3對電力設(shè)備狀態(tài)進(jìn)行檢測，通過分析設(shè)備特性和故障特性對算法進(jìn)行優(yōu)化，使得故障識(shí)別率達(dá)到90％．但是該方法對設(shè)備種類要求較為嚴(yán)格，局限性較大．上述方法僅通過紅外圖像檢測設(shè)備是否存在故障，或者僅檢測某個(gè)固定位置的狀態(tài)，但由于電力設(shè)備種類多，每種設(shè)備的故障類型各不相同，且故障的位置和大小也各不相同，故障檢測的難度非常大，因此，上述方法無法滿足實(shí)際電力設(shè)備故障檢測需求．

本文提出一種基于TrellisNet和注意力機(jī)制的新型電力設(shè)備故障檢測模型．該模型首先使用長短期記憶（Long Short-Term Memory，LSTM）網(wǎng)絡(luò)和CNN構(gòu)建LSTM-CNN來獲取圖片中的故障特征；然后將注意力機(jī)制引入到TrellisNet中構(gòu)建AT-TrellisNet來達(dá)到增強(qiáng)模型的故障檢測能力的目的；最后將獲得的特征輸入到AT-TrellisNet中進(jìn)行訓(xùn)練．實(shí)驗(yàn)結(jié)果表明，該模型的檢測精確率高于現(xiàn)有的檢測模型"""（ED-CNN、Dense-YOLO和DCNN-3），可用于實(shí)際電力設(shè)備的故障檢測．

1 相關(guān)工作

TrellisNet是一種特殊的時(shí)間卷積網(wǎng)絡(luò)，它具有兩個(gè)不尋常的特征．首先，權(quán)重是跨層綁定的．也就是說，權(quán)值在所有的網(wǎng)絡(luò)層上都被共享，而不僅僅是共享所有的時(shí)間步長，并且它們被綁定到一個(gè)規(guī)則Trellis模型上．其次，將輸入信息注入所有的網(wǎng)絡(luò)層中．也就是說，在給定的時(shí)間步長下的輸入不僅提供給第1層，而且還直接提供給網(wǎng)絡(luò)中的所有層．

在最基本的層上，一個(gè)特征向量z（i+1）t+1在TrellisNet的時(shí)間步驟t+1和i+1層是通過3步計(jì)算的，如圖1所示．

通過在時(shí)間和深度上構(gòu)建上述基本過程來建立一個(gè)完整的TrellisNet，如圖2所示．

需要注意的是，在TrellisNet每一層都注入了相同的輸入序列，可以預(yù)先計(jì)算出所有層i的線性變換xt+1=Wx1 xt+Wx2 xt+1．

在網(wǎng)絡(luò)的每一層上，對隱藏單元zi1：T 進(jìn)行一維卷積，層i計(jì)算總結(jié)如下：

2 基于TrellisNet和注意力機(jī)制的電力設(shè)備故障檢測模型

2.1 注意力機(jī)制

學(xué)習(xí)故障特征是為了更好地捕獲有效的信息．根據(jù)輸入故障特征的重要性，需要對每個(gè)特征配備不同的權(quán)重，即，注意機(jī)制會(huì)權(quán)衡輸入特征的重要性，并將更大的權(quán)重賦予對結(jié)果影響較大的特征．然而，在本文模型中直接應(yīng)用注意力機(jī)制是不合適的，因?yàn)楣收项愋蜁?huì)根據(jù)設(shè)備種類的變化而變化．

本文引入一種遵循兩種數(shù)據(jù)結(jié)構(gòu)的特征注意力機(jī)制，希望能夠準(zhǔn)確判斷故障類型與不同電力設(shè)備類型之間的關(guān)系，其結(jié)構(gòu)如圖3所示．圖3中：｛e1，e2，…，eN｝表示特征數(shù)據(jù)的向量;es表示設(shè)備類型向量;｛w1，w2，…，wN｝是輸入數(shù)據(jù)｛e1，e2，…，eN｝和es經(jīng)過激活單元所計(jì)算出的權(quán)重;ws是設(shè)備類型對應(yīng)的權(quán)重;代表向量乘積．模型輸入分為故障特征數(shù)據(jù)和設(shè)備類型數(shù)據(jù)兩部分．激活單元層用來計(jì)算故障類型和設(shè)備類型之間的權(quán)重，可以認(rèn)為是一個(gè)獨(dú)立的神經(jīng)網(wǎng)絡(luò)，如圖4所示．兩個(gè)通道的es是相同的，表示對應(yīng)關(guān)系．

在激活單元中，故障特征數(shù)據(jù)是輸入量之一，是注意機(jī)制的key向量．同時(shí)，設(shè)備類型是另一個(gè)輸入，即查詢向量．在數(shù)學(xué)上，特征數(shù)據(jù)的向量變成了設(shè)備類型向量的函數(shù)，即：

其中：a（·）表示前饋神經(jīng)網(wǎng)絡(luò)；ei表示故障特征數(shù)據(jù)向量；wj表示ei和es的權(quán)重；ws表示設(shè)備類型的權(quán)重；es表示設(shè)備類型向量；s表示設(shè)備類型；S表示將設(shè)備類型數(shù)據(jù)作為函數(shù)的自變量．

2.2 AT-TrellisNet模型

根據(jù)故障圖像數(shù)據(jù)的輸入特征可以判斷故障類型．因此，不同設(shè)備的故障類型可以看作是一個(gè)時(shí)間序列［10-11］．TrellisNet網(wǎng)絡(luò)的結(jié)構(gòu)集成了CNN和RNN，可以將CNN和RNN的優(yōu)點(diǎn)繼承下來．因此，在多項(xiàng)式序列建模問題上，它優(yōu)于目前的CNN、RNN和自注意模型．為了提取故障類型之間的關(guān)系，本文舉例說明一個(gè)基于注意力的TrellisNet網(wǎng)絡(luò)．圖5為注意力TrellisNet（Attention TrellisNet，AT-TrellisNet）模型．AT-TrellisNet由一個(gè)輸入層、一個(gè)注意力機(jī)制層、一個(gè)網(wǎng)絡(luò)層、一個(gè)全連接層和一個(gè)輸出層組成．首先，將數(shù)據(jù)集輸入輸入層，并對其進(jìn)行歸一化處理．然后將歸一化后的數(shù)據(jù)輸入注意力機(jī)制層，利用注意力機(jī)制提取特征并計(jì)算相應(yīng)的權(quán)重，隨后輸出加權(quán)后的數(shù)據(jù)序列．再將數(shù)據(jù)序列輸入TrellisNet層，學(xué)習(xí)故障圖像的特征．最后通過全連接層，將上一層計(jì)算出的特征空間映射到樣本標(biāo)簽空間．為了使檢測效果更好，在輸入層之前，需要將故障圖像數(shù)據(jù)輸入LSTM-CNN進(jìn)行特征提取．也就是將故障圖片先輸入LSTM中，然后將LSTM的輸出作為CNN的輸入．因?yàn)殡娏υO(shè)備故障圖像不僅種類繁多，而且細(xì)節(jié)復(fù)雜，因此，為了能更好地提取細(xì)節(jié)特征，CNN卷積層中卷積核為3×3，LSTM單元數(shù)與卷積核寬度相同，也為3．卷積步長設(shè)置為1，填充類型為“SAME”類型，池化操作選擇最大池化．

由于LSTM在循環(huán)網(wǎng)絡(luò)中具有較好的效果，因此在AT-TrellisNet模型中使用LSTM作為一個(gè)非線性激活函數(shù)單元．LSTM網(wǎng)絡(luò)的具體結(jié)構(gòu)如圖6所示．

在LSTM中，三個(gè)信息控制門同時(shí)在t時(shí)刻進(jìn)行計(jì)算．其中，輸入門單元狀態(tài)不參與隱藏-隱藏的轉(zhuǎn)換，而是使用激活結(jié)果進(jìn)行更新，具體的計(jì)算公式如下：

2.3 算法評價(jià)指標(biāo)

為了全面而公正地評估模型的性能，本文選取精確率（Precision，P）和召回率（Recall，R）作為核心評價(jià)指標(biāo)．精確率，即模型正確分類樣本的概率，其數(shù)值大小直接反映了模型在識(shí)別設(shè)備故障類型時(shí)的準(zhǔn)確度．根據(jù)式（13）的定義，精確率的提升意味著模型能夠更加精確地識(shí)別出各種故障類型．而召回率，作為另一個(gè)重要評價(jià)指標(biāo)，它衡量了模型檢測到所有真實(shí)故障類型的能力．根據(jù)式（14）的定義，召回率的提高意味著模型在故障檢測方面的能力得到了增強(qiáng)，從而降低了漏檢的可能性．通過綜合考慮精確率和召回率，能夠更加全面地了解模型的性能表現(xiàn)．

其中：TP表示正確判斷故障類型的次數(shù);FP表示錯(cuò)誤判斷故障類型的次數(shù);FN表示判斷故障為正常的次數(shù)．

此外，為了更準(zhǔn)確評估預(yù)測效果，本文還使用了均方誤差（MSE）、平均絕對誤差（MAE）、R平方（R2）、均方根誤差（RMSE）和平均絕對百分誤差（MAPE）來評估模型的性能．

3 仿真實(shí)驗(yàn)

3.1 實(shí)驗(yàn)準(zhǔn)備

1）數(shù)據(jù)集

電力設(shè)備場所環(huán)境復(fù)雜，且相同功能設(shè)備的廠家不同，樣式也就不同，這就給檢測工作帶來了困難．實(shí)驗(yàn)采集3 000張包含5種電力設(shè)備常見故障的原始電力設(shè)備故障圖像并人工給出相應(yīng)的故障類型標(biāo)簽，如表1所示．一些受噪聲等因素影響的電力設(shè)備圖像質(zhì)量較差，為了便于模型學(xué)習(xí)訓(xùn)練數(shù)據(jù)集中各種電力設(shè)備故障特征，先對拍攝圖像進(jìn)行亮度、顏色、對比度和銳度的增強(qiáng)．因?yàn)閿?shù)據(jù)集中不同類型圖像數(shù)量的均勻性對模型訓(xùn)練結(jié)果影響較大，所以為了盡可能使圖像數(shù)據(jù)均勻分布，并讓模型的泛化能力增強(qiáng)，通過鏡像和旋轉(zhuǎn)的方式對數(shù)據(jù)集進(jìn)行擴(kuò)展，并做無序化打亂處理，使數(shù)據(jù)集總數(shù)量達(dá)到30 000．隨機(jī)選取擴(kuò)展后的數(shù)據(jù)集中80％的數(shù)據(jù)作為訓(xùn)練集，選取20％的數(shù)據(jù)作為測試集．

2）硬件條件

操作系統(tǒng)為Windows 10，CPU型號(hào)為Intel Xeon Gold 5218，內(nèi)存64 GB，GPU型號(hào)為GeForce RTX 2080Ti，顯存容量為11 GB，采用TensorFlow深度學(xué)習(xí)框架．

3.2 實(shí)驗(yàn)結(jié)果分析

隨機(jī)選取一張有故障的電力設(shè)備圖像，并用訓(xùn)練好的AT-TrellisNet故障檢測模型對其進(jìn)行檢測．識(shí)別結(jié)果如圖7所示.其中，圖7a為電表外殼出現(xiàn)破損原圖，圖7b為檢測后的結(jié)果．由圖7可以看出，本文的模型正確檢測出了圖像中的故障，并給出了故障類型，達(dá)到了預(yù)期的要求．

除此之外，將本文方法與ED-CNN［3］、Dense-YOLO［12］和DCNN-3［13］］方法進(jìn)行故障分類效果比較．在對各模型輸入電力設(shè)備故障數(shù)據(jù)集進(jìn)行學(xué)習(xí)后，可以得到其平均損失曲線，結(jié)果如圖8所示．由圖8可知：本文模型在前2 000次的迭代中，平均損失迅速下降，并且隨著訓(xùn)練次數(shù)的增加，本文模型平均損失值快速下降至0.2左右，遠(yuǎn)小于其他模型;其他模型的平均損失在迭代次數(shù)達(dá)到3 000左右才開始趨于緩慢下降，且最終平均損失均在0.5以上，遠(yuǎn)高于本文模型的平均損失．這一結(jié)果顯示了本文所提模型的優(yōu)越性．圖9為模型的精確率召回率曲線，可以看出本文模型的P-R曲線面積最大，也反映了該模型性能的優(yōu)越性．

表2中列出了各模型對5種故障類型的識(shí)別精確率．可以看出，由于故障類別2和類別3的特征相對較為明顯，學(xué)習(xí)起來也相對容易，因此故障類別2和3的識(shí)別精確率超過90％，而故障類型1、4和5，由于面積和形狀變化較大，且比較相似，故難以分辨，且因?yàn)樵O(shè)備的相似性也容易相互混淆，所以其識(shí)別精確率相對較低．但是總的來說，本文模型在不同故障類型的檢測上都比其他模型具有更高的精確率．表3顯示了不同模型識(shí)別不同故障類型的召回率，因?yàn)殡S著精確率的提高召回率會(huì)下降［14-18］，所以本文模型對不同故障類型的召回率最低．

從模型的故障識(shí)別的精確率和召回率對比中可以看出，本文方法在所有實(shí)現(xiàn)的方法中檢測性能最好，對各故障識(shí)別的精確率都相對較高．與其他的方法相比，本文方法不僅在整體圖像上實(shí)現(xiàn)了故障目標(biāo)的檢測和定位，而且實(shí)現(xiàn)了故障目標(biāo)的分類，在檢測中取得了較好的效果．但是由于電力設(shè)備圖像中目標(biāo)尺寸的差異很大，難以精確學(xué)習(xí)其特征，要實(shí)現(xiàn)準(zhǔn)確分類是一個(gè)很大的挑戰(zhàn)．由表4可以看出，與其他模型相比，AT-TrellisNet模型識(shí)別電力設(shè)備故障類型平均精確率最高，平均召回率最低，該模型的優(yōu)越性得到了進(jìn)一步的驗(yàn)證．由表5可以看出，本文模型與其他幾個(gè)模型相比，在各個(gè)指標(biāo)上都表現(xiàn)出了較好的性能，進(jìn)一步驗(yàn)證了AT-TrellisNet模型的優(yōu)越性．

4 結(jié)論

本文提出一種新型的電力設(shè)備故障檢測模型——AT-TrellisNet，并對5種常見電力設(shè)備故障進(jìn)行檢測．該模型通過引入一個(gè)激活單元來使TrellisNet和注意力機(jī)制相結(jié)合．為了更好地獲得圖像特征并減少計(jì)算量，使用LSTM-CNN獲取圖像中的故障特征作為AT-TrellisNet的輸入．將本文方法與其他3種方法進(jìn)行比較，結(jié)果表明，AT-TrellisNet的檢測精確率較高，可滿足實(shí)際需要．當(dāng)前的模型主要關(guān)注電力設(shè)備的橫向分類（不同類型設(shè)備的故障檢測），未來將會(huì)考慮引入縱向擴(kuò)展模塊，對設(shè)備進(jìn)行縱向分類（如設(shè)備健康狀態(tài)評估、故障嚴(yán)重程度評估等），使得模型具有更全面的設(shè)備狀態(tài)監(jiān)測能力．

參考文獻(xiàn)References

［1］Duan J J，Shi D，Diao R S，et al.Deep-reinforcement-learning-based autonomous voltage control for power grid operations［J］.IEEE Transactions on Power Systems，2020，35（1）：814-817

［2］ Yang B Y，Liu R N，Zio E.Remaining useful life prediction based on a double-convolutional neural network architecture［J］.IEEE Transactions on Industrial Electronics，2019，66（12）：9521-9530

［3］ Krizhevsky A，Sutskever I，Hinton G E.ImageNet classification with deep convolutional neural networks［J］.Communications of the ACM，2017，60（6）：84-90

［4］ Shao H D，Jiang H K，Zhao K，et al.A novel tracking deep wavelet auto-encoder method for intelligent fault diagnosis of electric locomotive bearings［J］.Mechanical Systems and Signal Processing，2018，110：193-209

［5］ 馮俊.基于圖像分析的電力設(shè)備故障檢測技術(shù)研究［J］.現(xiàn)代電子技術(shù)，2015，38（24）：7-11

FENG Jun.Research on power equipment fault detection technology based on image analysis［J］.Modern Electronics Technique，2015，38（24）：7-11

［6］ 曠可嘉.深度學(xué)習(xí)及其在航空發(fā)動(dòng)機(jī)缺陷檢測中的應(yīng)用研究［D］.廣州：華南理工大學(xué)，2017

KUANG Kejia.Research on deep learning and its application on the defects detection for aero engine［D］.Guangzhou：South China University of Technology，2017

［7］ 蘆竹茂，王天正，俞華，等.基于紅外圖像分析的電力設(shè)備熱故障檢測技術(shù)研究［J］.現(xiàn)代電子技術(shù)，2017，40（11）：123-126

LU Zhumao，WANG Tianzheng，YU Hua，et al.Research on electrical equipment thermal fault detection technology based on infrared image analysis［J］.Modern Electronics Technique，2017，40（11）：123-126

［8］ Ji X Y，Yan Q Y，Huang D，et al.Filtered selective search and evenly distributed convolutional neural networks for casting defects recognition［J］.Journal of Materials Processing Technology，2021，292：117064

［9］ 陳富國，蔡杰，李中旗.基于機(jī)器視覺的高壓隔離開關(guān)設(shè)備狀態(tài)判別與故障診斷技術(shù)［J］.微型電腦應(yīng)用，2022，38（2）：191-194

CHEN Fuguo，CAI Jie，LI Zhongqi.State discrimination and failure recognition technology of high voltage disconnector equipment based on machine vision［J］.Microcomputer Applications，2022，38（2）：191-194

［10］ Goodfellow I J，Pouget-Abadie J，Mirza M，et al.Generative adversarial networks［J］.arXiv e-Print，2018，arXiv：1406.2661

［11］ Bai S J，Kolter J Z，Koltun V.Trellis networks for sequence modeling［J］.arXiv e-Print，2018，arXiv：1810.06682

［12］ 仇旭陽，黃影平，郭志陽，等.基于深度學(xué)習(xí)的障礙物檢測與深度估計(jì)［J］.上海理工大學(xué)學(xué)報(bào)，2020，42（6）：558-565

QIU Xuyang，HUANG Yingping，GUO Zhiyang，et al.Obstacle detection and depth estimation using deep learning approaches［J］.Journal of University of Shanghai for Science and Technology，2020，42（6）：558-565

［13］ 張西寧，劉書語，余迪，等.改進(jìn)深度卷積神經(jīng)網(wǎng)絡(luò)及其在變工況滾動(dòng)軸承故障診斷中的應(yīng)用［J］.西安交通大學(xué)學(xué)報(bào)，2021，55（6）：1-8

ZHANG Xining，LIU Shuyu，YU Di，et al.Improved deep convolutional neural network with applications to bearing fault diagnosis under variable conditions［J］.Journal of Xi’an Jiaotong University，2021，55（6）：1-8

［14］ Wen L，Li X Y，Gao L.A transfer convolutional neural network for fault diagnosis based on ResNet-50［J］.Neural Computing and Applications，2020，32（10）：6111-6124

［15］ Wang B，Lei Y G，Yan T，et al.Recurrent convolutional neural network：a new framework for remaining useful life prediction of machinery［J］.Neurocomputing，2020，379：117-129

［16］ 韓金磊，熊萍萍，孫繼紅.基于LSTM和灰色模型的股價(jià)時(shí)間序列預(yù)測研究［J］.南京信息工程大學(xué)學(xué)報(bào)（自然科學(xué)版），2023，15（6）：631-642

HAN Jinlei，XIONG Pingping，SUN Jihong.Stock price time series prediction based on LSTM and grey model［J］.Journal of Nanjing University of Information Science ＆ Technology （Natural Science Edition），2023，15（6）：631-642

［17］ Wang Z J，Zhou J，Wang J Y，et al.A novel fault diagnosis method of gearbox based on maximum kurtosis spectral entropy deconvolution［J］.IEEE Access，2019，7：29520-29532

［18］ 冉瑞生，石凱，江小鵬，等.基于雙注意力CrossViT的微表情識(shí)別方法［J］.南京信息工程大學(xué)學(xué)報(bào)（自然科學(xué)版），2023，15（5）：541-550

RAN Ruisheng，SHI Kai，JIANG Xiaopeng，et al.Micro-expression recognition based on dual attention CrossViT［J］.Journal of Nanjing University of Information Science ＆ Technology （Natural Science Edition），2023，15（5）：541-550

A fault detection model for power equipment based on TrellisNet and attention mechanism

Abstract The performance of power equipment fault detection models is affected by various factors including fault type，fault complexity，and image quality.Here，a fault detection model based on TrellisNet and attention mechanism is proposed for power equipment.First，Long Short-Term Memory （LSTM） is integrated with Convolutional Neural Network （CNN） to construct LSTM-CNN to obtain fault characteristics in images，which can effectively distinguish features of different fault types and reduce the influence of noise and other interference factors.In addition，the feature data obtained by LSTM-CNN are used as input，and by embedding the attention mechanism into TrellisNet，an AT-TrellisNet network with high resolution is constructed to detect the fault type of different power equipment.Finally，five common power equipment faults are selected for model validation.The experiment results show that compared with some existing detection models，the proposed model has higher detection accuracy，with a maximum of over 90％，which can meet the actual needs of power equipment fault detection.

Key words fault detection;TrellisNet;long short-term memory （LSTM）;convolutional neural network （CNN）;attention mechanism;image recognition