999精品在线视频,手机成人午夜在线视频,久久不卡国产精品无码,中日无码在线观看,成人av手机在线观看,日韩精品亚洲一区中文字幕,亚洲av无码人妻,四虎国产在线观看 ?

基于聯邦對比學習的航天器故障診斷

2025-09-02 00:00:00楊夏潔林子謙徐丹丹尤艷麗樊重俊
計算機應用研究 2025年8期

中圖分類號:TP181 文獻標志碼:A 文章編號:1001-3695(2025)08-029-2467-07

doi: 10.19734/j. issn.1001-3695.2024.11.0481

Spacecraft fault diagnosis based on federated comparative learning

Yang Xiajie1,Lin Ziqian1?,XuDandan1,YouYanli2,FanChongjun1 (1.BusinessSol,Uesityfghaifoeeamp;Tchlgnghao,hna;.agiJingnDistricAeurU versity(Shanghai Open University Jing'an Branch),Shanghai 2Ooo4O,China)

Abstract:Spacecraftfault diagnosis typicallyinvolves interpreting telemetryparameters.Time-seriesdata colected by key spacecraftdevices exhibitanon-independentidenticallydistributed(Non-ID)patern.Traditional federatedlearning methods tendtocause modeldriftduetolocal modelupdates when handlingsuchdata.Toaddressthis isse,thestudyproposedafederatedoptimizationalgorithmcalledfederatedcontrastivetime-seriesanomalydetection(FclTAD).Thealgorithmanalyzed spacecraft Non-IDtime-seriesdatatodetectanomaliesatany givenmoment,enabling timelyinterventions.TheFclTADalgorithmconsistedof two stages:local updateand global aggregation.Thelocalupdate phaseused anautoencoder tocapture longtermdependenciesandnonlinearrelationsipsinthtimeseries.Itintroducedajointcontrastiveregularizationlosstoenhance themodel’sdiscriminativeabilityforfaultdiagnosis.Theglobalaggregationphaseaccountedforsensordiferencesandapplieda normalizationandweightedagregationstrategytocorrectinconsistentlocalupdates.Thisadjustmentreducedthe negativeimpactof eroneous updates onthe global model.The studyconductedsimulationsusing the NASA public datasets MSL and SMAP,as wellas the machine prediction serverdataset (PSM).Resultsshow thatFcITADimproves the fault diagnosis accuracy by approximately 14.37% and the adjusted F1 score by 7.82% compared to other methods.FclTAD protects spacecraftdataprivacy,addressesthe“clientdrift”problem,andefectivelyutilizesrelationshipsbetweenlocalandglobalmodels. The method achieves excellent performance in spacecraft Non-IID time-series fault diagnosis.

Key Words:federated learning;fault diagnosis;time series;comparative learning;aerospace

0 引言

隨著科技水平的不斷發展,航天器的復雜度也在不斷增加,引入新的方法對航天器進行及時的故障診斷能推動航天事業的發展。航天器故障診斷通常通過判讀遙測參數實現,遙測的時序數據蘊涵豐富的可用于故障診斷的客觀規律和知識,深度挖掘和分析這些規律和知識,實現航天器實時數據的預測性維修[1],能避免災難性事故的發生,并有效地延長其操作壽命[2]。傳統的深度學習雖能通過端到端的模型消除復雜的特征提取對人力、專家經驗的要求,但故障診斷的成功需要依賴大量帶標簽的訓練數據[3],若將其集中收集,可能會造成危及任務安全或暴露航天器操作機密的問題[4]

聯邦學習(federatedlearning,FL)[5]是解決上述問題的一類機器學習框架,該框架將數據保留在設備本地,能夠直接在原始數據上訓練模型,對于涉及用戶隱私或者數據量較大的情況,避免了把用戶數據直接上傳數據中心,保護數據隱私安全。聯邦學習也為時序數據故障診斷提供一種新范式,應用于工業、醫療、教育等領域,如Truong等人[提出了一種分布式異常檢測架構,檢測應持續運行的工業控制系統中時間序列數據的不規則性,減少生產運營和重要工業資產甚至敏感信息造成的嚴重損害。Guo等人[7提出了一種基于聯邦學習的實時醫療數據處理方法,能夠從連續的醫療實時數據流中學習疾病診斷模型。但航天器傳感器數據呈Non-IID分布,包括任務和操作模式的多樣性、外部環境變化,以及不同傳感器的采樣頻率、量程和噪聲特性等。這種數據分布的不均衡性加劇了模型在不同分布下泛化的難度[8],因此,仍然需要通過提升全局模型的泛化能力,適應分布差異,確保診斷結果的可靠性和穩定性[9]

聯邦學習在Non-IID數據的應用中,主要分為面向客戶端和全局聚合的優化兩個方面,針對客戶端本地訓練的優化,Li等人[4提出聯邦近端優化算法,該算法在本地執行不等數量的更新操作,以應對數據和系統的異構性問題。金彤等人[10]提出一種基于譜聚類的傅里葉個性化聯邦學習算法,在云端協同下通過譜聚類將用戶終端劃分為多個聚類域,充分利用相似用戶終端學到的知識提升模型性能,緩解跨不同用戶終端數據Non-IID 引起的負面影響。張澤輝等人[]針對工業 Non-ID數據隱私泄露和模型性能損失的問題,提出一種自適應模型聚合方案,能夠設定各參與者的Mini-batch值和自適應調整全局模型聚合間隔,在保證模型精度的同時提高訓練效率。 Mu 等人[12]提出了FedProc,在圖像分類任務上利用原型作為全局知識,以糾正每個客戶端本地訓練的漂移,使得全局模型在非IID數據上表現良好。針對模型聚合的優化,Li等人[3]發現,當模型聚合權重總和小于1時,會引發類似權重衰減的全局權重收縮效應,提升模型泛化能力。他們指出,最優收縮因子受到客戶端數據異質性和局部訓練輪次的影響,基于此提出了一種具有可學習聚合權重的聯邦學習方法FedLAW,通過客戶間的相對聚合權重反映客戶端重要性。Ahmad等人[14]探討了Non-IID數據場景下聯邦學習中局部模型參數的重要性差異,并提出了一種基于Hessian矩陣的聚合機制,利用損失函數的一階信息,采用Hessian作為縮放矩陣,捕捉跨局部模型的數據統計變化。然而,在航天器場景下,時序數據Non-IID的長時依賴性沒有被考慮在內,不足以充分捕捉到航天器數據中的長期依賴關系,且大多數只依賴于簡單的加權平均,未能充分考慮各個本地模型更新之間的相互作用和在不同訓練階段的動態變化。現有的對航天器時序故障診斷方面的研究較少,尚缺乏專門針對航天器時序數據特點的故障診斷方法。因此,針對航天器時序故障診斷的聯邦學習方法必須解決兩個關鍵問題:a)航天器故障數據通常稀缺且類別不平衡,在有限的時序數據集中,如何確保模型能夠有效捕捉長期依賴關系并提升其泛化能力?b)如何確保每個客戶端的貢獻能夠根據其數據質量和模型表現動態調整?

針對上述問題,本文提出了一種聯邦對比時序診斷算法來解決航天器Non-IID時序數據的故障診斷問題。本方法從聯邦學習框架出發,借鑒對比學習的思想,在時序數據的故障診斷任務中,提出了適用于Non-IID數據環境下的有效優化策略。在本地更新中引人對比損失和傳感器間的正則損失,增強本地模型故障診斷的判別能力,使本地模型能夠盡可能地接近全局模型;全局聚合中,通過規范化和加權聚合策略,修正不一致的局部更新,減少錯誤更新對全局模型的負面影響。本文貢獻如下:

a)針對航天器Non-IID時序數據的故障診斷問題,提出算法FclTAD。

b)LSTM-AE作為本地服務器模型,獲取重構損失學習數據的低維表示,去除噪聲并突出關鍵特征,處理不同數據的分布特征,有效捕捉時間序列數據中的長期依賴和非線性關系。

c)本地訓練階段,提出聯合對比正則化損失,考慮局部和全局模型的內在關系,有效增強模型的判別能力,使得模型在嵌入空間中能夠更好地分離正常數據和故障數據,同時減少梯度爆炸或消失的風險且防止模型過擬合,得到一個魯棒性更好的異常檢測模型。

d)全局聚合階段,以規范化和加權聚合模型參數,生成新的全局模型,均衡不同傳感器對全局模型的貢獻,控制更新步長,確保模型更新的穩定性和有效性。

e)通過在PSM、SMAP數據集以及用MSL作為真實世界實例進行實驗,展示了FcITAD在Non-IID環境下異常檢測任務中的各項性能。驗證了其能在航天器時序數據故障診斷中,可以在不犧牲隱私安全的前提下,實現跨機構數據的有效聚合,增強模型對航天器Non-IID時序數據異常模式的識別能力,以及模型偏移導致的精確度不佳的問題。

1相關理論

1.1 聯邦學習

聯邦學習作為一種分布式機器學習方法,已在醫療健康、金融服務、物聯網、智能制造等領域廣泛應用,證明了其在解決數據孤島問題方面的有效性[15]。本文借助其分布式學習特點,基于航天器傳感器遙測Non-IID數據在本地進行獨立訓練模型,并通過與中央服務器的通信共享模型更新,實現全局模型的協同優化,不僅有效保護了數據隱私,還提升了故障診斷的準確性和可靠性,能夠更好地應對航天器在復雜環境下的運行挑戰。通常服務器端用于聚合傳感器模型參數的方法為聯邦平均算法(federatedaveragingalgorithm,FedAvg)[5],其模型訓練通過循環進行,每輪通過重復本地學習和模型聚合的過程來實現。在每輪中,服務器激活部分邊緣設備,并將最新的模型參數 mGt+1 發送給設備。被激活的設備進行本地數據訓練。具體而言,對其本地模型參數 mkt 執行隨機梯度下降(stochasticgradientdescent,SGD)的參數優化,在各自私有數據集 Dk 上進行訓練,最小化本地損失:

mkt+1=mkt-η?Lk(mkt

其中: η 是學習率; Lk 為第 k 個樣本的本地損失。服務器端通過以下方式實現加權平均聚合:

其中: |D| 為設備總數據量; ∣Dk∣ 為設備 k 的數據量; mGt+1 為新一輪要下發的全局模型參數; mkt+1 為更新后的本地模型參數。重復上述過程,直至收斂。

1.2時序數據模塊化的故障診斷

航天器采集到的時序數據往往是多元時序數據,針對多元時間序列的故障診斷方法可基于訓練一個模型來重建或預測健康的時間序列,歸納為一個模塊化的異常檢測和診斷框架[16]。該框架由三部分或模塊組成—重構或預測模型、評分函數和閾值函數[17],具體步驟如下:

第一個模塊:重構模型 fm ,將一個子序列 X 作為輸人,輸出對輸入的有損重構 Im 用于計算一個誤差。

第二個模塊:打分函數將誤差 Lre 等多通道得分合并為每個時間點的單個異常得分 at 。評分函數通常有兩個截然不同但又相互聯系的部分——轉換函數 ftrans 和聚合函數 fagg 。首先 ,ftrans 將誤差轉換為每個通道異常得分 Akt ,用于異常診斷,以識別異常持續時間內哪個通道異常得分最高。然后,在每個時間點上 Iagg 將各通道的得分進行聚合,生成每個時間點的異常得分a,

第三個模塊:閾值函數模塊,閾值為 ξ ,得到一個二值標簽 ,用于將每個點分類為異常或健康。形式上:

2 FclTAD算法介紹

2.1框架概述

FcITAD以NASA公開的航天器數據為應用實例,圖1給出了框架的概述,展示了其核心工作流程,該框架主要由五個步驟組成:

a)每個傳感器初始化LSTM-AE模型參數,用本地時間序列數據 X 訓練LSTM-AE模型,引入聯合對比正則化損失LJCRL ,最大化當前本地模型參數與全局模型參數的相似性,增強模型的判別能力,同時最小化當前本地模型參數與上一次本地模型參數的相似性,并防止模型過擬合。

b)本地將更新后的模型參數 mkt+1 上傳到中心服務器。

c)中心服務器通過動態加權聚合各本地上傳的參數,修正不一致的局部更新,推動模型參數向全局模型靠攏,同時保持一定的差異性。d)全局模型參數 mGt+1 作為下一輪本地訓練的起點,被分發到各本地傳感器。e)每一輪迭代后,通過精確度和調整后的 F1 值來評估模型在異常檢測任務上的性能。

表1關鍵符號說明Tab.1Description of key symbols

2.3 本地訓練與更新

2.3.1 本地模型

FcITAD的本地訓練與更新采用LSTM-AE模型,學習航天器數據時序特征和模式,其由編碼器和解碼器組成,用于將輸人序列編碼為隱變量,再從隱變量解碼重構原始序列,在多實體數據集中為每個實體訓練一個單獨的模型,能夠有效地從高維時間序列數據中提取出重要的特征,從可預測的、不可預測的、周期的、非周期的和準周期的時間序列中檢測異常,并引入聯合對比正則化損失JCRL:

LJCRL=Lre1Lcon2LL2

其由重構損失 Lre 、模型對比損失 Lcon 和模型間的正則損失 LL2 三部分組成 S1 是對比損失的超參數, δ?2 是模型間的正則損失的超參數。下面將具體介紹三部分損失。

2.3.2重構損失

LSTM編碼器學習輸人時間序列的固定長度向量表示,LSTM解碼器使用該表示,使用當前隱藏狀態和上一時間預測的值重構時間序列。重構損失度量模型再將輸入數據編碼、解碼后重建出的數據與原始輸入數據之間的誤差通過最小化重構誤差,LSTM-AE能夠更好地表征航天器數據的基礎模式。

1)重構

將航天器遙測數據正常時間序列分為 P?M,P?M,P?N3 和 PN4 四組,異常時間序列分為 PA1 和 PA2 兩組時間序列。序列集合 用于學習LSTM-AE 模型。集合 PN2 用于訓練編碼器-解碼器模型時的提前停止。 hEk 為編碼器在 tk 時刻的隱藏狀態,其中 hEk∈Rω Rω 表示一個 ω 維的實數空間, ω 為編碼器隱藏層的LSTM單元數。編碼器的最終狀態以 hEL 作為解碼器的初始狀態。LSTM解碼器層頂部的線性層用于預測目標。在訓練過程中,解碼器以 xk 作為輸人,得到狀態 hDk-1 ,然后預測目標xk-1 對應的 xk-1 。在推理過程中,將預測值 xk 輸人到解碼器中,得到 hDk-1 ,并預測 xk-1 。以實現最小化目標:

2.2 問題設置

本文假設有來自不同航天器的傳感器 C={C1,C2,… ,其中 k=(1,2,…,K),D 是所有航天傳感器的總和。 Dk= {(xk,yk)} 中包括長度為 L 的時間序列 Xk,Xk 為第 k 個度量的觀測向量,對航天器時間序列進行異常檢測,式中: xk 為第 k 組數據的輸入特征 ,yk∈{0,1} 表示對應的故障標簽。在本文背景中,目標是訓練一個全局聯邦模型判斷航天器Non-IID數據在某時刻的觀測是否異常。為了實現這一目標,服務器優化目標表示如下:

其中 為第 k 個參與方的聯合對比正則化損失; |D| 為總數據量; ∣Dk∣ 為設備 k 的數據量; mkt 為第 χt 輪本地模型參數; mGt 為第 χt 輪全局模型參數。文中符號變量及定義如表1所示。

利用集合 PN2 序列中各點的誤差向量,采用極大似然估計法估計參數 μ 和 Σ 的正態分布 N(μ,Σ) 。正態分布的概率密度函數為

其中: d 是隨機變量 xk 的維數,即特征的個數。

2)打分和閾值

對于任意的點 xk ,,異常分數為 at=(rk-μ)TΣ-1(rk-μ) 是 tk 時刻的重構損失向量。若 Akt 大于設定的異常值閾值 ξ ,則該點被預測為“異常”,否則為“正常”。當有足夠多的異常序列可用時,在似然值上學習一個閾值 ξ ,使其最大化:

Fσ=(1+σ2)×P×R/(σ2P+R)

其中: P 為精確率; R 為召回率; σ 是用于平衡 P 和 R 之間權重的參數。假設 σlt;1 ,通過在驗證序列 PN3 和 PA1 上最大化 Fσ 得分選擇參數 ξ 和 ω 。

重構誤差直接用于檢測航天器時間序列中的異常。較大的重構誤差通常意味著輸入序列中存在異常模式。通過最小化重構誤差,模型可以更好地捕捉正常模式,從而提高重構質量。

其中: L 是時間序列長度; xk 是第 k 個樣本在時間步 ξl 的真實值; xk 是第 k 個樣本在時間步 ξl 的重構值。

2.3.3 對比損失項

在對航天器時序數據異常檢測的本地訓練過程中引入對比損失,增強模型在不同客戶端上的區分能力。在Non-IID數據場景下,由于各客戶端的數據分布不同,直接進行模型聚合可能導致全局模型在各數據分布下的表現不一致。

其中: τ 為溫度參數; 是向量的余弦相似度; mkt 是第 k 個傳感器的模型參數; mGt 是當前全局模型參數; mGt-1 是前一輪的全局模型參數。

2.3.4傳感器間的正則損失

傳感器間的正則損失可以約束模型的特征表示,使其在重構時捕捉到傳感器數據間的同步性和相似性,有效地提升多傳感器系統中不同傳感器之間的協同性,更好地提取系統級別的整體特征,避免對某一個傳感器的過度依賴。同時,通過增強不同傳感器間的協同效應,還能幫助模型更準確地檢測出系統的異常狀態,使本地模型更接近全局模型,將全局模型從不同數據分布學習到的知識作為補充,擴充本地模型能識別的類別,保留本地數據的分布特性。

2.4 全局聚合

各航天器傳感器在完成本地更新訓練后,將優化后的本地模型參數發送至服務器。服務器端接收到各傳感器的模型更新后,通過規范化和加權聚合對所有傳感器的模型進行融合。規范化操作用于減少不同傳感器間因數據分布差異而產生的模型更新偏差,減小差異對全局模型的影響性,確保全局模型在學習到各個傳感器的時序特征的同時,逐步逼近最優解,為航天器的故障診斷提供穩定且高效的全局模型:

其中: η 是學習率; |D| 為設備總數據量; ∣Dk∣ 為傳感器 k 的數據量; Δmkt 是傳感器 k 在本地更新后的模型參數變化。

2.5FcITAD算法流程

算法1詳細闡述了FcITAD框架訓練流程。該算法允許在參與機構生成新的時序數據時,同步更新本地模型和全局服務器上的聚合模型。

算法1FclTAD

輸入:本地服務器的數據集 Dk ,通信輪數 r ,學習率 η ,本地訓練輪數 E ,全局訓練論數T,溫度參數和超參數 μ 和 δ

輸出:更新后的全局參數和客戶參數。

本地訓練:

初始化:每個傳感器 k 獨立初始化其LSTM-AE模型參數 mktmGt

傳感器 k 使用本地時間序列數據 Ck 訓練LSTM-AE模型

forlocal_epoch Λ=1,2,…,E dofor each batch (xk,yk) of Ck do:計算傳感器 k 的重構損失: 計算傳感器 k 的對比損失: 計算傳感器k的正則項:L= 計算傳感器 k 的聯合對比正則化損失 更新本地模型參數mk+1=mk-n√JCRLend for

end for

return mkt+1 ,傳感器將更新后的模型參數上傳到中心服務器

全局聚合:

初始化全局模型 ?mG0 (202

中心服務器接收所有傳感器的模型參數 m1t+1,m2t+1,…,mnt+1 (204

forglobal_epoch Π=1,2,…,T do使用 FeITAD 算法聚合模型

end forreturn mGt+1 ,將聚合后的全局模型參數下發給所有傳感器

3 仿真驗證

3.1實驗設置

1)數據集

為了全面評估本文模型,先采用兩個數據集進行Non-IID仿真模擬,再采用一個真實世界的數據集驗證模型性能:a)機器預測服務器數據集(PSM)[18]。該數據集由eBay提出,數據集沒有丟失的值,由來自應用服務器的26維時間序列數據組成,共包含132481條數據。有13周的訓練數據和8周的測試數據。b)土壤水分主動被動探測衛星(SMAP)數據集[19],有55個實體,每個實體有25個維度,訓練集樣本135183個,測試集樣本427617個。c)火星科學實驗室數據集(MSL)[19],有27個實體,每個實體有55個維度,訓練集樣本58317個,測試集樣本73729個。兩個航天器數據集共計82個通道、105個故障,時間步長均為60步/s。數據集相關情況如表2所示。

表2數據集相關情況

Tab.2Relevance of the dataset

2)基準模型

a)FedAvg[5]將模型參數分發到各個設備進行訓練,隨后收集這些設備上的局部模型參數,并對其進行平均化處理,將得到的平均值作為全局模型的更新。b)FedProx[4]在FedAvg的基礎上引入正則化項,在優化過程中更關注全局模型與本地模型之間的相似性,減少傳感器之間的漂移,提高整體的收斂性和泛化性。c)SCAFFOLD[20]使用方差減少技術來彌補其局部更新中的“傳感器漂移”。d) MOON[21] 引人對比損失來優化每個客戶端的模型,讓每個客戶端的模型在學習過程中盡量保持與全局模型的一致性,避免出現過度偏向局部數據的情況。e)FedDC[22]根據每個客戶端的數據特性動態地選擇參與訓練的樣本,客戶端將根據其數據的多樣性和代表性來更新模型。f)FedDyn[23]考慮到每個客戶端的訓練動態,允許全局模型更新策略在訓練過程中不斷變化,以適應每個客戶端的數據特性和學習進度。

3)基本設置

在NASA航天器數據集中,盡管各通道的時序數據共享相同的特征維度,但在特征分布上展現出顯著的異質性,以此為研究對象,從解決航大時間序列數據故障診斷延伸到其他領域。為了規避某一特定通道數據的異常值對整體評分造成的不利影響,對每個通道的數據執行了通道內的最小-最大歸一化處理。鑒于MSL和SMAP數據集的時間序列較短, lw=100 ls=1 。實驗中,批次大小設定為128,每輪訓練中,參與訓練的傳感器比例是0.25,每輪本地訓練的輪數是10,溫度參數設為0.5。本地模型采用了2個編碼器和2個解碼器,隱藏層單元數設置為128,序列長度為250。模型的批次規模為512,優化器選擇SGD,訓練周期設定為30,丟棄率為0。所有實驗均在英偉達3090GPU上執行,使用PyTorch1.4.0和Python3.8.13。

4)評價指標

實際中的異常檢測需要一個閾值來獲取,操作者更關心檢測事件,即連續的異常時間點集合,而不是單個時間點[24],因此對 F1 值進行調整,進一步驗證FcITAD故障診斷性能,調整后的 F1 值考慮了事件,即使在大量事件未被檢測到的情況下,也可能給出很高的分數且很穩健。模型最后通過準確率、召回率 得分( F1 -score)和調整后的 F1(F1(adj)) )得分來衡量,F1 (adj)為時間精度 Prt 和事件召回率 Rece 的調和平均值:

TP+FN。TP、FP和FN 分別表示正確檢測到的異常時間點數、正常判斷為異常的時間點數和錯誤判斷為正常的時間點數。 和 FPt 分別為 TP 和 FP 時間點數, TPe 和 FNe 分別為TP 和 FN 事件數。 TPe 是至少存在一個 TP 時間點的真實事件數。其余真實事件在 FNe 下統計。

3.2 性能對比

為分析FcITAD的性能,本節先在航天數據集SMAP和其他領域數據集PSM,即兩個數據量Non-IID分布不明顯的數據集上對該框架進行評估,并與其他聯邦學習組合方法進行對比。狄利克雷分布參數 β 設置為{0.1,0.5,2.5,5}。

從表3可以看出,在PSM數據集上,FedAvg在不同 β 值下的精確率波動較小,保持在0.69左右。FedProx的精確率隨著β 的增大而提升,從0.6209上升到0.8226,表明其在數據分布較均勻時的表現較優。FedDyn的精確度隨著 β 增大而穩定提升,尤其在 β=5 時,精確度為0.8024,接近FedProx。MOON和Scaffold的精確率同樣隨著 β 的增加而提高,FedDC的表現優于FedDyn,顯示出對Non-IID數據分布的適應能力,在 β= 2.5時優于FcITAD。而FcITAD在不同 β 值下精確率表現出色,即使當 β=0 .1,Non-IID分布較明顯時,精確率也高達0.8090 ,整體穩定,顯示出其對Non-IID數據處理的優越性。

在SMAP數據集中,FedAvg精確度為 0.6796~0.8920 在處理航天器復雜的時序數據時未能展現出極致的優勢;Fed-Prox 較為穩定,精度為0.6908~0.8909;M00N在應對航天器數據時有較強的適應性,精度為( ).702 1~0.889 2 ,幫助不同傳感器更好地對齊數據分布差異;Scaffold精度為 0.6902~ 0.8898,表現一般,FedDyn也表現得非常穩定, ?β=5 時,精確度為0.8903,能夠有效應對不同客戶端之間的異質性。FedDC與FedDyn 相似,在 β=5 時,精確度為0.8896,略低于FedDyn,但依然保持了較高的表現。相比之下,FcITAD精度范圍在0.898 4~0.899 0 ,優于其他方法,增強了模型對航天器復雜數據模式的適應能力。

表3在PSM和SMAP數據集上不同傳感器數據劃分的精確度Tab.3Accuracyof different sensor data divisions on PSMand SMAP

從表4來看,FcITAD在PSM和SMAP數據集上不同傳感器劃分的adjusted F1 值均優于大部分的算法, β=5 時,調整后F1 分別為0.8629和0.8743,但在SMAP數據集上低于Fed-Dyn,調整后的 F1 值為0.8765,表明其對 Non-IID 時序數據的處理能力和泛化能力有較好的性能,但仍有進步空間。Fed-Prox和MOON也展現了較好的性能,能夠有效應對不同傳感器的數據分布差異。FedAvg和Scaffold相對表現一般,盡管在部分情況下有所提升,但整體表現不如FcITAD、FedDyn、Fed-DC、FedProx和MOON顯著,FcITAD表現出了在航天器Non-IID時序數據故障診斷中的有效性,尤其是在不同傳感器數據分布下保持了強大的泛化能力。

表4在PSM和SMAP數據集上不同傳感器數據劃分調整后的 F1

Tab.4Adjusted F1 values for different sensor data divisions onPSMand SMAP

從圖2~5可以看出,FcITAD在PSM和SMAP數據集上均表現出色,精度和調整后 F1 值均達到最高,顯示出其在處理Non-IID時序數據時的強大適應能力和泛化能力。FedProx在兩個數據集上的穩定提升和較高的精度及 F1 值也表明了其有效性。而FedAvg和Scaffold則相對表現平穩,未能展現出顯著的提升,尤其在處理數據分布不一致的情況下效果不佳。MOON雖然初期表現不佳,但后期改進明顯,展現了潛力。FedDyn和FedDC在處理航天器復雜Non-IID時序數據時具備出色的故障診斷能力和模型穩健性,但略低于FcITAD。

3.3真實世界數據驗證

以另一個真實世界NASA數據集MSL為實例,其傳感器的數據量Non-IID分布明顯。圖6為MSL數據集分布情況,下面用該數據集進一步驗證模型的性能。狄利克雷分布的參數β 設置為0.5,損失超參數 δ?1 和 δ2 均設置為1,并與其他聯邦算法進行對比。

圖2PSM數據集中不同 β 下各算法的精確度

圖3PSM數據集中不同 β 下各算法調整后的 F1

圖5SMAP數據集中不同 β 下各算法的調整后 F1

Fig.5 F1(adj) values for each algorithmatdifferent β in the SMAP

在對真實世界NASA數據集MSL進行分析時(表5)發現,FedAvg的精度為0.7434,調整后的 F1 值為0.6512,盡管表現平穩,但未能顯著提升,對傳感器間數據分布的不均勻性反應較弱,限制了其在實際應用中的有效性。FedProx的精度為0.6571, F1 (adj)為0.6184,與FedAvg相差不大。MOON算法通過對比損失來優化模型的泛化能力,其在MSL數據集上的精度為0.6582, F1 (adj)為0.6186,與FedProx的效果接近,對比損失的引入并未帶來顯著的提升。在此數據集上表現更好的Scaffold,通過引入全局和局部的控制變量,有效地降低了Non-IID數據帶來的偏差,精度達到了0.7528, F1 (adj)為0.657 0oFedDyn 和FedDC在該數據集上表現接近,精確度和F1 (adj)分數都相對較高,略低于FcITAD,顯示出它們在處理數據異質性方面的優越性。

表5MSL數據集運行效果

Tab.5Effect ofrunningthe dataset

FcITAD學習到傳感器不同類別間的特征差異,通過傳感器間的正則化,減少了不同傳感器數據分布差異帶來的干擾,精度達到0.7761,調整后的 F1 值為0.7075,證明了其在面對航天器Non-IID時序數據時能有較好的學習能力,能夠有效捕捉數據中的復雜模式,提高航天器故障診斷的準確性。

圖7、8顯示了訓練過程中100輪的準確率和調整后 F1 變化趨勢。更直觀地看出,本文所提出的FcITAD正確率和調整后 F1 變化曲線基本都能處于其他算法之上,且較穩定,說明FclTAD在航天器Non-IID時序數據故障診斷設置下能夠發揮積極作用。

圖9不同損失情況下的精確度三因素方差分析Fig.9Three-factor ANOVA for accuracy in different loss scenarios

圖7100輪準確度對比 Fig.7100 round accuracy comparison

圖8100輪 F1 值對比 Fig.8100 rounds of F1 value comparisons

3.4消融實驗

對不同損失策略進行比較,狄利克雷分布的參數 β 設置為0.5,損失超參數 δ?1 和 δ?2 均設置為1,評估不同損失函數在時序數據異常檢測任務中的效果:a)無額外正則化項的基線方法(即FedAvg);b)僅對比損失;c)本文提出的損失函數方法。實驗結果如表6所示。可以看出,僅使用對比損失時的精確度都要高于不使用的情況,而FcITAD在同時使用傳感器間自正則項和對比損失的情況下,都取得了 90% 左右的精確率。

表6不同損失精確度對比情況

Tab.6Comparison of different loss accuracies

圖9反映了三個數據集不同損失情況下的精確度三因素方差,在所有數據集中,聯合對比正則化損失表現出一致的優勢,在SMAP和MSL這類復雜的航天器數據集上,能夠為故障檢測任務提供支持。

3.5 魯棒性分析

從 {0.01,0.1,1,10,100} 來調整損失超參數,輸出對應調整后的 F1 值,結果如表7所示。在PSM數據集中,較小的超參數(0.01和0.1)精確度接近0.7970,當超參數增加到1時,精確度為0.8143,進一步增加到10時,精確度略微下降,而當超參數達到100時,精確度明顯下降到0.7504。

在SMAP數據集中,超參數增加到1時,精確度從0.7663上升到0.8082,隨后在10和100時保持在0.8080,表明模型在該數據集上的超參數設置需進一步平衡正則化強度。

在MSL數據集中,由于其自身明顯的Non-IID分布,影響了模型的魯棒性。小超參數對應的精確度較低,當超參數達到1和10時,精確度大幅提升至0.8762和0.8770,當超參數達到100時,精確度下降至0.8492,表明適中的超參數能夠顯著提升模型在MSL上的表現。

實驗結果表明,對于Non-IID數據,合理的超參數設置能夠在模型訓練中達到更好的精確度,提升模型對異常檢測的靈敏度和魯棒性。

表7調整后的 F1 對比情況 Tab.7 F1 -adjusted comparison

4結束語

本文的討論圍繞以下重要問題展開:如何在分布式、多來源、Non-IID的航天器時序數據環境下,構建一個穩健的時間序列故障診斷模型。局部端引人LSTM-AE作為本地模型,增強對時序數據的建模能力,聯合對比正則化損失,有效調整邊緣設備上的本地模型,考慮傳感器之間的差異,更好地識別復雜的時序模式,克服數據分布不均對全局模型穩健性的影響。服務器端,對各傳感器更新的模型參數進行標準化和加權聚合,確保全局模型在不同傳感器環境下的穩定性和性能一致性。

通過在多個數據集上的精確度和調整后的 F1 值對比、真實世界數據驗證、消融實驗和魯棒性分析,驗證了FcITAD在應對航天器Non-IID時序數據故障診斷任務的魯棒性和可靠性,確保模型在復雜、分布式數據環境下的應用價值。未來將進一步關注對比聯邦學習的研究,考慮其計算成本和通信成本等,使其更好地應用于航天器故障診斷或其他領域。

參考文獻:

[1]陳婷婷,王素紅,唐鈺本,等.智慧城市中協同服務部署與任務 調度的自適應機制[J].計算機應用研究,2024,41(12):3814- 3821.(Chen Tingting,Wang Suhong,Tang Yuben,et al.Adaptive mechanismforcollaborativeservicedeploymentandtaskschedulingin smartcities[J].ApplicationResearchofComputers,2024,41 (12):3814-3821.)

[2]Pourtakdoust SH,FakhariMehrjardiM,HajkarimMH,etal.Advanced fault detection and diagnosis in spacecraft atitude control systems:current state and challenges[J].Journal of Aerospace Engineering,2023,237(12):2679-2699.

[3]林子謙,張坤,樊重俊,等.面向分布式系統標簽噪聲的時間序 列分類方法[J].控制與決策,2024,39(12):4118-4126.(Lin Ziqian,ZhangKun,FanChongjun,etal.Timeseriesclassification method for distributed system label noise [J].Control and Decision,2024,39(12):4118-4126.)

[4]LiTian,SahuAK,ZaheerM,etal.Federatedoptimizationinheterogeneous networks[C]// Proc of Machine Learning and Systems. 2020:429-450.

[5]McMahan B,MooreE,RamageD,et al.Communication-efficient learningofdeepnetworksfromdecentralized data[C]//Procofthe 20th International Conference on Artificial Intelligence and Statistics. 2017:1273-1282.

[6] Truong HT,TaBP,LeQA,et al.Light-weight federated learningbasedanomaly detection for time-series data in industrial control systems[J].Computers in Industry,2022,140:103692.

[7] GuoKehua,Chen Tianyu,RenSheng,etal.Federated learning empoweredreal-time medical data processing method for smart healthcare [J].IEEE/ACM Trans on Computational Biologyand Bioinformatics,2024,21(4):869-879.

[8] ZhuHangyu,Xu Jinjin,Liu Shiqing,etal.Federated learningon non-IIDdata:a survey[J].Neurocomputing,2021,465:371-390.

[9] KostovskaA,PetkoviM,StepisnikT,etal.GalaxAI:machine learning toolbox for interpretable analysis of spacecraft telemetry data [C]//Proc of the 8th IEEE International Conference on Space Mission Challenges for Information Technology.Piscataway,NJ:IEEE Press,2021: 44-52.

[10]金彤,陳思光.基于譜聚類的傅里葉個性化聯邦學習研究[J]. 電子與信息學報,2023,45(6):1981-1989.(Jin Tong,Chen Siguang.Fourier personalized federated learning mechanism based on spectral clustering[J].Journal of Electronics amp; Information Technology,2023,45(6):1981-1989.)

[11]張澤輝,李慶丹,富瑤,等.面向非獨立同分布數據的自適應聯 邦深度學習算法[J].自動化學報,2023,49(12):2493-2506. (Zhang Zehui,Li Qingdan,Fu Yao,et al. Adaptive federated deep learming with Non-IID data[J].Acta Automatica Sinica,2023, 49(12) : 2493-2506.)

[12]Mu Xutong,Shen Yulong,Cheng Ke,et al.FedProc:prototypical contrastive federated learning on non-IID data [J]. Future GenerationComputer Systems,2023,143:93-104.

[13]Li Zexi,Lin Tao,Shang Xinyi,et al.Revisiting weightedaggregation in federated learning with neural networks[C]//Proc of International Conference on Machine Learning. 2023:19767-19788.

[14]Ahmad A,Luo Wei,Robles-Kelly A.Robust federated learning under statistical heterogeneity via hessian-weighted aggregation[J]. Machine Learning,2023,112(2):633-654.

[15]李少波,楊磊,李傳江,等.聯邦學習概述:技術、應用及未來 [J].計算機集成制造系統,2022,28(7):2119-2138.(Li Shaobo,Yang Lei,Li Chuanjiang,et al.Overview of federal learning: technology,application and future[J].Computer Integrated Manufacturing Systems,2022,28(7): 2119-2138.)

[16]Li Gen,Jung JJ.Deep learning for anomaly detection in multivariate time series: approaches,applications,and challenges [J]. Information Fusion,2023,91:93-102.

[17]Garg A, Zhang Wenyu, Samaran J,et al. An evaluation of anomaly detectionand diagnosisinmultivariate time series[J]. IEEE Trans on Neural Networks and Learning Systems,2022,33(6): 2508-2517.

[18]Abdulaal A,Liu Zhuanghua,Lancewicki T. Practical approach to asynchronous multivariate time series anomaly detection and localization[C]//Proc of the 27thACM SIGKDD Conferenceon Knowledge Discovery amp; Data Mining.New York:ACM Press,2021:2485- 2494.

[19]Rivest R L,Adleman L,Dertouzos M L,et al. On data banks and privacy homomor phisms[J].Foundations of Secure Computation,1978,4(11) :169-180.

[20]KarimireddySP,Kale S,MohriM,etal.Scaffold:stochastic controlledaveraging for federatedlearning[C]//Proc of International Conference on Machine Learning. 2020:5132-5143.

[21]Li Qinbin,He Bingsheng,Song D. Model-contrastive federated learning[C]//Proc of IEEE/CVF Conference on Computer Vision and Pattern Recognition.Piscataway,NJ:IEEE Press,2021:10708- 10717.

[22]Gao Liang,Fu Huazhu,LiLi,et al.FedDC: federated learning with Non-IID data via local drift decoupling and correction[C]//Proc of IEEE/CVF Conference on Computer Vision and Patern Recognition. Piscataway,NJ: IEEE Press,2022:10102-10111.

[23] Jin Cheng,Chen Xuandong,Gu Yi,et al. FedDyn: a dynamic and efficient federateddistilltionapproachonrecommendersystem [C]//Proc of the28th IEEE International Conference on Parallel and Distributed Systems.Piscataway,NJ: IEEE Press, 2023: 786-793.

[24]Xu Haowen,Feng Yang,Chen Jie,et al. Unsupervised anomaly detection via variational auto-encoder for seasonal KPIs in Web applications[C]//Proc of World Wide Web Conference.Republic and Conton of Geneva,CHE: International World Wide Web Conference Steering Committee,2018:187-196.

主站蜘蛛池模板: 国产综合另类小说色区色噜噜| 激情综合网激情综合| 欧美无专区| 日本欧美中文字幕精品亚洲| 国产精品不卡片视频免费观看| 一边摸一边做爽的视频17国产| jizz在线免费播放| 国产在线观看99| 亚洲成a∧人片在线观看无码| 国产老女人精品免费视频| 美臀人妻中出中文字幕在线| 不卡的在线视频免费观看| 亚洲综合专区| 国产丝袜91| 日本午夜影院| 亚洲天堂久久新| 激情亚洲天堂| 九九九精品成人免费视频7| 亚洲无码37.| 国产91视频免费| 99久久亚洲综合精品TS| 91青青视频| 99久久精品久久久久久婷婷| 国产一二视频| 成人中文字幕在线| 久久亚洲国产一区二区| 亚洲区视频在线观看| 91在线精品麻豆欧美在线| 国产91特黄特色A级毛片| 国产极品美女在线| 91www在线观看| 国产鲁鲁视频在线观看| 九九热在线视频| 国产视频欧美| 亚洲视频色图| 免费在线播放毛片| 亚洲欧洲日本在线| 国产手机在线观看| 国产欧美视频在线观看| 亚洲国产精品一区二区高清无码久久 | 91精品国产无线乱码在线| 日韩在线欧美在线| 亚洲侵犯无码网址在线观看| jizz亚洲高清在线观看| 91久久国产热精品免费| 亚洲电影天堂在线国语对白| 亚洲综合色婷婷| 国产人人乐人人爱| 亚洲国产AV无码综合原创| 亚洲精品手机在线| 性欧美精品xxxx| 免费国产在线精品一区| 欧美精品aⅴ在线视频| 97视频在线精品国自产拍| 国产成+人+综合+亚洲欧美| 亚洲精品卡2卡3卡4卡5卡区| 国产精品jizz在线观看软件| 老色鬼久久亚洲AV综合| 成人综合网址| 国产xxxxx免费视频| 亚洲—日韩aV在线| 99热国产这里只有精品无卡顿" | 国产在线自揄拍揄视频网站| 亚洲Av激情网五月天| 中文字幕 91| 国产精品冒白浆免费视频| 凹凸国产分类在线观看| 国产精品成人免费视频99| 日韩无码视频播放| 久久国产精品娇妻素人| 欧美成人午夜在线全部免费| 激情亚洲天堂| 免费人成又黄又爽的视频网站| 久久五月视频| www.youjizz.com久久| 美女免费黄网站| 国产精品极品美女自在线看免费一区二区| 在线不卡免费视频| 日韩欧美中文字幕在线韩免费| 91九色最新地址| 欧美亚洲日韩中文| 色综合五月|