近日，以我校管理學院（大數據與智能決策實驗班）2022級本科生朱涵韜為第一作者的研究成果“Statistical Test-based Adversarial Client Detection in Federated Learning under Poisoning Attacks”被人工智能領域國際權威期刊Information Fusion接收，管理學院張忠良教授是論文的通訊作者，管理學院黃文坡副研究員是論文的合作作者，杭州電子科技大學為第一署名單位。據悉，Information Fusion期刊影響因子為15.5，是中科院一區TOP期刊。根據最新的JCR統計，其在“計算機：理論方法”類別排名第2位，在“計算機：人工智能”類別排名第4位，是人工智能領域與計算機科學的國際頂尖權威刊物，聚焦于信息融合、數據融合、知識融合等領域的研究。

論文鏈接：https://doi.org/10.1016/j.inffus.2025.103569

聯邦學習（Federated Learning, FL）作為一種保護數據隱私的分布式機器學習范式，在AI模型聯合訓練中展現出巨大潛力。然而，其分布式架構使系統易受惡意投毒攻擊的威脅。惡意參與方可通過上傳被污染的模型更新破壞全局模型的收斂性和泛化能力，這一問題已成為制約聯邦學習在相關領域應用的關鍵障礙。

針對安全挑戰，該研究工作提出了一種名為FLGMM的基于統計控制的聯邦學習惡意參與方檢測方法，首次將統計過程控制理論引邦學習參與方選擇領域，用以防御拜占庭投毒攻擊。FLGMM主要包含分布估計、控制限建立和惡意參與方識別三個階段。

在分布估計階段，FLGMM將參與方本地模型參數的平均作為一個魯棒的中心模型，并計算本地模型到中心模型的L2距離作為統計監控量。FLGMM使用高斯混合模型（GMM）對參與方距離分布進行建模，估計兩類參與方（良性與惡意）距離分布的均值和方差，并將均值偏移較大的一類參與方標記為潛在攻擊者，將其從全局模型聚合中剔除。

分布估計階段流程圖

待本地訓練穩定后，FLGMM進入控制限建立階段。借助初始通訊回合中基于GMM不斷完善的參與方分布參數估計，FLGMM建立了3-Sigma準則的單邊控制限，在確保精準識別攻擊者的同時，極大降低了良性參與方錯誤分類的概率（理論上0.135%的錯誤分類率）。借助該控制限，FLGMM在將來的通訊回合中可以高效精準的識別惡意參與方，確保聯邦全局模型的精度。

基于控制圖方法的參與方選擇

大量數值實驗驗證了該方法對多種攻擊的防御有效性和魯棒性，性能超過現有SOTAs。在模型投毒和數據投毒共六種攻擊場景下，FLGMM的全局模型精度均超過對比的SOTAs，體現其對于各類攻擊的有效防御。

本研究成果首次將統計過程控制理論系統性地引邦學習防御框架，將傳統的離群點檢測方法改進為對過程偏移的控制，為識別拜占庭攻擊提供了新的理論視角和方法。

近年來，管理學院張忠良教授團隊積極探索經管類本科生科研創新能力培養模式，已指導多名本科生在Engineering Applications of Artificial Intelligence、Neurocomputing、Pattern Recognition、International Journal of Machine Learning and Cybernetics等國際期刊發表多篇研究成果。