学位论文简介

联邦学习在解决“数据孤岛”和隐私保护问题上展现出了极大的优势，并为数据敏感性较强的人工智能应用带来了希望。但是，在联邦学习分布式的训练过程中也存在很大的安全隐患，潜在的恶意对手可能执行中毒训练或恶意更新来影响全局模型的性能。本文从联邦学习潜在的安全问题和对应的防御策略设计入手，针对集成了联邦学习的人工智能应用网络所面临的安全威胁和挑战从以下四个方面展开了研究，并将主要工作和贡献总结如下：

(1) 对基于联邦学习的攻防技术及其安全应用研究进行了综述性介绍。包括系统性地描述了联邦学习相关的基础概念和预备知识，并分析了联邦学习潜在的安全隐患以及数据敏感的人工智能应用所面临的安全挑战。论文详细地列举了与联邦学习相关的前沿攻击技术及防御方案，同时还归纳了几种可靠的联邦学习安全聚合方案及安全的开源框架，并在最后总结和讨论了当前一些基于联邦学习的安全应用场景。

(2) 针对 AIoT 应用场景下联邦学习网络中服务器端无法溯源原始数据的特性，提出了一种基于女巫的后门中毒攻击策略SBPA。该方法通过使全局模型对后门样本进行更大程度地错误分类而不影响其他未中毒样本的分类，来实现更高的隐蔽性。此外，融合的女巫技术以更大的优势帮助本地中毒模型被更大概率聚合到。该算法在多个数据集下的大量实验中不仅展示出强大的攻击有效性，同时在发动攻击的早期阶段就展现出了更高的攻击成功率。

(3) 针对 IIoT-FL 场景研究了更高效的模型中毒攻击，并提出了一种应用在包括 IID 和 non-IID 在内的多数据分布场景下的基于女巫的标签翻转中毒合谋攻击策略SCA。利用该策略训练的本地中毒模型在以更大可能性被聚合之后会将测试集的攻击源类样本错误分类为目标类别，同时保持其他非攻击类别样本与之前相似的主任务准确性。此外，提出的合谋技术实现了比独立参与方更高的攻击成功率，同时更好地掩盖本身的攻击行为。在多个数据集下进行了包含多种数据分布场景和多个性能指标的大量测试，可以发现即使系统只包含最少的恶意对手，该策略也能展示出可靠的攻击效果。

(4) 研究了IIoT-FL网络中潜在的包括多种数据中毒攻击的恶意攻击行为，并分析了全局模型受到恶意攻击所产生的负面影响以及参与方梯度之间的关系，提出了一种面向多恶意对手发动的多种目标中毒攻击的防御策略FDSFL。该策略利用聚合的参与方之间的成对余弦相似度计算参与聚合的本地更新梯度向量之间的角距离，进而通过角差异集群恶意参与方同时赋予它们一个负的可信值，并在后续的聚合阶段中执行过滤掉。通过对来自多个恶意对手发动的不同攻击方式进行大量的测试和分析，可以发现该策略在维护全局模型准确率和降低攻击成功率上展现出较好的性能结果。

主要学术成果

[1] Xiong Xiao, Zhuo Tang, Chuanying Li, Bin Xiao, Kenli Li. SCA: Sybil-based Collusion Attacks of IIoT Data Poisoning in Federated Learning. IEEE Transactions on Industrial Informatics. 2022. (第一作者, SCI刊源)

[2] Xiong Xiao, Chuanying Li, Bingting Jiang, Qianqian Cai, Kenli Li, Zhuo Tang. Adaptive Search Strategy based Chemical Reaction Optimization Scheme for Task Scheduling in Discrete Multiphysical Coupling Applications. ELSEVIER Applied Soft Computing. 2022, 121-108748. (第一作者, SCI刊源)

[3] 肖雄, 唐卓, 肖斌, 李肯立. 联邦学习的隐私保护与安全防御研究综述. 计算机学报, 2022. (第一作者, 中文核心)

[4] Xiong Xiao, Zhuo Tang, Chuanying Li, Bingting Jiang, Kenli Li. SBPA: Sybil-based Backdoor Poisoning Attacks for Distributed Big Data in AIoT-based Federated Learning System. IEEE Transactions on Big Data. (大修, 第一作者, SCI刊源)

[5] Xiong Xiao, Zhuo Tang, Chuanying Li, Yingjie Song, Jiawei Tan, Kenli Li. FDSFL: Filtering Defense Strategies Towards Targeted Poisoning Attacks in IIoT-based Federated Learning System. IEEE Internet of Things Journal. (Under Review, 第一作者, SCI刊源)

[6] Bingting Jiang, Zhuo Tang, Xiong Xiao, Jing Yao, Ronghui Cao, Kenli Li. Efficient and Automated Deployment Architecture for OpenStack in TianHe SuperComputing Environment. IEEE Transactions on Parallel and Distributed Systems. 2021, 33(8): 1811-1824. (第三作者, SCI刊源)

[7] Chuanying Li, Xiong Xiao, Peibing Du, Hao Jiang, Roberto Barrio, Zhe Quan, Kenli Li. A High-Precision DQDS Algorithm. 2021 IEEE 23st International Conference on High Performance Computing and Communications, Haikou, China, 2021. (第二作者, CCF C会议)