• 访客 您好
  •  | 
  • 注册
  • 全部
主办单位:煤炭科学研究总院有限公司、中国煤炭学会学术期刊工作委员会
联邦学习中面向Non-IID数据的后门防御方案
  • 18
  • 作者

    郝燕霞 武淑红 杨玉丽 于丹

  • 单位

    太原理工大学计算机科学与技术学院(大数据学院)

  • 摘要
    联邦学习(FL)被应用于保护隐私的分布式机器学习任务中,但容易遭受参与方的后门攻击,其中非独立同分布数据(Non-IID)的情境下的后门攻击当前收到了广泛关注。在实际的联邦学习环境中,参与者本地数据分布不均衡会对联邦学习后门攻击检测造成干扰,从而导致训练得到的全局模型受到后门攻击影响。为了解决上述问题,本文提出了一种面向Non-IID数据的联邦学习后门攻击防御方案,该策略通过计算服务器端全局模型在公共数据集上的输出分布与各本地模型在公共数据集上的输出分布之间的KL散度,来充分学习不同客户端模型的特征和能力,从而更新全局模型,缓解后门攻击带来的影响。通过实验证明了本文所提防御方法在Non-IID数据情况下的有效性,不仅有效防御了联邦学习中的后门攻击,FEMNIST数据集上在分布式后门攻击方式的单次攻击中维持全局模型后门任务准确率在1%左右,还保持了模型性能的稳定性,全局模型主任务准确率收敛在80%左右。
  • 关键词

    联邦学习后门攻击防御Non-IID数据KL散度自适应权重分配策略

  • 文章目录


    1 预备知识
    1.1 数据分布不均衡的联邦学习
    1.2 后门攻击
    2 本文模型
    2.1 服务器端模型更新算法
    2.2 基于公共数据集和KL散度的服务器端全局模型更新
    2.3 基于余弦相似度的自适应权重分配策略
    3 实验评估
    3.1 实验设置
    3.1.1 数据集及模型
    3.1.2 实验设计
    3.1.3 评价指标
    3.2 模型性能与稳定性分析
    3.3 后门防御有效性分析
    3.4 时间复杂度讨论
    4 结 语
  • 引用格式
    郝燕霞,武淑红,杨玉丽,等.联邦学习中面向Non-IID数据的后门防御方案[J/OL].太原理工大学学报,1-12[2025-03-22].https://doi.org/10.16355/j.tyut.1007-9432.20240759.
相关问题
立即提问

主办单位:煤炭科学研究总院有限公司 中国煤炭学会学术期刊工作委员会

©版权所有2015 煤炭科学研究总院有限公司 地址:北京市朝阳区和平里青年沟东路煤炭大厦 邮编:100013
京ICP备05086979号-16  技术支持:云智互联
累计访问量:27698128,今日访问人数:32297 站长统计