面向全局不平衡问题的基于贡献度的联邦学习方法

TP391; 联邦学习在保护各方数据隐私的前提下,协同多方共同训练,提高了全局模型的精度.数据的类不平衡问题是联邦学习范式中具有挑战的问题,联邦学习中的数据不平衡问题可分为局部数据不平衡和全局数据不平衡,目前针对全局数据不平衡问题的相关研究较少.文中提出了 一种面向全局不平衡问题的基于贡献度的联邦学习方法(CGIFL).首先,设计了一种基于贡献度的全局判别损失函数,用于调整本地训练过程中的模型优化方向,使模型在训练中给予全局少数类更多的关注,以提高模型的泛化能力;然后,在全局模型更新阶段,设计了一种基于贡献度的动态联邦汇聚策略,优化了各节点的参与权重,更好地平衡了全局模型的更新方向.在MNIS...

Full description

Saved in:
Bibliographic Details
Published in计算机科学 Vol. 50; no. 12; pp. 343 - 348
Main Authors 吴飞, 宋一波, 季一木, 胥熙, 王木森, 荆晓远
Format Journal Article
LanguageChinese
Published 南京邮电大学自动化学院 南京 210003%南京邮电大学计算机学院 南京 210003%武汉大学计算机学院 武汉 430072 2023
Subjects
Multi-party coordination
图像分类
Federated learning
多方协同
联邦学习
数据不平衡
Data imbalance
Image classification
Online AccessGet full text
ISSN1002-137X
DOI10.11896/jsjkx.221100111

Cover

More Information
Summary:TP391; 联邦学习在保护各方数据隐私的前提下,协同多方共同训练,提高了全局模型的精度.数据的类不平衡问题是联邦学习范式中具有挑战的问题,联邦学习中的数据不平衡问题可分为局部数据不平衡和全局数据不平衡,目前针对全局数据不平衡问题的相关研究较少.文中提出了 一种面向全局不平衡问题的基于贡献度的联邦学习方法(CGIFL).首先,设计了一种基于贡献度的全局判别损失函数,用于调整本地训练过程中的模型优化方向,使模型在训练中给予全局少数类更多的关注,以提高模型的泛化能力;然后,在全局模型更新阶段,设计了一种基于贡献度的动态联邦汇聚策略,优化了各节点的参与权重,更好地平衡了全局模型的更新方向.在MNIST,CIFAR10和CIFAR100这3个数据集上进行实验,实验结果表明了 CGIFL在解决全局数据不平衡问题上的有效性.
ISSN:1002-137X
DOI:10.11896/jsjkx.221100111