异构边缘计算环境下异步联邦学习的节点分组与分时调度策略

TP301; 为了克服异构边缘计算环境下联邦学习的3个关键挑战,边缘异构性、非独立同分布数据及通信资源约束,提出了一种分组异步联邦学习(FedGA)机制,将边缘节点分为多个组,各个分组间通过异步方式与全局模型聚合进行全局更新,每个分组内部节点通过分时方式与参数服务器通信.理论分析建立了 FedGA 的收敛界与分组间数据分布之间的定量关系.针对分组内节点的通信提出了分时调度策略魔镜法(MMM)优化模型单轮更新的完成时间.基于FedGA的理论分析和MMM,设计了一种有效的分组算法来最小化整体训练的完成时间.实验结果表明,FedGA和MMM相对于现有最先进的方法能降低30.1%～87.4%的模型训练...

Full description

Saved in:
Bibliographic Details
Published in通信学报 Vol. 44; no. 11; pp. 79 - 93
Main Authors 马千飘, 贾庆民, 刘建春, 徐宏力, 谢人超, 黄韬
Format Journal Article
LanguageChinese
Published 中国科学技术大学苏州高等研究院,江苏 苏州 215123%网络通信与安全紫金山实验室未来网络研究中心,江苏 南京 211111 01.11.2023
网络通信与安全紫金山实验室未来网络研究中心,江苏 南京 211111%中国科学技术大学计算机科学与技术学院,安徽 合肥 230026
北京邮电大学网络与交换技术国家重点实验室,北京 100876
Subjects
异构性
convergence analysis
边缘计算
edge computing
收敛分析
Non-IID
非独立同分布数据
联邦学习
heterogeneity
federated learning
Online AccessGet full text
ISSN1000-436X
DOI10.11959/j.issn.1000-436x.2023196

Cover

Abstract TP301; 为了克服异构边缘计算环境下联邦学习的3个关键挑战,边缘异构性、非独立同分布数据及通信资源约束,提出了一种分组异步联邦学习(FedGA)机制,将边缘节点分为多个组,各个分组间通过异步方式与全局模型聚合进行全局更新,每个分组内部节点通过分时方式与参数服务器通信.理论分析建立了 FedGA 的收敛界与分组间数据分布之间的定量关系.针对分组内节点的通信提出了分时调度策略魔镜法(MMM)优化模型单轮更新的完成时间.基于FedGA的理论分析和MMM,设计了一种有效的分组算法来最小化整体训练的完成时间.实验结果表明,FedGA和MMM相对于现有最先进的方法能降低30.1%～87.4%的模型训练时间.
AbstractList TP301; 为了克服异构边缘计算环境下联邦学习的3个关键挑战,边缘异构性、非独立同分布数据及通信资源约束,提出了一种分组异步联邦学习(FedGA)机制,将边缘节点分为多个组,各个分组间通过异步方式与全局模型聚合进行全局更新,每个分组内部节点通过分时方式与参数服务器通信.理论分析建立了 FedGA 的收敛界与分组间数据分布之间的定量关系.针对分组内节点的通信提出了分时调度策略魔镜法(MMM)优化模型单轮更新的完成时间.基于FedGA的理论分析和MMM,设计了一种有效的分组算法来最小化整体训练的完成时间.实验结果表明,FedGA和MMM相对于现有最先进的方法能降低30.1%～87.4%的模型训练时间.
Abstract_FL To overcome the three key challenges of federated learning in heterogeneous edge computing,i.e.,edge heter-ogeneity,data Non-IID,and communication resource constraints,a grouping asynchronous federated learning(FedGA)mechanism was proposed.Edge nodes were divided into multiple groups,each of which performed global updated asyn-chronously with the global model,while edge nodes within a group communicate with the parameter server through time-sharing communication.Theoretical analysis established a quantitative relationship between the convergence bound of FedGA and the data distribution among the groups.A time-sharing scheduling magic mirror method(MMM)was pro-posed to optimize the completion time of a single round of model updating within a group.Based on both the theoretical analysis for FedGA and MMM,an effective grouping algorithm was designed for minimizing the overall training com-pletion time.Experimental results demonstrate that the proposed FedGA and MMM can reduce model training time by 30.1%～87.4%compared to the existing state-of-the-art methods.
Author 刘建春
黄韬
谢人超
徐宏力
贾庆民
马千飘
AuthorAffiliation 网络通信与安全紫金山实验室未来网络研究中心,江苏 南京 211111%中国科学技术大学计算机科学与技术学院,安徽 合肥 230026;中国科学技术大学苏州高等研究院,江苏 苏州 215123%网络通信与安全紫金山实验室未来网络研究中心,江苏 南京 211111;北京邮电大学网络与交换技术国家重点实验室,北京 100876
AuthorAffiliation_xml – name: 网络通信与安全紫金山实验室未来网络研究中心,江苏 南京 211111%中国科学技术大学计算机科学与技术学院,安徽 合肥 230026;中国科学技术大学苏州高等研究院,江苏 苏州 215123%网络通信与安全紫金山实验室未来网络研究中心,江苏 南京 211111;北京邮电大学网络与交换技术国家重点实验室,北京 100876
Author_FL XIE Renchao
MA Qianpiao
JIA Qingmin
HUANG Tao
LIU Jianchun
XU Hongli
Author_FL_xml – sequence: 1
  fullname: MA Qianpiao
– sequence: 2
  fullname: JIA Qingmin
– sequence: 3
  fullname: LIU Jianchun
– sequence: 4
  fullname: XU Hongli
– sequence: 5
  fullname: XIE Renchao
– sequence: 6
  fullname: HUANG Tao
Author_xml – sequence: 1
  fullname: 马千飘
– sequence: 2
  fullname: 贾庆民
– sequence: 3
  fullname: 刘建春
– sequence: 4
  fullname: 徐宏力
– sequence: 5
  fullname: 谢人超
– sequence: 6
  fullname: 黄韬
BookMark eNo1T8tKw0AA3EMFa-1HePCYuJvtvo5SfEFBBAVvZbdJpEVSMIq5mgYRhZ7UigdRobmlepJWi1_TdONfmPo4zTAD81gABa_tOQAsIWgiJIhYaZlN3_dMBCE0KpgGpgUtjAQtgOK_tj8Pyr7fVJAgzCjEqAh20nE4fYiyz5Ee32WDJz3o6e5L-tyZDK9mVtLPzq6_wjhN4snoUd9H2WWow1F6ca4_osmwm5Np7y177aTvsU5u9U1_Ecy58tB3yn9YAnvra7vVTaO2vbFVXa0Zfj6HGcLi2FHSIkwwJZgtFYWC2wRxTC3Ghd2gRFFGOFQuR3ajUlFScYcJm9tcNgQugeXf3FPpudI7qLfaJ0de3lg_DgL1c35WhL8BeD9xLQ
ClassificationCodes TP301
ContentType Journal Article
Copyright Copyright © Wanfang Data Co. Ltd. All Rights Reserved.
Copyright_xml – notice: Copyright © Wanfang Data Co. Ltd. All Rights Reserved.
DBID 2B.
4A8
92I
93N
PSX
TCJ
DOI 10.11959/j.issn.1000-436x.2023196
DatabaseName Wanfang Data Journals - Hong Kong
WANFANG Data Centre
Wanfang Data Journals
万方数据期刊 - 香港版
China Online Journals (COJ)
China Online Journals (COJ)
DatabaseTitleList
DeliveryMethod fulltext_linktorsrc
DocumentTitle_FL Client grouping and time-sharing scheduling for asynchronous federated learning in heterogeneous edge computing environment
EndPage 93
ExternalDocumentID txxb202311007
GroupedDBID -0Y
2B.
4A8
92I
93N
ALMA_UNASSIGNED_HOLDINGS
CCEZO
CUBFJ
GROUPED_DOAJ
PSX
TCJ
ID FETCH-LOGICAL-s1007-9283eba25797b97dab6098d518362789dc65b67580bf81dc44bab8e79d8d8ac93
ISSN 1000-436X
IngestDate Thu May 29 04:00:48 EDT 2025
IsPeerReviewed false
IsScholarly true
Issue 11
Keywords 异构性
convergence analysis
边缘计算
edge computing
收敛分析
Non-IID
非独立同分布数据
联邦学习
heterogeneity
federated learning
Language Chinese
LinkModel OpenURL
MergedId FETCHMERGED-LOGICAL-s1007-9283eba25797b97dab6098d518362789dc65b67580bf81dc44bab8e79d8d8ac93
PageCount 15
ParticipantIDs wanfang_journals_txxb202311007
PublicationCentury 2000
PublicationDate 2023-11-01
PublicationDateYYYYMMDD 2023-11-01
PublicationDate_xml – month: 11
  year: 2023
  text: 2023-11-01
  day: 01
PublicationDecade 2020
PublicationTitle 通信学报
PublicationTitle_FL Journal on Communications
PublicationYear 2023
Publisher 中国科学技术大学苏州高等研究院,江苏 苏州 215123%网络通信与安全紫金山实验室未来网络研究中心,江苏 南京 211111
网络通信与安全紫金山实验室未来网络研究中心,江苏 南京 211111%中国科学技术大学计算机科学与技术学院,安徽 合肥 230026
北京邮电大学网络与交换技术国家重点实验室,北京 100876
Publisher_xml – name: 中国科学技术大学苏州高等研究院,江苏 苏州 215123%网络通信与安全紫金山实验室未来网络研究中心,江苏 南京 211111
– name: 北京邮电大学网络与交换技术国家重点实验室,北京 100876
– name: 网络通信与安全紫金山实验室未来网络研究中心,江苏 南京 211111%中国科学技术大学计算机科学与技术学院,安徽 合肥 230026
SSID ssib051376031
ssj0002912165
ssib058759023
ssib001102965
ssib023646527
ssib023168036
ssib036439991
ssib050281523
ssib000968473
Score 2.414962
Snippet TP301; 为了克服异构边缘计算环境下联邦学习的3个关键挑战,边缘异构性、非独立同分布数据及通信资源约束,提出了一种分组异步联邦学习(FedGA)机制,将边缘节点分为多个组,各个分组间通过异步方式与全局模型聚合进行全局更新,每个分组内部节点通过分时方式与参数服务器通信.理论分析建立了 FedGA...
SourceID wanfang
SourceType Aggregation Database
StartPage 79
Title 异构边缘计算环境下异步联邦学习的节点分组与分时调度策略
URI https://d.wanfangdata.com.cn/periodical/txxb202311007
Volume 44
hasFullText 1
inHoldings 1
isFullTextHit
isPrint
link http://utb.summon.serialssolutions.com/2.0.0/link/0/eLvHCXMwnV3Na9RAFA-lgngRRcXPUsE5la2bSSaZd0x2sxQPgtBCbyWz2dVTBd1C6c1tEVHoSa14EBXaW6snabX4l3jsNut_4Xsv2WzqtvgBS5idvHnv9z4282Y2M2NZt9oS02KtZCVpmbjiJrZXicFAxcWhs92WBi_8guxdb2bOvTOv5sfGf5TeWlrqmOnmyrHrSv7Hq1iHfqVVsv_g2YIpVmAZ_YtX9DBe_8rHIlIirAktReQJiIR2RaRFGIkQROTTLdBUE0QisKkGC-BTQWNNg5oHUmhHRK4ItdDhEYZBXQSKmmtbAHIGqg88blXngkuCgioxhCCXrgNu7tOVYCihsdJjPCHTZLKi0i2PUIUeg68yHoQRsAifZAEXAOWqcjLNkKokmng2WMcCm0dIcnoMKKIN8FNjsXUWgl8dAXpIguJdMl8mPkOGgMAekjBmsqoidZCKwOsjghSxgCpjQZ-wmRELhOUZFunkSw0Hv4ncLogeyQFZ11l5VHtEK9SZpNYGLnSJbEjDjszEhj6FBSkaMmi2pubgQLeRU32yCpkeBABFg6yx1ujyRsFqapTpFCdxjpCKPVtnmOxixHWMX0pOJ6NkgYFlBoVWR4DUaqAuyg_tnDjXAPWu5TWocW6AzP5ZoI7CGNWyZGMEhkFwgrocI_RTcTkQa6iuPeivsy6c9kpwHT4fs-jjsz1GB88yu9RjZ0cZ5blfdljnaFYBCjitIAHTAwHL0xQsNvy2kzvnhp3lZcN3bd7q4pT0MbMvTfjkkweYGpZXtVfxwVn0rpKOlMP8cvjdcz0li8GCQ2MJGO50pXCkgMl4wU_Z9L7b8D9-pX3aqskpZqAl2NLms3YLk522bg70vX2Stry6cbEdL94vJeKz56yz-Qh6Msgeh-etsZUHF6x7vf3u4bu1_ve9dP9Nf-dDurORrn_qfVw92H1Bt7Y3-09e_uxu9ba3Dvbep2_X-s-7aXev9-xp-m3tYHcdC4cbX_qfV3tft9Lt1-mrzYvWXCOarc1U8tNiKo_JyBXAgRL2N5iCgG_AT2LjVUEnCnMWj5b7J01PGZoeqZo2DtKbrmtio1s-JDrRcROcS9b44sPF1mVr0iTt2IlbOLKKjSu1NBoHqvRKRVO1ddw2V6yJ3AQLeW_weOGIx6_-ieCadWb4pLlujXceLbVu4OimYyY4SH4B-jPy0Q
linkProvider Directory of Open Access Journals
openUrl ctx_ver=Z39.88-2004&ctx_enc=info%3Aofi%2Fenc%3AUTF-8&rfr_id=info%3Asid%2Fsummon.serialssolutions.com&rft_val_fmt=info%3Aofi%2Ffmt%3Akev%3Amtx%3Ajournal&rft.genre=article&rft.atitle=%E5%BC%82%E6%9E%84%E8%BE%B9%E7%BC%98%E8%AE%A1%E7%AE%97%E7%8E%AF%E5%A2%83%E4%B8%8B%E5%BC%82%E6%AD%A5%E8%81%94%E9%82%A6%E5%AD%A6%E4%B9%A0%E7%9A%84%E8%8A%82%E7%82%B9%E5%88%86%E7%BB%84%E4%B8%8E%E5%88%86%E6%97%B6%E8%B0%83%E5%BA%A6%E7%AD%96%E7%95%A5&rft.jtitle=%E9%80%9A%E4%BF%A1%E5%AD%A6%E6%8A%A5&rft.au=%E9%A9%AC%E5%8D%83%E9%A3%98&rft.au=%E8%B4%BE%E5%BA%86%E6%B0%91&rft.au=%E5%88%98%E5%BB%BA%E6%98%A5&rft.au=%E5%BE%90%E5%AE%8F%E5%8A%9B&rft.date=2023-11-01&rft.pub=%E4%B8%AD%E5%9B%BD%E7%A7%91%E5%AD%A6%E6%8A%80%E6%9C%AF%E5%A4%A7%E5%AD%A6%E8%8B%8F%E5%B7%9E%E9%AB%98%E7%AD%89%E7%A0%94%E7%A9%B6%E9%99%A2%2C%E6%B1%9F%E8%8B%8F+%E8%8B%8F%E5%B7%9E+215123%25%E7%BD%91%E7%BB%9C%E9%80%9A%E4%BF%A1%E4%B8%8E%E5%AE%89%E5%85%A8%E7%B4%AB%E9%87%91%E5%B1%B1%E5%AE%9E%E9%AA%8C%E5%AE%A4%E6%9C%AA%E6%9D%A5%E7%BD%91%E7%BB%9C%E7%A0%94%E7%A9%B6%E4%B8%AD%E5%BF%83%2C%E6%B1%9F%E8%8B%8F+%E5%8D%97%E4%BA%AC+211111&rft.issn=1000-436X&rft.volume=44&rft.issue=11&rft.spage=79&rft.epage=93&rft_id=info:doi/10.11959%2Fj.issn.1000-436x.2023196&rft.externalDocID=txxb202311007
thumbnail_s http://utb.summon.serialssolutions.com/2.0.0/image/custom?url=http%3A%2F%2Fwww.wanfangdata.com.cn%2Fimages%2FPeriodicalImages%2Ftxxb%2Ftxxb.jpg