在适应之前进行校正:面向联邦自适应优化的梯度校正
arXiv:2502.02727v4 发布类型:替换-交叉 摘要:客户端漂移补偿方法能够缓解联邦学习(FL)中数据异构性带来的影响。尽管针对基于随机梯度下降(SGD)的联邦学习,漂移校正已得到充分研究,但其与自适应客户端优化器之间的相互作用仍缺乏深入理解。诸如Adam等自适应优化器会根据过去梯度的运行平均值来构建每次更新,因此仅对最终更新方向进行校正,将无法改变这些平均值及其所包含的漂移。我们提出了联邦自适应梯度校正({\tt FA-GC}),该方法在梯度进入这些运行平均值之前即对其进行校正,并将其与联邦自适应朴素跟踪({\tt FA-NT})进行了对比——后者是在最终更新方向上添加校正。我们证明,在一种理想情况下