適応前の補正：フェデレーテッド適応最適化のための勾配補正

arXiv:2502.02727v4 発表タイプ：replace-cross 要旨：クライアントドリフト補償手法は、フェデレーテッド学習（FL）におけるデータの非均一性の影響を軽減します。確率的勾配降下法（SGD）ベースのFLではドリフト補正が十分に研究されてきましたが、適応型クライアント最適化手法との相互作用についてはまだ十分に解明されていません。Adamなどの適応型最適化手法は、過去の勾配の移動平均を用いて各更新を行います。そのため、最終的な更新方向のみを補正しても、その移動平均とそこに含まれるドリフトは変更されません。私たちは、これらの移動平均に流入する前に各勾配を補正する「Federated Adaptive Gradient Correction（{\tt FA-GC}）」を提案し、さらに補正を最終的な方向に加える「Federated Adaptive Naive Tracking（{\tt FA-NT}）」と比較しました。我々は、理想的な状況において…