跳到正文
AI NEWS JOURNAL
AI, IN PERSPECTIVE

搜索 AI 资讯

检索标题、摘要与正文,把分散的信息连起来。

按发布时间排序

在适应之前进行校正:面向联邦自适应优化的梯度校正

arXiv:2502.02727v4 发布类型:替换-交叉 摘要:客户端漂移补偿方法能够缓解联邦学习(FL)中数据异构性带来的影响。尽管针对基于随机梯度下降(SGD)的联邦学习,漂移校正已得到充分研究,但其与自适应客户端优化器之间的相互作用仍缺乏深入理解。诸如Adam等自适应优化器会根据过去梯度的运行平均值来构建每次更新,因此仅对最终更新方向进行校正,将无法改变这些平均值及其所包含的漂移。我们提出了联邦自适应梯度校正({\tt FA-GC}),该方法在梯度进入这些运行平均值之前即对其进行校正,并将其与联邦自适应朴素跟踪({\tt FA-NT})进行了对比——后者是在最终更新方向上添加校正。我们证明,在一种理想情况下

事件进展与其他报道

航点:针对CPU的GEMM分析建模

arXiv:2610.34914v1 发布类型:新 提要:高性能通用矩阵乘法(GEMM)的实现依赖于将GEMM分解为经过精心选择的分块,以达到峰值性能。我们提出了一种名为Waypoint的新分析模型,用于针对给定的硬件和输入矩阵形状自动确定最优的分块大小。Waypoint通过捕捉所有架构效应——包括与存储层次结构的交互、指令级并行以及多线程——来估算特定分块选择所能达到的性能。以这些估算值为代理,我们在可能的分块大小空间中进行搜索,从而找到能够最大化性能的分块尺寸。此外,Waypoint还有助于硬件设计人员在实验性硬件优化方案上估算其实际性能。

事件进展与其他报道

将Transformer理论付诸实践

arXiv:2610.32104v1 发布类型:新 摘要:为刻画Transformer架构的能力与局限性,人们已发展出若干形式化理论,这些理论分别采用不同的抽象方法,以捕捉该架构的不同特性。由于其底层假设与概念框架存在差异,这些理论在预测Transformer对哪些任务感到容易或困难时往往意见不一。我们梳理了七种关于Transformer能力的理论(Star-free、$\mathsf{AC}^0$、$\mathsf{TC}^0$、C-RASP、MPC、BAPO以及敏感性),并将其研究结果转化为一张通用的预测矩阵,覆盖一系列涉及不同计算结构的任务。我们还提供了新的理论成果,以完善这一矩阵。随后,我们对这些理论进行评估

事件进展与其他报道