跳到正文
AI NEWS JOURNAL
ONE EVENT. MANY PERSPECTIVES.

航点:针对CPU的GEMM分析建模

arXiv:2610.34914v1 发布类型:新 提要:高性能通用矩阵乘法(GEMM)的实现依赖于将GEMM分解为经过精心选择的分块,以达到峰值性能。我们提出了一种名为Waypoint的新分析模型,用于针对给定的硬件和输入矩阵形状自动确定最优的分块大小。Waypoint通过捕捉所有架构效应——包括与存储层次结构的交互、指令级并行以及多线程——来估算特定分块选择所能达到的性能。以这些估算值为代理,我们在可能的分块大小空间中进行搜索,从而找到能够最大化性能的分块尺寸。此外,Waypoint还有助于硬件设计人员在实验性硬件优化方案上估算其实际性能。

1 个独立来源 · 1 篇报道切换最早在前 ↕
按发布时间排序

航点:针对CPU的GEMM分析建模

arXiv:2610.34914v1 发布类型:新 提要:高性能通用矩阵乘法(GEMM)的实现依赖于将GEMM分解为经过精心选择的分块,以达到峰值性能。我们提出了一种名为Waypoint的新分析模型,用于针对给定的硬件和输入矩阵形状自动确定最优的分块大小。Waypoint通过捕捉所有架构效应——包括与存储层次结构的交互、指令级并行以及多线程——来估算特定分块选择所能达到的性能。以这些估算值为代理,我们在可能的分块大小空间中进行搜索,从而找到能够最大化性能的分块尺寸。此外,Waypoint还有助于硬件设计人员在实验性硬件优化方案上估算其实际性能。

事件进展与其他报道