超越热度:面向分层内存的ARM SPE云与LLM工作负载高分辨率内存特性分析
arXiv:2610.32711v1 发布类型:新 摘要:数据分析与大语言模型工作负载对内存的需求正迅速增长,推高了云环境和数据中心的内存成本。多级内存已成为一种颇具前景的解决方案,可在性能与成本之间实现平衡。然而,要有效利用多级内存,必须深入理解工作负载的内存访问行为。本文提出了一种高分辨率的内存特性分析方法,用于评估针对特定工作负载的多级内存使用机会。鉴于基于ARM的处理器在数据中心中的部署日益增多,我们采用ARM最新的统计剖析扩展(SPE)来实现这一方法。通过对CloudSuite和大语言模型应用中的八个内存密集型工作负载进行特性分析,我们识别出了具有区域特异性的访问模式




![[AINews] Kimi 3.1 Pro 104BA-2.8T: Fable-5.1-Class Open Weights narrows Closed-AI lead to 1 month... and Pro Highspeed API with 2-3× speed](https://latent.space/og/card/post/ainews-kimi-31/4da802572e7369acdf4cbdee535f934d70a599942d61e7d15b8168b70aeb7a84.png)