핫니스를 넘어선 것: ARM SPE를 활용한 계층형 메모리에서 클라우드 및 LLM 워크로드의 고해상도 메모리 특성화

arXiv:2610.32711v1 발표 유형: 신규 초록: 데이터 분석 및 LLM 워크로드에서 요구되는 메모리 용량은 빠르게 증가하고 있으며, 이는 클라우드와 데이터센터 내 메모리 비용을 상승시키고 있습니다. 다층 메모리는 성능과 비용 간의 균형을 맞추는 유망한 해결책으로 부각되고 있습니다. 그러나 이를 효과적으로 활용하기 위해서는 워크로드의 메모리 동작 특성을 깊이 이해해야 합니다. 본 연구에서는 워크로드별로 다층 메모리 사용 가능성을 분석하기 위한 고해상도 메모리 특성화 방법론을 제안합니다. 데이터센터에서 ARM 기반 프로세서의 도입이 늘어나는 추세에 대응하여, 우리는 최근 출시된 ARM용 통계적 프로파일링 확장 기능(SPE)을 활용해 해당 방법론을 구현했습니다. CloudSuite 및 LLM 애플리케이션에서 선정한 8개의 메모리 집약형 워크로드를 특성화함으로써, 지역별 접근 패턴을 식별하였습니다.