요약: 고성능 일반 행렬 곱셈(GEMM) 구현은 최고 성능을 달성하기 위해 GEMM을 신중히 선택된 타일로 분할하는 데 의존합니다. 우리는 특정 하드웨어와 입력 행렬의 형태에 맞는 최적의 타일 크기를 자동으로 식별하는 새로운 분석 모델인 Waypoint를 제시합니다. Waypoint는 메모리 계층 구조, 명령어 수준 병렬성 및 멀티스레딩과의 상호작용을 포함한 모든 아키텍처적 효과를 포착함으로써 주어진 타일 선택에 대해 달성 가능한 성능을 추정합니다. 이러한 추정치를 대리 변수로 활용하여 가능한 타일 크기의 공간을 탐색하고, 성능을 극대화하는 타일 크기를 식별합니다. 또한 Waypoint는 하드웨어 설계자가 실험적인 하드웨어 최적화에 대한 현실적인 성능을 추정하는 데에도 도움을 줍니다. 우리는 CPU용 새로운 GEMM 라이브러리 OPAM을 개발하였으며, 이 라이브러리는 Waypoint를 사용해 GEMM을 자동으로 분할하여 최첨단 GEMM 라이브러리 수준의 성능을 달성하고, CPU 기반 LLM 추론을 가속화하여 1.36~1.98배의 속도 향상을 실현합니다.
투고 이력
논문 보기:
PDF 보기
HTML(실험적)
TeX 소스
추가 기능
오디오 요약
현재 탐색 컨텍스트:
참고문헌 및 인용
Google 학술검색
Semantic Scholar
북마크
기관
arXivLabs는 협력자가 당사 웹사이트에서 새로운 arXiv 기능을 직접 개발하고 공유할 수 있도록 하는 프레임워크입니다.
arXivLabs와 함께 일하는 개인과 조직 모두는 개방성, 커뮤니티, 우수성, 그리고 사용자 데이터 개인정보 보호라는 당사의 가치를 수용하고 받아들였습니다. arXiv은 이러한 가치에 헌신하며, 이에 부합하는 파트너들과만 협력합니다.
arXiv 커뮤니티에 가치를 더할 프로젝트 아이디어가 있으신가요? arXivLabs에 대해 자세히 알아보세요.