워크스테이션
워크스테이션 프로세서
AI 추론 하드웨어에 대한 수요 폭증으로 인해, 고급형 그래픽 카드가 PC 부품 시장에서 매우 높은 인기를 얻고 있습니다. 이러한 수요 급증은 거의 모든 등급의 그래픽 카드에 영향을 미쳤지만, 특히 워크스테이션급 카드에 가장 큰 타격을 주었습니다. 그중에서도 최고 성능을 자랑하는 카드들, 그리고 특히 더 많은 VRAM을 탑재한 모델들이 가장 심각한 영향을 받았습니다. NVIDIA, AMD, 심지어 Intel까지도 이 같은 수요 증가를 체감하고 있으며, 디스크리트 그래픽 카드는 표준 폼팩터 PC에 고성능 추론 하드웨어를 추가하는 데 있어 가장 효과적인 방법으로 자리매김했습니다.
ServeTheHome에서 AI 추론 하드웨어와 성능을 전반적으로 살펴보는 일환으로, 그동안 미니PC부터 서버급 하드웨어까지 다루어 왔지만 그 사이의 제품은 거의 다루지 않았습니다. 그래서 오늘은 ASRock의 Radeon Pro AI 워크스테이션 카드인 Creator Radeon AI Pro R9700을 통해 그 중간 영역을 살펴보고자 합니다. 이 제품은 AMD의 현세대 RDNA 4 아키텍처 계열 중에서도 가장 빠르고 최고의 사양을 갖춘 워크스테이션 카드입니다.
Radeon AI Pro R9700은 AMD의 오랜 워크스테이션 그래픽 카드 라인업 가운데 최신 모델입니다. 이 제품은 전통적인 비디오 카드로서 최첨단 그래픽 기능과 다수의 디스플레이 출력을 갖추고 있지만, AMD는 최신 세대 워크스테이션 카드를 출시하며 시장의 향방을 예측하고 이를 반영해 이름을 붙였으며, 특히 인공지능(AI) 기능을 핵심에 두었습니다. 이러한 방향성은 근본 아키텍처에도 그대로 반영되어, RDNA 4에는 더 빠른 매트릭스 연산 성능과 FP8 수준까지 내려가는 저정밀 형식 지원 등 AI 중심의 대규모 업그레이드가 추가되었습니다. 그 결과 R9700은 현재까지 AMD의 워크스테이션용 비디오 카드 중 가장 뛰어난 AI 처리 능력을 갖추고 있으며, 이러한 AI 기능에 대한 수요가 매우 높아진 시점에 출시되었습니다.
현재 가격을 확인하거나 온라인에서 구매하려면, 아래는 아마존 제휴 링크입니다.
ASRock 크리에이터 라데온 프로 AI R9700 하드웨어 개요
AMD가 이번 세대의 자체 레퍼런스 설계 워크스테이션 카드를 판매하지 않기 때문에, 대신 해당 카드를 판매하는 역할은 AMD의 파트너사들이 맡게 됩니다. 이러한 생산 전략은 소비자용 제품에서는 AMD에게 익숙한 방식이지만, 워크스테이션 카드에 대해서는 다소 이례적입니다.
특히 AMD는 카드 설계와 관련해 Radeon Pro 파트너사들을 상당히 엄격하게 관리하고 있습니다. AMD는 매우 특정한 시장, 그중에서도 특히 단일 워크스테이션에 여러 개의 그래픽 카드를 장착할 수 있는 능력을 중시하는 시장을 겨냥해 매우 구체적인 이미지를 제시하고 있습니다. 그 결과, AMD는 자체 레퍼런스 카드를 판매하지 않지만, 파트너사들이 출시하는 제품들은 고급 설계 측면에서 대체로 유사합니다: 듀얼 슬롯 팬 방식과, 요즘에는 워크스테이션용 카드가 아니면 쉽게 찾아볼 수 없는 폼 팩터를 공통으로 갖추고 있습니다.
이로써 ASRock의 Creator Radeon Pro AI R9700에 도달하게 됩니다. ASRock은 클라이언트 및 워크스테이션용 마더보드부터 그래픽 카드에 이르기까지 모든 차원에서 AMD와 오랜 기간 파트너 관계를 유지해 왔습니다. 따라서 AMD가 가장 가까운 파트너들에게 이러한 옵션을 제공하기 시작한 지금, 워크스테이션용 그래픽 카드 시장에도 진출한 것은 결코 놀라운 일이 아닙니다.
ASRock의 R9700 그래픽 카드는 폼 팩터와 AMD의 제약 조건을 고려할 때, 실제로는 워크스테이션용 그래픽 카드로서 기대하는 바와 정확히 일치합니다. 이 듀얼 슬롯 그래픽 카드는 너비와 높이가 PCIe 규격에 완벽히 부합하여, 본 제품은 물론 다른 몇몇 제품들도 워크스테이션 케이스에 장착될 수 있도록 설계되었습니다.
내부적으로 이 카드는 AMD의 Navi 48 GPU를 탑재하고 있으며, 이 세대에서 가장 강력한 RDNA 4 GPU입니다. 해당 GPU는 AMD의 CU 64개를 제공하며, 각 CU는 벡터 수학을 위한 총 4,096개의 쉐이딩 유닛과 행렬 연산을 위한 128개의 AI 가속 코어로 구성됩니다.
특히 AMD는 RDNA 아키텍처에서는 CDNA 아키텍처에서와 달리 별도의 행렬 연산 코어를 탑재하지 않습니다. 대신 AMD는 벡터 유닛을 구성하는 동일한 CU에서 실행되는 웨이브 매트릭스 곱-누적(WMMA)을 통해 행렬 연산을 수행합니다. 따라서 이러한 CU에 통합된 AI 가속기는 AMD의 서버급 하드웨어에 탑재된 행렬 하드웨어와 완전히 동등하다고는 할 수 없지만, 그 성능 또한 결코 무시할 수 없습니다. 특히 AMD가 RDNA 3에서 RDNA 4로 전환하면서 부동소수점 성능을 두 배로, INT8 성능을 네 배로 끌어올린 점을 고려하면 더욱 그렇습니다.
최대 클록 속도 2.92GHz를 갖춘 R9700은 밀집형 FP8 연산에서 최대 매트릭스 수학 처리량으로 382.7 TFLOPS를 제공하며, 희소성을 적용하면 이 값의 두 배에 달합니다. 이번 세대 RDNA 아키텍처의 주요 개선 사항 중 하나는 FP8 지원이 추가된 점으로, 이는 그래픽 카드의 연산 처리량을 높일 뿐만 아니라 AMD의 하드웨어를 저정밀 가중치를 선호하는 업계 트렌드와 더욱 잘 맞추어줍니다. 비록 이 카드가 FP6 및 FP4와 같은 더 낮은 정밀도의 실행까지 지원하지는 않지만, 이러한 형식의 연산 역시 FP8로 처리되므로 여전히 지원됩니다. 더 큰 장점은 더 작은 크기의 가중치를 사용할 수 있게 해주어 모델 파라미터 수를 늘릴 수 있다는 점이며, 이를 통해 카드의 32GB VRAM을 최대한 활용할 수 있습니다. 가장 대표적인 예로는 FP6 가중치를 사용해 약 300억 개의 파라미터를 갖는 모델을 32GB 용량의 카드에서 구동하면서도 여유 VRAM을 확보하는 방식이 있습니다.
워크스테이션용 그래픽 카드의 전통에 따라, AMD와 ASRock은 R9700에 카드가 지원할 수 있는 한 최대 용량의 메모리를 탑재했습니다. Navi 48이 256비트 버스를 채택한 만큼, 이 카드는 클램셸 방식으로 구성된 16개의 2Gbit 칩을 사용해 총 32GB의 GDDR6 메모리를 갖추고 있습니다. 즉, 카드의 앞면과 뒷면에 각각 칩이 배치되어 있습니다. 무엇보다도, 메모리 지원 여부는 AMD의 소비자용 카드와 전문가용 카드 간의 주요 차별화 요소이므로, 32GB 용량은 라데온 AI 프로 카드에서만 확인할 수 있습니다.
패트릭의 메모: Advancing AI 2025 행사에서 저는 AMD에 R9700이 왜 32GB밖에 지원하지 않는지 물었습니다. 그들은 마치 “메모리 구성이 지원하는 최대 용량이 그것인데, 왜 더 많은 용량을 원하십니까?”라는 듯 저를 바라보았습니다. 제 의견은, 비용이 훨씬 더 많이 들겠지만, AI 분야에서는 시장이 더 높은 가격과 더 큰 메모리 용량을 갖춘 제품을 충분히 수용할 수 있을 것이라는 점이었습니다. 그럼에도 불구하고 저는 AMD가 이 제품과 MI350P 사이에 적당한 옵션을 하나쯤 마련했으면 좋겠다고 여전히 생각합니다.
GDDR6 메모리는 20Gbps의 클록 속도를 지원하며, 이로 인해 카드는 총 640GB/초의 메모리 대역폭을 제공합니다. 한편, 워크스테이션용 카드인 R9700은 또 하나의 강력한 장점을 갖추고 있습니다: ECC 지원입니다. 이 기능은 소프트 ECC 방식으로 구현되며 리눅스에서만 사용할 수 있고(그마저도 수동으로 활성화해야 합니다), 카드를 기반으로 구성된 시스템과 랙 환경에서 추가적인 신뢰성을 제공합니다. 또한 표준 ATX 시스템에서는 최대 4개까지 장착할 수 있기 때문에 고장 발생 확률이 높아짐에 따라 신뢰성에 대한 요구가 더욱 커지므로, 단순히 옵션으로 설정하는 기능이 아닙니다.
Navi 48는 다이 크기(357mm²)와 트랜지스터 수(539억 개) 면에서 중급부터 고급 GPU 사이에 위치하며, 카드 라인업의 흐름상 AMD 제품군에서는 다소 이례적인 존재입니다. AMD는 이번 세대에 진정한 고급 GPU를 출시하지 않았고, 그 결과 R9 7000은 이전 세대의 48GB Radeon Pro W7900보다 오히려 VRAM 용량이 적습니다. 이는 전체 메모리 용량 측면에서 한 단계 후퇴함을 의미하지만, AMD는 새롭게 개선된 칩 아키텍처 덕분에 연산 처리량으로 그 차이를 만회하려 하고 있습니다.
그러나 칩 크기가 작다는 한 가지 장점은 TDP를 억제할 수 있다는 점입니다. AMD(및 ASRock)의 이 카드에 대한 총 보드 전력(Total Board Power) 수치는 단 300와트로, 소음이 크게 발생하지 않으면서도 블로워 방식의 팬을 탑재한 그래픽 카드를 비교적 쉽게 냉각할 수 있습니다. 또한 이는 시스템에 4개의 카드를 장착하더라도 과도한 전력 요구 사항으로 이어지지는 않을 것임을 의미합니다. 다만, 단일 파워 서플라이의 한계를 확실히 넘어서는 상황이 될 수는 있습니다.
ASRock 크리에이터 라데온 프로 AI R9700 구성 및 설계
비디오 카드 설계에 관해서는, ASRock의 Creator Radeon AI Pro R9700은 전형적인 듀얼 슬롯 블로워 방식을 채택하고 있습니다. 여러 장의 카드를 설치할 수 있도록 하기 위해 ASRock은 PCIe 규격에 맞춰 정밀하게 설계했으며, 해당 듀얼 슬롯 카드의 크기는 길이 10.7인치, 높이 4.4인치입니다.
흥미롭게도, 이 제품의 송풍기 설계는 오픈 백 방식으로 되어 있어 카드의 뒷면에 개방형 통풍구가 마련되어 있어 양쪽에서 공기를 흡입할 수 있습니다.
팬 자체는 매우 전형적인 송풍기 설계입니다. 카드 후면에는 단일 방사형 송풍기가 장착되어 있어, 냉각핀 위로 차가운 공기를 밀어 넣고 카드의 PCIe 브래킷 쪽으로 보냅니다. 이곳에 위치한 대형 통풍구를 통해 발생한 따뜻한 공기가 외부로 배출됩니다. ASRock에 따르면, 이 제품은 증발식 열전도 챔버를 사용해 Navi 48 GPU에서 발생하는 열을 효율적으로 흡수하며, GPU와 쿨러 사이의 열전달 매개체로는 Honeywell의 PTM7950이 적용되었습니다.
카드의 후면에 주목하면, 카드의 PCB와 그 덮개에 마련된 통풍구를 더 잘 확인할 수 있습니다. 또한 카드의 뒷면에도 덮개가 장착되어 있음을 알 수 있습니다. 앞서 언급했듯이, R9700 모델에서는 32GB 용량의 GDDR6 메모리가 클램셸 구조로 배치되어 있어, 카드의 후면에 8개의 칩이 위치하며 전면의 칩들처럼 보호와 냉각이 필요합니다.
이 제품은 워크스테이션용 그래픽 카드이므로, ASRock은 전원 커넥터의 배치에도 신경을 썼습니다. Creator R9700은 ATX 12V-2×6 커넥터를 사용하며, 이 커넥터는 카드 상단이 아닌 후면에 위치해 있어 시스템에 여러 장의 카드를 설치할 때 더욱 편리하도록 설계된 워크스테이션 중심의 디자인 요소입니다. 해당 12V-2×6 커넥터는 최대 600W까지 지원하므로, TBP가 300W인 R9700은 케이블의 용량 범위 내에 충분히 맞습니다.
한편, 카드 전면에는 이 제품이 비디오 카드임을 명확히 알리는 눈에 띄는 표시가 있습니다. 여기에는 Navi 48 GPU가 지원하는 최대 수치인 4개의 디스플레이 출력이 탑재되어 있습니다. R9700 계열 공급업체 중 유일하게 ASRock은 기존의 HDMI 포트를 생략하고 네 번째 DisplayPort를 채택한 올-DisplayPort 구성으로 제공합니다. 모든 DisplayPort는 DisplayPort 2.1a 규격이며, DSC를 통해 최대 12K 해상도의 디스플레이까지 구동할 수 있습니다.
그 외에는 디스플레이 출력을 제외하고 카드 전면의 나머지 부분은 거의 전체가 통풍 구멍으로 구성되어 있습니다. 300W는 블로워 방식의 그래픽 카드로서 여전히 상당한 열을 발생시키므로, ASRock은 아낌없이 설계했으며 카드 내부를 관통하는 히트싱크 핀들이 선명하게 보입니다.
하드웨어 투어를 마쳤으니, 이제 Creator R9700의 성능을 살펴보겠습니다.