工作站
工作站处理器
得益于对AI推理硬件需求的激增,高端显卡已成为PC配件市场上的紧俏商品。这一需求飙升几乎波及了各个价位的显卡,但对工作站级显卡的冲击最为严重。其中,最顶级的显卡——尤其是那些配备最大显存容量的型号——受到的影响尤为显著。英伟达、AMD乃至英特尔都感受到了这股需求热潮,因为独立显卡已成为在标准规格的PC中部署高性能推理硬件的最有效途径。
作为ServeTheHome对AI推理硬件与性能整体评测的一部分,我们已涵盖从迷你PC到服务器级硬件的各类产品,但中间地带却鲜有涉及。因此,今天我们将目光投向这一“中间地带”,聚焦于华擎推出的一款Radeon Pro AI工作站显卡——其Creator Radeon AI Pro R9700。这款显卡属于AMD当前一代RDNA 4架构系列中性能最强、配置最完善的高端工作站显卡。
Radeon AI Pro R9700 是 AMD 长期推出的 workstation 显卡系列中的最新产品。尽管它本质上仍是一张纯正的显卡,具备前沿的图形功能和丰富的显示输出接口,但在推出这一代 workstation 显卡时,AMD 已经洞悉市场走向,并为其命名时将 AI 功能置于核心位置。其底层架构也充分体现了这一点:RDNA 4 架构引入了一系列以 AI 为核心的升级,包括更高效的矩阵运算性能,以及对低精度格式(最低可达 FP8)的支持。因此,R9700 成为 AMD 目前最具 AI 计算能力的 workstation 显卡,恰逢相关需求高涨之际。
如果您想查看当前价格或在线查找,这里有一个亚马逊联盟链接。
华擎 Creator Radeon Pro AI R9700 硬件概述
由于AMD并未为这一代产品销售自家的参考设计工作站显卡,因此相关显卡的销售工作便交由其合作伙伴负责。这种生产策略在消费级市场对AMD而言并不陌生,但在工作站显卡领域则略显少见。
最值得注意的是,AMD 在显卡设计方面对 Radeon Pro 合作伙伴的自主权限制颇多。AMD 正在为一个特定市场打造一种极为鲜明的产品形象,其中尤为突出的是能够在单个工作站中安装多块显卡的能力。因此,尽管 AMD 并未推出其参考设计显卡,但其合作伙伴推出的显卡在整体设计上却颇为相似:双插槽风冷散热、以及一种如今在工作站显卡之外已不常见的规格尺寸。
这就引出了华擎的 Creator Radeon Pro AI R9700。华擎一直是AMD在各个层面的长期合作伙伴,从面向客户端和工作站的主板到显卡无不涵盖。因此,随着AMD向其最紧密的合作伙伴提供这一选项,华擎也进军工作站级显卡领域也就不足为奇了。
华擎的R9700显卡,在实际使用中完全符合人们对工作站级显卡的预期,尤其是在其外形规格和AMD的限制条件下。这款双槽显卡在宽度和高度上严格遵循PCIe规范,以确保它(以及或许它的几位“小伙伴”)能够适配工作站机箱。
在内部架构方面,该显卡采用了AMD的Navi 48 GPU,这是本世代性能最强的RDNA 4 GPU。该GPU配备了64个AMD计算单元(CU),每个计算单元由4096个用于向量运算的着色器单元以及128个用于矩阵运算的AI加速核心组成。
值得注意的是,AMD 在 RDNA 架构中并未像在其 CDNA 架构中那样集成独立的矩阵运算核心。相反,AMD 依靠波形矩阵乘累加(WMMA)来执行矩阵运算,而这些运算是在构成向量单元的同一组计算单元上运行的。因此,尽管这些集成于计算单元中的 AI 加速器与 AMD 服务器级硬件上的专用矩阵硬件并不完全相同,但其性能也相当出色。尤其是在 AMD 将 RDNA 3 的浮点性能提升一倍、INT8 性能提升至四倍之后,这一优势更加明显。
凭借2.92GHz的最高时钟频率,R9700在密集FP8运算下可提供382.7 TFLOPS的峰值矩阵计算吞吐量;若引入稀疏性,则这一数值可翻倍。本代RDNA架构的一项关键改进是新增了对FP8的支持,这不仅显著提升了显卡的计算吞吐能力,也使AMD的硬件更契合业界向低精度权重发展的趋势。尽管该显卡尚不支持FP6和FP4等更低精度的运算,但这些较低精度的数据仍会以FP8形式进行处理。更大的优势在于,它能够容纳更小的权重规模,从而支持更大参数量的模型,充分释放显卡32GB显存的潜力。最典型的用例是:采用FP6权重,让一款约300亿参数的模型在配备32GB显存的显卡上运行,并留有部分空余显存。
按照工作站显卡的一贯做法,AMD 和 ASRock 为 R9700 配备了该显卡所能支持的最大容量内存。由于 Navi 48 搭载 256 位总线,该显卡配备了 32GB 的 GDDR6 显存,以 16 片 2Gbit 芯片采用翻盖式布局排列,即显卡正面和背面各有一排芯片。归根结底,显存容量是 AMD 消费级与专业级显卡之间的重要差异化特征,因此只有 Radeon AI Pro 系列显卡才配备 32GB 显存。
帕特里克的备注:在一场“Advancing AI 2025”活动中,我曾询问AMD,为何R9700仅配备32 GB内存。他们看着我,似乎在问:既然这是该内存配置所支持的最大容量,你为什么还要更多呢?我的反馈是,虽然这可能会导致成本大幅增加,但市场很可能愿意接受更高的成本,并为AI应用选择更高配的内存方案。我仍然希望AMD能推出一款介于这款产品与MI350P之间的型号。
GDDR6 显存的时钟频率为 20Gbps,使该显卡的显存带宽达到每秒 640GB。与此同时,作为一款工作站级显卡,R9700 还有一项额外优势:支持 ECC。这项功能以软 ECC 的形式实现,且仅在 Linux 系统下可用(即便如此,也需手动启用),但它为基于该显卡构建的系统和机架增添了额外的可靠性保障。此外,在标准 ATX 机箱中最多可安装 4 张显卡的情况下,由于故障概率随之上升,对可靠性的要求也相应提高,因此这绝非仅仅是一个可选的功能选项。
Navi 48的芯片面积(357平方毫米)和晶体管数量(539亿个)介于中高端GPU之间,这使其在AMD的产品线中就显卡迭代而言显得有些特殊。在这一代产品中,AMD并未推出真正的高端GPU,因此R9 7000的显存容量反而低于上一代配备48GB显存的Radeon Pro W7900。这意味着其整体显存容量有所下降,但AMD正试图通过更高的计算吞吐量来弥补这一差距,而这在很大程度上得益于更新的芯片架构。
然而,作为一款更小的芯片,其一大优势在于能够有效控制热设计功耗(TDP)。AMD(以及华擎)为该显卡给出的整板功耗仅为300瓦,这使得在不产生严重噪音的情况下为风冷式显卡散热相对容易。这也意味着,即使在一个系统中同时安装4张这样的显卡,也不会带来过高的功耗需求,尽管这无疑会逼近单电源的极限。
华擎 Creator Radeon Pro AI R9700 的组装与设计
在显卡设计方面,华擎的Creator Radeon AI Pro R9700 采用典型的双插槽风冷散热方案。为确保该显卡能够多路安装,华擎严格遵循 PCIe 规格标准,其双插槽版显卡长10.7英寸、高4.4英寸。
有趣的是,这里的风扇设计采用开放式背板,这意味着显卡的背面设有通风口,使其能够从两侧吸入空气。
风扇本身采用相当典型的鼓风机设计。一块单级径向鼓风机位于显卡背部,将冷空气吹过散热器并导向显卡的PCIe挡板,那里设有一个大型通风口,用于排出由此产生的热空气。据华擎介绍,该散热器采用均温板技术,可高效地从Navi 48 GPU上导出热量,并在GPU与散热器之间使用霍尼韦尔的PTM7950作为热界面材料。
聚焦显卡的背面,我们可以更清楚地看到散热开孔切入了显卡的PCB及其散热罩。同时也能看到,该显卡的背面同样配备了一层散热罩。如前所述,在R9700上,32GB的GDDR6显存采用翻盖式布局,即8颗芯片位于显卡背面,需要与正面的芯片一样得到妥善的保护与散热。
由于这是一款工作站显卡,华擎在电源接口的布局上也颇费心思。Creator R9700 采用了一个 ATX 12V-2×6 接口,将其置于显卡背面而非顶部,这一设计同样以工作站用户为导向,便于在系统中安装多张显卡。该 12V-2×6 接口额定功率高达 600W,因此这款 TBP 为 300W 的 R9700 完全在接口的承载范围内。
与此同时,在显卡的正面,你会看到一个毫不隐晦的提示:这是一张显卡,配备了4个显示输出接口,这也是Navi 48 GPU所能支持的最大数量。在R9700系列的各家厂商中,华擎独树一帜,采用了全DisplayPort的配置,舍弃了常见的HDMI接口,转而增加了一个第四路DisplayPort。所有DisplayPort均支持DisplayPort 2.1a,并且借助DSC技术,该显卡最高可驱动高达12K分辨率的显示器。
除此之外,除了显示输出接口外,显卡正面的其余部分几乎全都是散热开孔。300W的功耗对于一款风冷显卡来说依然相当高,因此华擎并未吝啬,你可以清楚地看到散热鳍片贯穿整张显卡。
在完成硬件评测之后,让我们来看看 Creator R9700 的性能表现。