专为端到端大模型打造:新芯航途发布X7 Ultra智驾芯片,中国首发量产Armv9 车规级CPU
10月29日,XHEART新芯航途发布全新一代智驾大模型芯片X7Ultra。面对智驾从多个小模型向“端到端大模型”演进的趋势,其秉持“大模型定义芯片”理念,从真实量产模型底层需求出发,倒推重设计算架构、存储方案及数据流转方式,并为未来模型演进预留空间。文章还涉及核心算力与架构设计。
检索标题、摘要与正文,把分散的信息连起来。
10月29日,XHEART新芯航途发布全新一代智驾大模型芯片X7Ultra。面对智驾从多个小模型向“端到端大模型”演进的趋势,其秉持“大模型定义芯片”理念,从真实量产模型底层需求出发,倒推重设计算架构、存储方案及数据流转方式,并为未来模型演进预留空间。文章还涉及核心算力与架构设计。
对带宽的空前需求促使人们通过从根本上重新构想光互连路线图,将光学技术更紧密地集成到硅基芯片上。文章《imec报告:面向人工智能时代的光互连技术 scaling》首发于 Semiconductor Engineering。
vLLM 语义路由器发布了 d3-ultra,一款拥有 270 亿参数的开源多模态决策模型。它能够一次性读取文本、图像和视频,并为每个可能的答案返回概率,在该团队的 SR-Text 测试中取得了 87.2 分。原文“vLLM 语义路由器发布 d3-ultra:一款 270 亿参数的开源多模态决策模型”首发于 MarkTechPost。
arXiv:2610.33475v1 发布类型:新 摘要:基础大型语言模型(LLM)在云数据中心的广泛部署,标志着从无状态深度学习向分布式、内存密集型生成式工作负载的根本性范式转变。然而,在严格的服务水平目标(SLO)下为海量基础模型提供服务,会暴露出关键的物理与系统瓶颈。这些挑战包括持续存在的高带宽存储器(HBM)墙、计算密集型预填充与内存带宽受限的解码之间的运行不对称、键值(KV)缓存的爆炸式增长、代价高昂的无服务器冷启动,以及硬件可靠性方面的漏洞。现有的文献综述仍局限于各层次的孤立视角,未能将底层加速器的虚拟化与集群……
今天,我们来了解一下华擎面向工作站推出的高端Radeon AI推理卡——Creator Radeon AI Pro R9700。这款显卡配备32GB内存,售价1700美元,是为工作站添置本地AI推理能力的高性价比之选。文章《华擎Creator Radeon AI Pro R9700评测:AMD风格的工作站推理》首发于ServeTheHome。
SpaceX在周一提交的一份监管文件中披露,已锁定约400亿美元的融资承诺,用于支付人工智能芯片及相关数据中心设备的费用。SpaceX在一份声明中称,这是有史以来“规模最大的GPU融资承诺”。
AI工厂是迄今为止技术最为复杂的运营环境之一。数十万块GPU、NVIDIA Spectrum-X以太网……