跳到正文
AI NEWS JOURNAL
AI, IN PERSPECTIVE

搜索 AI 资讯

检索标题、摘要与正文,把分散的信息连起来。

按发布时间排序

专为端到端大模型打造:新芯航途发布X7 Ultra智驾芯片,中国首发量产Armv9 车规级CPU

10月29日,XHEART新芯航途发布全新一代智驾大模型芯片X7Ultra。面对智驾从多个小模型向“端到端大模型”演进的趋势,其秉持“大模型定义芯片”理念,从真实量产模型底层需求出发,倒推重设计算架构、存储方案及数据流转方式,并为未来模型演进预留空间。文章还涉及核心算力与架构设计。

image.png
事件进展与其他报道

云端的大型语言模型:关于架构、编排与推理的探讨

arXiv:2610.33475v1 发布类型:新 摘要:基础大型语言模型(LLM)在云数据中心的广泛部署,标志着从无状态深度学习向分布式、内存密集型生成式工作负载的根本性范式转变。然而,在严格的服务水平目标(SLO)下为海量基础模型提供服务,会暴露出关键的物理与系统瓶颈。这些挑战包括持续存在的高带宽存储器(HBM)墙、计算密集型预填充与内存带宽受限的解码之间的运行不对称、键值(KV)缓存的爆炸式增长、代价高昂的无服务器冷启动,以及硬件可靠性方面的漏洞。现有的文献综述仍局限于各层次的孤立视角,未能将底层加速器的虚拟化与集群……

事件进展与其他报道