General Compute完成1亿美元A轮融资,力证“新云”并非灾难性叙事
通用计算正押注于来自英伟达生态系统之外的推理芯片。
检索标题、摘要与正文,把分散的信息连起来。
通用计算正押注于来自英伟达生态系统之外的推理芯片。
arXiv:2610.33475v1 发布类型:新 摘要:基础大型语言模型(LLM)在云数据中心的广泛部署,标志着从无状态深度学习向分布式、内存密集型生成式工作负载的根本性范式转变。然而,在严格的服务水平目标(SLO)下为海量基础模型提供服务,会暴露出关键的物理与系统瓶颈。这些挑战包括持续存在的高带宽存储器(HBM)墙、计算密集型预填充与内存带宽受限的解码之间的运行不对称、键值(KV)缓存的爆炸式增长、代价高昂的无服务器冷启动,以及硬件可靠性方面的漏洞。现有的文献综述仍局限于各层次的孤立视角,未能将底层加速器的虚拟化与集群……
dbt v2 将适配器打包,加快解析速度,并用更小、可查询的文件取代 manifest.json,供用户和 AI 使用。
SpaceX在周一提交的一份监管文件中披露,已锁定约400亿美元的融资承诺,用于支付人工智能芯片及相关数据中心设备的费用。SpaceX在一份声明中称,这是有史以来“规模最大的GPU融资承诺”。
今天,我采访了记者兼新书《AGI编年史》的作者凯文·鲁斯。这本书详细记录了人工智能行业近期发生的剧烈变革。凯文曾长期担任《纽约时报》记者,并主持过热门播客节目“Hard Fork”,但他与节目好友凯西·牛顿刚刚离开了[…]
对机器而言,“夜晚”是什么?
arXiv:2610.32215v1 发布类型:新 摘要:现代GPU数据中心日益强大的算力,使少数几家行业巨头得以在海量数据上训练并部署大型语言模型(LLMs)。然而,这些模型及其训练数据的庞大规模,使得集中式开发越来越难以为继,同时也将那些拥有相关私有数据但缺乏同等基础设施的小型机构拒之门外。本文围绕预训练与微调两大范式,梳理了我们在分布式LLM训练方面的立场,涵盖联邦学习、分割学习以及去中心化方法,并评估了它们在异构硬件与连接不稳定等地理分布式环境中的适用性。随后,我们提出了一种{\em 统一}的系统
Meta和苹果已经证明,大型人工智能模型可以在台式电脑上运行。但要让这项技术真正服务于企业,光购买设备是远远不够的。