b12207
在 ggml-cuda 的 SSM_SCAN 内核中,已为 d_state=64 添加了一条新的快速路径,通过消除该状态大小下的 CPU 回退,将 Zamba2-7B-Instruct 的生成吞吐量从 11 tok/s 提升至 15.1 tok/s——约提升 35%。该更改已使用真实的 Zamba2 超参数进行了验证,并保持了正确性;不过,由于一个尚未诊断的问题,仍有 28% 的 scan 调用会回退到 CPU。
检索标题、摘要与正文,把分散的信息连起来。
在 ggml-cuda 的 SSM_SCAN 内核中,已为 d_state=64 添加了一条新的快速路径,通过消除该状态大小下的 CPU 回退,将 Zamba2-7B-Instruct 的生成吞吐量从 11 tok/s 提升至 15.1 tok/s——约提升 35%。该更改已使用真实的 Zamba2 超参数进行了验证,并保持了正确性;不过,由于一个尚未诊断的问题,仍有 28% 的 scan 调用会回退到 CPU。
Shanghai’s Fourier Intelligence built a custom humanoid for Meta’s internal research in months. The company already has a rehab business, modest humanoid shipments, and a disclosed pre-money valuation of about 8 billion yuan. A marquee partner tests its engineering—it does not yet prove the equity story.
今日头条时速400公里高铁,要来了国家发展改革委11月4日表示,“十五五”时期,我国将新建约1.5万公里铁路,其中包括约1万公里高速铁路,基本实现铁路现代化目标。重点任务方面,基本建成“八纵八横”高速铁路主通道,合理拓展区域连接线覆盖范围。加快构建时速400公里高铁建造运营成套技术和标准体系,稳步推进商业化运营。稳妥推动时速200公里铁路按需开行货物列车,“十五五”时期力争新增2.2亿吨货运量。重大工程方面,全面建成高标准沿江高速铁路,加快建成沿海高速铁路,稳步推进沿边铁路建设,加快构建疆煤外运体系,推进秦沈第二通道等项目前期工作。(财联社)华为、阿里等20家单位:共同抵制利用智能体实施算法压...
新智元报道 这一天还是来了!不用训练、不算梯度,只让GPT-6 Astra改写另一款小模型0.016%权重,数学成绩就能原地暴涨6倍!今天,MIT计算机科学与人工智能实验室(CSAIL)带来的这项新研究,在全网彻底火了。他们首次提出了一个颠覆传统深度学习的新范式,「权重空间编程」。要知道,神经网络的权重文件里全是一眼望不到头...
LangChain 如何在 Slack 中构建了 Content Studio——一个开源的设计代理,用于制作符合品牌调性的视频、图形和演示文稿,以及为其提供动力的工具链。
通用计算正押注于来自英伟达生态系统之外的推理芯片。
Simplismart表示,其年化收入增速在六个月内增长了14倍,其中美国市场贡献了超过一半的收入。
随着智能体逐渐走向主流,一些出版商希望用户为专为AI而非人类量身定制的内容付费。
对带宽的空前需求促使人们通过从根本上重新构想光互连路线图,将光学技术更紧密地集成到硅基芯片上。文章《imec报告:面向人工智能时代的光互连技术 scaling》首发于 Semiconductor Engineering。
arXiv:2610.35564v1 发布类型:新 摘要:无服务器计算平台必须在适应高度突发且不可预测的工作负载的同时,确保服务质量(QoS)。为应对工作负载的波动并满足QoS要求及服务等级协议(SLA),这些平台依赖于资源的自动扩展。商业化的函数即服务(FaaS)平台采用不同的自动伸缩策略,以动态调整活跃函数实例的数量和可用的处理能力。在本研究中,我们对三种具有代表性的自动伸缩策略进行了建模与比较:按请求伸缩(SPR)、并发级别伸缩(CLS)以及基于指标的伸缩(MBS)。为了实现独立于各厂商特定实现的系统化评估,我们……
在准备上市之际,Anthropic提交的S-1文件使生成式AI对甲烷的依赖暴露无遗。“在获取电力供应以及具备充足电力保障的数据中心选址方面,竞争十分激烈。”在周一提交给美国证券交易委员会的文件中,Anthropic承认,数据中心正日益依赖“天然气”[…]
Anthropic的S-1文件显示,其超过一半的年收入超过10万美元的客户如今同时使用Claude平台和自有应用程序,这一交叉销售策略让人联想到亚马逊的做法,正使企业客户黏性不断提升。
AI算力泡沫将破,新云服务商面临大洗牌。
arXiv:2610.31894v1 发布类型:新 摘要:近期的稀疏自编码器(SAE)能够将大型语言模型(LLM)的表示分解为可解释的特征,从而实现对编码知识的精确读取与控制。然而,现有的SAE将每个特征视为独立单元,而现实世界中的知识往往具有层级化的分类结构。因此,这种读取方式无法保证分类学上的一致性,控制也缺乏足够的粒度来明确指定编辑的范围。我们提出了TaxoSAE,该方法在SAE的特征空间中显式地编码了分类学信息,基于“is-a”(超类—子类)关系构建。TaxoSAE通过堆叠一系列SAE来模拟一个分类体系,每一层对应一个分类层级,并引入了一种分类对齐损失,使每个概念在被激活时都能准确对应其所属的分类层级。
苹果终结二十年触控抵制,首款触屏OLED MacBook Pro定档发布,成为特努斯接任CEO后首个硬件答卷;Meta自由现金流转为-21亿美元,7600亿美元行业资本支出迎盈亏平衡审判;谷歌以1070兆瓦虚拟电厂重构数据中心供能,特斯拉自研AI地图弃用谷歌;Anthropic被指静默削弱Claude Opus 5.5逆向能力;亚马逊、Meta、OpenAI以50美元级AI硬件切入可穿戴赛道。
Nanbeige LLM 实验室发布了 Nanbeige4.3-33B,这是一款拥有 512K 上下文的 33B 参数密集型 Apache 2.0 模型。据称,该模型在 Terminal-Bench 2.1 上取得了 80.9 的成绩,并将用于训练即将推出的 Nanbeige4.3-3B。文章《Nanbeige 发布 Nanbeige4.3-33B,一款 33B 开放式智能体驱动编码模型》首发于 MarkTechPost。
网约车平台inDrive与小马智行、英伟达签署合作备忘录,拟于2027年上半年在哈萨克斯坦首都阿斯塔纳启动Gen-7自动驾驶出租车测试,初期配备安全员,目标为最终实现完全无人驾驶;英伟达提供Hyperion平台及Halos安全系统等AI技术支撑。
黑石AI业务负责人贾斯·卡伊拉在TechCrunch Disrupt大会上表示,市场对AI基础设施领域巨额债务的恐慌被过度放大;其核心论据是:债务主要由高信用等级客户(如微软、Meta)的长期合同支撑,且底层资产(GPU等)具备强抵押价值,风险结构与2008年银行体系有本质区别。
谷歌云与英伟达宣布基于Vera Rubin架构的A5X实例将于下月起正式商用,首期覆盖美国,后续扩展至欧洲;该平台整合NVL72 GPU、ConnectX-9 SuperNICs、Virgo网络及第四代液冷技术,专为大规模强化学习、生成式智能体推理等高密度计算场景设计。
在柏林Tempodrom举行的GTC Berlin 2026大会上,NVIDIA CEO黄仁勋发布多项关键进展:推出DSX POD模块化AI工厂、Vera Rubin全栈AI代理平台、OpenShell安全架构、Agent Knowledge Foundation知识层,以及Agile ONE SN人形机器人参考平台;宣布超100亿欧元级欧洲AI投资承诺,覆盖12,000+合作伙伴,并强调欧洲正加速构建自主可控的AI经济基础设施。