b12207
在 ggml-cuda 的 SSM_SCAN 内核中，已为 d_state=64 添加了一条新的快速路径，通过消除该状态大小下的 CPU 回退，将 Zamba2-7B-Instruct 的生成吞吐量从 11 tok/s 提升至 15.1 tok/s——约提升 35%。该更改已使用真实的 Zamba2 超参数进行了验证，并保持了正确性；不过，由于一个尚未诊断的问题，仍有 28% 的 scan 调用会回退到 CPU。
AI NEWS JOURNAL
搜索 AI 资讯
检索标题、摘要与正文，把分散的信息连起来。
一场数据中心风暴，如何引发科技股暴跌？
图片由AI生成文｜晓静编辑｜徐青阳两天之内，华尔街上演了一场剧烈反转。美国当地时间11月4日，道琼斯指数上涨约3%，标普500上涨1.6%，纳斯达克上涨1.4%。微软、亚马逊分别上涨6.7%和6.1%，大型科技股带动市场迎来美国中期选举后的反弹。但在大盘上涨的同时，AI基础设施板块已经出现明显抛售。数据中心开发商Hut 8暴跌23.2...
FenixWalk：面向异构架构的大规模动态图自适应采样
arXiv:2611.04683v1 公告类型：新 基础摘要：随机游走是图分析的基础，但在大型动态图上高效执行仍具挑战。现有方法需在采样效率、更新开销和内存消耗之间权衡。为吞吐量优化的采样结构往往带来显著的内存开销和高昂的维护成本，而轻量级方案在高度数顶点或权重分布偏斜时又可能面临较高的采样延迟。这些挑战在异构CPU-GPU平台上尤为突出：主机内存容量充足，但GPU内存限制了可从并行加速中获益的图数据量。我们提出了FenixWalk，一个面向大规模动态图的内存高效随机游走系统，将统一的原地采样与选择性GPU加速相结合。核心上，FenixWalk采用原地Fenwick表示，无需复制边级权重存储即可支持拒绝采样和逆变换采样。该表示使拒绝采样具备期望O(1)的权重查询时间，并支持O(log d)的前缀采样与更新。为高效利用异构硬件，FenixWalk将完整图及其采样结构保留在主机内存，同时将频繁重用的顶点本地采样器有选择地放置在GPU上。通过传输紧凑的游走器状态而非反复迁移图分区，该系统减少了跨设备通信，并有效利用了有限的GPU内存。在大型真实世界图及代表性随机游走工作负载上的实验表明，FenixWalk相较于现有随机游走系统实现了平均2.06倍至400.57倍的加速。
“存储通胀”中的传音控股：囤芯失血、H股遇冷与AI求生 |深度
“非洲手机之王”传音控股，以低端手机做到全球新兴市场销量第一的消费电子企业，也成为中国消费电子出海最成功的样板之一。2023、2024年利润、营收双双攀上巅峰，2025年却被“存储通胀”超级周期打到净利腰斩；囤芯、提价换来2026上半年低基数修复，三季度却再度失速。在存储比主芯片还贵的时代，公司正大举押注端侧AI，为自己寻找定价权的最后一搏。但刚挂牌的H股成交极冷、折价近五成，折射外界对其AI叙事的疑虑重重。
新研究称AI模型使用成本受不同语种影响，Token消耗量最高可相差17倍
IT之家 10 月 30 日消息，使用人数较少的语言的用户，使用 AI 服务时，可能需要支付比英语及其他主流语言用户更高的费用。当地时间 28 日，据外媒 Rest of World 报道，人工智能语言公平研究联盟上月发布的一项研究发现，AI 模型处理不同语言时，消耗的 Token（词元）数量可能相差悬殊。Token 是 AI 模型处理文本等数据的基...
异构性何时带来收益？理解GPU与WSE系统的互补性
arXiv:2610.39222v1 发布类型：新 摘要：随着人工智能加速器架构日益多样化，将不同架构整合到统一系统中正逐渐成为一种新兴的异构计算范式。GPU与WSE在计算、内存和通信组织等方面存在显著差异，这既带来了架构上的互补性，也增加了额外的开销；然而，如何将这种异构性转化为实际的性能提升仍不明确。为填补这一空白，我们提出了一种分层基准测试方法，用于刻画GPU—WSE的异构执行特性及发挥互补性的条件，并构建了一个分析型性能模型，用以识别在何种情况下异构性会成为性能瓶颈，而在何种情况下则能带来系统级的性能提升。
模拟叠加提升PCM有效存储密度（IBM欧洲研究院）
IBM欧洲研究院的研究人员发表了论文《用于神经网络向量存储的叠加式模拟存储器》。摘要：研究人员展示了一种模拟相变存储架构，可在叠加态下存储多个AI向量，并通过可调的精度权衡来提升有效存储密度。在原型PCM硬件上的测试表明，其推理精度接近全精度软件水平。点击此处查看技术论文……» 阅读全文 该文章《模拟叠加提升PCM有效存储密度（IBM欧洲研究院）》首发于Semiconductor Engineering。
英伟达支持一家印度初创企业，助力企业以更少的GPU运行AI模型
Simplismart表示，其年化收入增速在六个月内增长了14倍，其中美国市场贡献了超过一半的收入。
imec报告：面向人工智能时代的光互连技术规模化
对带宽的空前需求促使人们通过从根本上重新构想光互连路线图，将光学技术更紧密地集成到硅基芯片上。文章《imec报告：面向人工智能时代的光互连技术 scaling》首发于 Semiconductor Engineering。
vLLM 语义路由器发布 d3-ultra：一款 270 亿参数的开源多模态决策模型
vLLM 语义路由器发布了 d3-ultra，一款拥有 270 亿参数的开源多模态决策模型。它能够一次性读取文本、图像和视频，并为每个可能的答案返回概率，在该团队的 SR-Text 测试中取得了 87.2 分。原文“vLLM 语义路由器发布 d3-ultra：一款 270 亿参数的开源多模态决策模型”首发于 MarkTechPost。
云端的大型语言模型：关于架构、编排与推理的探讨
arXiv：2610.33475v1 发布类型：新 摘要：基础大型语言模型（LLM）在云数据中心的广泛部署，标志着从无状态深度学习向分布式、内存密集型生成式工作负载的根本性范式转变。然而，在严格的服务水平目标（SLO）下为海量基础模型提供服务，会暴露出关键的物理与系统瓶颈。这些挑战包括持续存在的高带宽存储器（HBM）墙、计算密集型预填充与内存带宽受限的解码之间的运行不对称、键值（KV）缓存的爆炸式增长、代价高昂的无服务器冷启动，以及硬件可靠性方面的漏洞。现有的文献综述仍局限于各层次的孤立视角，未能将底层加速器的虚拟化与集群……
FrontGI：基于小芯片多核系统的架构感知并行GNN推理
arXiv:2610.34911v1 发布类型：新 摘要：高性能计算的范畴已扩展至涵盖多种形态的机器学习任务。图神经网络（GNN）日益受到青睐，其应用领域不断拓展。随着图数据规模的持续增长，包括节点数量、边的数量以及嵌入维度的不断提升，DGL 和 PyG 等标准化库应运而生，旨在简化 GNN 的计算过程。这些库允许以高层次的抽象方式描述计算流程，从而显著提升开发者的生产效率。然而，随着处理器核心数的迅速增加以及多核架构的演进，这类库往往表现出较差的可扩展性，并且无法实
在2026年纽约气候周上，麻省理工学院与全球网络建立了联系
麻省理工学院社区的各界代表齐聚一堂，就数据中心、超级污染物、农业与教育等议题展开了讨论。
华擎 Creator Radeon AI Pro R9700 评测：工作站级推理，AMD 风格
今天，我们来了解一下华擎面向工作站推出的高端Radeon AI推理卡——Creator Radeon AI Pro R9700。这款显卡配备32GB内存，售价1700美元，是为工作站添置本地AI推理能力的高性价比之选。文章《华擎Creator Radeon AI Pro R9700评测：AMD风格的工作站推理》首发于ServeTheHome。
在人工智能需求高涨之际，Marvell早期的芯片制造押注终于获得回报
八年前，芯片制造商美满电子科技公司决定在纳米制程领域实现跨越式发展，此后其发展轨迹一路稳步向上。在半导体制造领域，纳米制程代号所指的并非晶体管的确切物理尺寸，而是各代芯片制造技术，即所谓的工艺节点。先进的工艺节点通常能够提升晶体管密度，并带来性能上的改进……文章《美满电子在人工智能需求推动下，早期的芯片制造豪赌终获回报》首发于SiliconANGLE。
清华与港中文联合开源AKV：面向LLM智能体的KV缓存工程服务系统
清华大学与香港中文大学研究人员于2026年10月26日开源AKV——一个基于SGLang构建、专为大语言模型（LLM）智能体设计的KV缓存工程服务器。该系统通过让智能体主动丢弃并重定位KV缓存（而非传统文本历史摘要），在4个智能体基准测试中平均降低推理成本27.7%，任务平均得分提升1.7分。代码采用Apache-2.0许可证，当前支持Qwen、GPT-OSS-120B和MiniMax-M2.7等模型。
推荐理由：该成果代表LLM智能体高效推理的新范式：区别于依赖文本截断或摘要的‘上下文工程’，AKV直接操作KV缓存状态，避免重复prefill，显著缓解长程交互中的KV压力；实测显示高并发下P95延迟从229.9秒降至30.6秒，具备明确工程价值与可复现性；信息源自MarkTechPost发布的权威技术报道，发布时间（2026-10-26T07:56:45Z）与当前时间一致，属最新公开进展。
Edge AI Daily 早报（10月26日）
苹果终结二十年触控抵制，首款触屏OLED MacBook Pro定档发布，成为特努斯接任CEO后首个硬件答卷；Meta自由现金流转为-21亿美元，7600亿美元行业资本支出迎盈亏平衡审判；谷歌以1070兆瓦虚拟电厂重构数据中心供能，特斯拉自研AI地图弃用谷歌；Anthropic被指静默削弱Claude Opus 5.5逆向能力；亚马逊、Meta、OpenAI以50美元级AI硬件切入可穿戴赛道。
