跳到正文
AI NEWS JOURNAL
AI, IN PERSPECTIVE

搜索 AI 资讯

检索标题、摘要与正文,把分散的信息连起来。

按发布时间排序

模拟叠加技术提升PCM的有效存储密度(IBM欧洲研究院)

IBM欧洲研究院的研究人员发表了论文《用于神经网络中向量存储的叠加式模拟存储器》。摘要:研究人员展示了一种模拟相变存储器架构,可在叠加态下存储多个AI向量,并通过可调的精度权衡来提升有效存储密度。在原型PCM硬件上的测试表明,其推理精度接近全精度软件水平。点击此处查阅该技术论文…… » 阅读全文 该文章《模拟叠加提升PCM有效存储密度(IBM欧洲研究院)》首发于Semiconductor Engineering。

新闻源配图 · SemiEngineering
事件进展与其他报道

何时以及为何使用TMA:基于工作负载的NVIDIA Hopper GPU张量内存加速特性分析

arXiv:2610.34907v1 发布类型:新 摘要:在NVIDIA Hopper架构中推出的张量内存加速器(TMA),已在生产环境中的GPU内核中得到广泛应用,但其使用却表现出明显的选择性:CUTLASS、FlashAttention-3和FlashInfer等领域的资深内核开发者,仅对内核中的部分张量操作数采用TMA,而对其余操作数则退回到cp.async、直接全局加载或分布式共享内存(DSM)等方式。厂商文档虽已阐述了该API,近期的微基准测试也单独刻画了TMA的吞吐性能,但这些研究均未能解答从业者实际面临的疑问:在内核中遇到某个内存操作数时,究竟是否应使用TMA?若使用,又该搭配还是不搭配集群多播?我们通过一项基于工作负载的实证研究,在H100平台上填补了这一空白。我们系统地梳理了TMA、多

事件进展与其他报道

LooseLeaf:为计算型笔记本电脑启用无服务器GPU

arXiv:2610.33275v1 发布类型:新 摘要:计算型笔记本会在整个会话期间独占一块GPU,然而GPU仅在单元格执行时进行计算,其余时间则处于空闲状态。无服务器执行模式可以在各单元格之间释放GPU资源,但在新的工作节点上重建累积的笔记本状态会对每个GPU单元格带来显著的开销。本文提出了一种面向交互式笔记本的无服务器GPU平台——LooseLeaf。LooseLeaf能够推导出每个单元格的状态及其导入闭包,即该单元格所需的最小变量与软件包集合。我们在5,000个真实世界笔记本上的分析表明,这些闭包规模很小,且用户对单元格的编辑操作只需数秒即可完成准备。LooseLeaf会在用户编辑单元格的同时,基于这些闭包为GPU工作节点做好准备。执行结束后,该工作节点…

新闻源配图 · arXiv cs.DC
事件进展与其他报道

云端的大型语言模型:关于架构、编排与推理的探讨

arXiv:2610.33475v1 发布类型:新 摘要:基础大型语言模型(LLM)在云数据中心的广泛部署,标志着从无状态深度学习向分布式、内存密集型生成式工作负载的根本性范式转变。然而,在严格的服务水平目标(SLO)下为大规模基础模型提供服务,会暴露出关键的物理与系统瓶颈。这些挑战包括持续存在的高带宽内存(HBM)墙、计算密集型预填充与内存带宽受限的解码之间的运行不对称、键值(KV)缓存的爆炸式增长、代价高昂的无服务器冷启动,以及硬件可靠性方面的漏洞。现有的文献综述仍局限于各层次的孤立视角,未能将底层加速器的虚拟化与集群……

事件进展与其他报道

FrontGI:基于小芯片多核系统的架构感知并行GNN推理

arXiv:2610.34911v1 发布类型:新 摘要:高性能计算的范畴已扩展至涵盖多种形态的机器学习任务。图神经网络(GNN)日益受到青睐,其应用正不断拓展至各个领域。随着图数据规模的持续增长,包括节点数量、边的数量以及嵌入维度的不断提升,诸如DGL和PyG等标准化库应运而生,旨在简化GNN的计算过程。这些库允许以高层次的抽象方式描述计算流程,从而显著提升开发者的生产效率。然而,随着处理器核心数的迅速增加以及多核架构的演进,这些库往往表现出较差的可扩展性,并且无法实

事件进展与其他报道

DualPace:用于大语言模型推理的解耦调度与GPU-CPU协同解码

arXiv:2610.33501v1 发布类型:新 提要:大型语言模型(LLM)的推理服务依赖于批处理以提升推理吞吐量,但键值(KV)缓存会随序列长度增长,从而限制了GPU上的并发度。通过CPU卸载,可以利用主机内存扩展KV缓存容量,然而现有系统在很大程度上仍受GPU瓶颈制约:只有当GPU调度器能够提供合适的重叠机会时,CPU驻留的请求才能取得进展。因此,主机内存与CPU计算无法作为独立的推理资源发挥作用,导致负载下CPU端进度波动加剧,并使尾部词间延迟(ITL)显著增加。我们提出了DualPace,一种将主机转变为独立调度解码引擎的LLM推理运行时。DualPace在两个引擎之间划分了调度权:GPU引擎

事件进展与其他报道

在人工智能需求高涨之际,Marvell早期的芯片制造押注终于获得回报

八年前,芯片制造商美满电子科技公司决定在纳米制程领域实现跨越式发展,此后其发展轨迹一路稳步向上。在半导体制造领域,纳米制程代号所指的并非晶体管的确切物理尺寸,而是各代芯片制造技术,即所谓的工艺节点。先进的工艺节点通常能够提升晶体管密度,并带来性能上的改进……文章《美满电子在人工智能需求推动下,早期的芯片制造豪赌终获回报》首发于SiliconANGLE。

事件进展与其他报道

中国首部AI院线电影《三星堆:未来往事》上映:技术里程碑与市场冷遇并存

2026年10月23日,博纳影业出品的《三星堆:未来往事》作为国内首部获公映许可证、全程依托AI参与制作并在商业院线正式公映的长片登陆全国影院。影片全片采用数字角色,无真人演员,制作成本达千万级,但首周末票房仅约118万元,排片与上座率低迷,凸显AI电影在叙事接受度与工业化落地间的现实落差。

推荐理由:该报道基于钛媒体2026年10月26日发布的深度新闻,完整呈现了影片的技术定位(首部AI院线长片)、制作实况(120万张底图、600:1成废比、逐帧手搓)、产业意义(跑通审查与发行全链路)及市场反馈(低票房、票价争议、观众观望),信息要素齐全、来源明确、时效性强,且未超出材料事实边界。

事件进展与其他报道

上证指数等四只指数编制规则今起调整;国资委部署深化国企改革;标普新规将波及3750亿美元基金

2026年10月26日起,上证指数、上证A股指数、上证流通指数及科创综指正式实施修订后的编制方案,新增单个样本权重15%上限;国务院国资委于10月23日强调扎实推进新一轮国资国企改革任务落地;同日(10月25日),标普道琼斯宣布调整成长/价值股划分标准,新规将于12月21日生效,影响约3750亿美元被动型基金。

推荐理由:三则政策与市场规则变动均具显著时效性与系统性影响:指数权重红线直接关系A股核心基准稳定性;国资委表态体现中央层面对国企改革攻坚的紧迫部署;标普规则重构价值投资逻辑,波及规模达数千亿美元,属全球资本市场重要变量。所有信息均源自钛媒体2026年10月25日发布的权威综合报道,时间节点、主体、措施及影响金额均明确可验。

事件进展与其他报道