跳到正文
AI NEWS JOURNAL
AI, IN PERSPECTIVE

搜索 AI 资讯

检索标题、摘要与正文,把分散的信息连起来。

按发布时间排序

短时傅里叶变换并行实现的比较研究

arXiv:2610.38069v1 发布类型:新 摘要:短时傅里叶变换(STFT)通过对较长信号的一段短时窗口进行傅里叶变换,从而刻画频率随时间的变化特征。尽管傅里叶变换算法,尤其是快速傅里叶变换(FFT)算法,已得到充分发展以充分利用并行计算的优势,但关于并行短时傅里叶变换算法性能的研究仍较为有限。在本研究中,我们实现了两种并行短时傅里叶变换算法——一种基于FFT,另一种为准并行前馈算法——并对其进行了对比分析。研究发现,在低并发环境下,准并行算法在运行时间上更具优势,而……

事件进展与其他报道

DistOptimize:分布式协议的自动优化

arXiv:2610.39017v1 发布类型:新 摘要:分布式共识与一致性协议难以分析,却又是云系统的基础;因此,在部署之前通常需要经过严格的证明与形式化验证。然而,同样的严格标准却很少应用于协议的修改——而这些修改在生产环境中频繁发生,极易危及系统的安全性。本文通过提出一种面向分布式协议的自动优化器——DistOptimize,消除了人为修改带来的安全风险。DistOptimize 将学术界提出的吞吐量优化方法移植到生产环境中使用的框架,并在 Rocq 语言中验证重写后的正确性,同时结合校准与基于 ILP 的搜索实现其自动化应用。

事件进展与其他报道

TRACEs:面向分布式科学工作流的细粒度嵌入式溯源

arXiv:2610.39981v1 发布类型:新 摘要:大规模科学工作流运行于分布式高性能计算资源之上,这使得人们难以解释科学数据产品的生成过程,也难以理解为何相似的工作流执行会得到截然不同的结果。现有系统通常只关注分布式工作流的执行或溯源管理,很少将细粒度的溯源视为分布式科学数据产物的固有属性。我们提出了 TRACEs(可追溯的高级容器化执行运行时),这是一种适用于分布式容器化科学工作流的溯源架构,它将数据血统与执行上下文直接嵌入到每一个生成的数据产物中。通过将溯源与工作流编排解耦,TRACEs 将以产物为中心的溯源进行泛化

事件进展与其他报道

异构性何时带来收益?理解GPU与WSE系统的互补性

arXiv:2610.39222v1 发布类型:新 摘要:随着人工智能加速器架构日益多样化,将不同架构整合到统一系统中正逐渐成为一种新兴的异构计算范式。GPU与WSE在计算、内存和通信组织等方面存在显著差异,这既带来了架构上的互补性,也增加了额外的开销;然而,如何将这种异构性转化为实际的性能提升仍不明确。为填补这一空白,我们提出了一种分层基准测试方法,用于刻画GPU—WSE的异构执行特性及发挥互补性的条件,并构建了一个分析型性能模型,用以识别在何种情况下异构性会成为性能瓶颈,而在何种情况下则能带来系统级的性能提升。

事件进展与其他报道

FlatCake:一种用于大语言模型推理的扁平化KV缓存存储架构

arXiv:2610.38355v1 发布类型:新摘要:KV缓存复用能够加速大语言模型的推理,但现有系统将主机DRAM和NVMe SSD视为分层结构,其中DRAM充当中间缓存。然而,实际的大语言模型工作负载打破了这一分层结构的两个前提。首先,双模态复用使DRAM的时间过滤失效,因为工作负载要么由具有较长复用距离的一次性块主导,要么由超过DRAM容量的数GB级智能体会话主导,从而将SSD置于关键的读取路径上。其次,DRAM的暂存与按驱逐顺序布局导致SSD恢复出现瓶颈。为在途前缀保留主机暂存缓冲区会在负载下引发争用,进而中止预取操作;而增量式驱逐则会将会话的块分散到整个SSD上,阻碍大规模顺序读取。我们 p

事件进展与其他报道

通过低秩多线性分解进行大语言模型幻觉检测

arXiv:2610.36191v1 发布类型:新 摘要:大型语言模型(LLMs)经常生成流畅但事实错误的回复,这引发了对其可靠性的担忧。近期的幻觉检测方法越来越多地利用内部表示,但从高维隐藏状态中提取有效信息仍然充满挑战。现有方法往往依赖于特定激活或基于池化的压缩方式,可能忽略了分布在Transformer各层、特征模式和标记中的判别性信息。我们提出了LOTUS(基于低秩顺序统计TUcker的子空间学习),这是一种用于幻觉检测的多线性低秩分解框架,能够在降低对标签依赖的同时,从LLM的隐藏状态中提取紧凑的表示。

事件进展与其他报道

ProtoEEG:用于脑电图视觉解码的结构化原型对齐

arXiv:2610.33065v1 发布类型:新 摘要:由于头皮记录存在噪声、空间分辨率较低,且在不同试验和受试者之间具有较大差异,脑电图(EEG)的视觉解码仍然十分困难。大多数系统将每次试验与一个密集的图像嵌入对齐,然而该嵌入同时混杂了语义内容以及与具体实例相关的纹理、姿态和背景信息。这种做法往往需要EEG本身并不具备的细节信息,且未能明确说明支持预测的视觉因素。我们提出\textbf{ProtoEEG},一种基于原型的框架,它将EEG与图像的对齐问题重新表述为在共享的可学习视觉码本之上进行软性组合。一个可训练的EEG编码器与一个冻结的视觉教师共同生成针对同一$K=64$个原型的分配分布。它们的加权重构构成了一种结构化的表征

事件进展与其他报道

何时以及为何使用TMA:基于工作负载的NVIDIA Hopper GPU张量内存加速特性分析

arXiv:2610.34907v1 发布类型:新 摘要:在NVIDIA Hopper架构中推出的张量内存加速器(TMA),已在生产环境中的GPU内核中得到广泛应用,但其使用却表现出明显的选择性:CUTLASS、FlashAttention-3和FlashInfer等领域的资深内核开发者仅对内核中的部分张量操作数采用TMA,而对其余操作数则退回到cp.async、直接全局加载或分布式共享内存(DSM)等方式。厂商文档虽已说明了该API,近期的微基准测试也单独刻画了TMA的吞吐性能,但这些研究均未能解答从业者实际面临的疑问:在内核中遇到某个内存操作数时,究竟是否应使用TMA?若使用,又该搭配还是不搭配集群多播?我们通过一项基于工作负载的实证研究,在H100平台上填补了这一空白。我们系统地梳理了TMA、多

事件进展与其他报道

云端的大型语言模型:关于架构、编排与推理的探讨

arXiv:2610.33475v1 发布类型:新 摘要:基础大型语言模型(LLM)在云数据中心的广泛部署,标志着从无状态深度学习向分布式、内存密集型生成式工作负载的根本性范式转变。然而,在严格的服务水平目标(SLO)下为海量基础模型提供服务,会暴露出关键的物理与系统瓶颈。这些挑战包括持续存在的高带宽存储器(HBM)墙、计算密集型预填充与内存带宽受限的解码之间的运行不对称、键值(KV)缓存的爆炸式增长、代价高昂的无服务器冷启动,以及硬件可靠性方面的漏洞。现有的文献综述仍局限于各层次的孤立视角,未能将底层加速器的虚拟化与集群……

事件进展与其他报道

InferSlice:一种面向电信广域网的、由SLO驱动的LLM推理参考架构

arXiv:2610.32638v1 发布类型:新 摘要:大型语言模型(LLM)推理正日益作为企业和交互式应用的核心服务被部署,但主权、合规、延迟以及资源本地化等方面的要求,可能限制集中式云部署的适用性。电信运营商提供地理分布式的计算与网络基础设施,以应对这些约束。然而,现有的 LLM 服务框架主要面向紧密耦合的数据中心设计,对协调地理分布且异构的资源支持有限。我们提出了 InferSlice,一种面向电信基础设施、以服务等级目标(SLO)为导向的 LLM 推理参考架构,集成了网络切片、GPU 分区、弹性服务与可观测性等功能。

InferSlice: A Reference Architecture for SLO-driven LLM Inference over a Telco Wide-Area Network
事件进展与其他报道

权衡感知的区域设计:一种用于企业客户与销售人员分配的多目标决策系统

arXiv:2610.31701v1 发布类型:新 提要:企业客户的旅程不仅由产品体验和营销所塑造,还受到反复出现的资源分配决策的影响。在B2B市场进入(GTM)组织中,区域划分决定了哪些客户将获得销售人员的覆盖、哪些销售人员与客户的关系得以保留,以及有限的现场资源如何进行分配。然而,这一流程往往仍依赖人工操作,导致难以比较潜在机会、评估价值延续性,并权衡增长、平衡、产能与可行性之间的取舍。我们提出了一套面向生产决策的系统,用于在企业级GTM规划中实现兼顾权衡的客户—销售人员分配。该系统整合了三个组成部分:一个多维度的客户价值层,通过融合预测性指标进行评分

Tradeoff-Aware Territory Design: A Multi-Objective Decision System for Enterprise Customer-to-Seller Allocation
事件进展与其他报道

用于室内无线电地图估计的协同上下文学习

arXiv:2610.31702v1 发布类型:新 摘要:室内无线地图估计(RME)对于覆盖规划、定位和网络部署等无线应用至关重要。然而,现有方法大多采用监督学习范式,需要耗费高昂成本的标注数据,并进行针对特定任务的模型训练。此外,室内环境涉及建筑布局与结构等隐私敏感信息,这些信息往往无法集中管理。为应对上述挑战,我们首次尝试将室内RME建模为一种协同式上下文学习(ICL)问题。我们提出了Poly-Ripple框架,其中多个客户端在无需更新模型的情况下,利用大型自回归视觉模型(LAVMs)进行ICL。每个客户端均通过其私有演示数据获得提示。

Collaborative In-Context Learning for Indoor Radio Map Estimation
事件进展与其他报道

通过边缘端实现大语言模型训练的民主化:挑战、系统与未来之路

arXiv:2610.32215v1 发布类型:新 摘要:现代GPU数据中心日益强大的算力,使少数几家行业巨头得以在海量数据上训练并部署大型语言模型(LLMs)。然而,这些模型及其训练数据的庞大规模,使得集中式开发越来越难以为继,同时也将那些拥有相关私有数据但缺乏同等基础设施的小型机构拒之门外。本文围绕预训练与微调两大范式,梳理了我们在分布式LLM训练方面的立场,涵盖联邦学习、分割学习以及去中心化方法,并评估了它们在异构硬件与连接不稳定等地理分布式环境中的适用性。随后,我们提出了一种{\em 统一}的系统

Democratizing LLM Training with the Edge: Challenges, Systems, and the Road Ahead
事件进展与其他报道