跳到正文
AI NEWS JOURNAL
AI, IN PERSPECTIVE

搜索 AI 资讯

检索标题、摘要与正文,把分散的信息连起来。

按发布时间排序

FenixWalk:面向异构架构的大规模动态图自适应采样

arXiv:2611.04683v1 公告类型:新 基础摘要:随机游走是图分析的基础,但在大型动态图上高效执行仍具挑战。现有方法需在采样效率、更新开销和内存消耗之间权衡。为吞吐量优化的采样结构往往带来显著的内存开销和高昂的维护成本,而轻量级方案在高度数顶点或权重分布偏斜时又可能面临较高的采样延迟。这些挑战在异构CPU-GPU平台上尤为突出:主机内存容量充足,但GPU内存限制了可从并行加速中获益的图数据量。我们提出了FenixWalk,一个面向大规模动态图的内存高效随机游走系统,将统一的原地采样与选择性GPU加速相结合。核心上,FenixWalk采用原地Fenwick表示,无需复制边级权重存储即可支持拒绝采样和逆变换采样。该表示使拒绝采样具备期望O(1)的权重查询时间,并支持O(log d)的前缀采样与更新。为高效利用异构硬件,FenixWalk将完整图及其采样结构保留在主机内存,同时将频繁重用的顶点本地采样器有选择地放置在GPU上。通过传输紧凑的游走器状态而非反复迁移图分区,该系统减少了跨设备通信,并有效利用了有限的GPU内存。在大型真实世界图及代表性随机游走工作负载上的实验表明,FenixWalk相较于现有随机游走系统实现了平均2.06倍至400.57倍的加速。

短时傅里叶变换并行实现的比较研究

arXiv:2610.38069v1 发布类型:新 摘要:短时傅里叶变换(STFT)通过对较长信号的一段短时窗口进行傅里叶变换,从而刻画频率随时间的变化特征。尽管傅里叶变换算法,尤其是快速傅里叶变换(FFT)算法,已得到充分发展以充分利用并行计算的优势,但关于并行短时傅里叶变换算法性能的研究仍较为有限。在本研究中,我们实现了两种并行短时傅里叶变换算法——一种基于FFT,另一种为准并行前馈算法——并对其进行了对比分析。研究发现,在低并发环境下,准并行算法在运行时间上更具优势,而……

事件进展与其他报道

DistOptimize:分布式协议的自动优化

arXiv:2610.39017v1 发布类型:新 摘要:分布式共识与一致性协议难以分析,却又是云系统的基础;因此,在部署之前通常需要经过严格的证明与形式化验证。然而,同样的严格标准却很少应用于协议的修改——而这些修改在生产环境中频繁发生,极易危及系统的安全性。本文通过提出一种面向分布式协议的自动优化器——DistOptimize,消除了人为修改带来的安全风险。DistOptimize 将学术界提出的吞吐量优化方法移植到生产环境中使用的框架,并在 Rocq 语言中验证重写后的正确性,同时结合校准与基于 ILP 的搜索实现其自动化应用。

事件进展与其他报道

面向推理的大型语言模型的监督微调:综述

arXiv:2610.37681v1 发布类型:新 摘要:近年来,大型推理模型在解决复杂任务方面展现出卓越的能力,而基于长链式思维数据的监督微调(SFT)则成为激发并提升其推理能力的关键基础。尽管在改进与分析面向推理的监督微调方面取得了快速进展,但该领域仍缺乏一份系统性的综述来整合其快速增长的文献。为填补这一空白,我们对近期推理相关监督微调的最新进展进行了全面回顾,并从方法设计与分析研究的双重视角审视相关文献。首先,我们梳理了监督微调全流程中的方法学改进,并将其划分为以数据为中心的方法与以算法为中心的

事件进展与其他报道

TRACEs:面向分布式科学工作流的细粒度嵌入式溯源

arXiv:2610.39981v1 发布类型:新 摘要:大规模科学工作流运行于分布式高性能计算资源之上,这使得人们难以解释科学数据产品的生成过程,也难以理解为何相似的工作流执行会得到截然不同的结果。现有系统通常只关注分布式工作流的执行或溯源管理,很少将细粒度的溯源视为分布式科学数据产物的固有属性。我们提出了 TRACEs(可追溯的高级容器化执行运行时),这是一种适用于分布式容器化科学工作流的溯源架构,它将数据血统与执行上下文直接嵌入到每一个生成的数据产物中。通过将溯源与工作流编排解耦,TRACEs 将以产物为中心的溯源进行泛化

事件进展与其他报道

异构性何时带来收益?理解GPU与WSE系统的互补性

arXiv:2610.39222v1 发布类型:新 摘要:随着人工智能加速器架构日益多样化,将不同架构整合到统一系统中正逐渐成为一种新兴的异构计算范式。GPU与WSE在计算、内存和通信组织等方面存在显著差异,这既带来了架构上的互补性,也增加了额外的开销;然而,如何将这种异构性转化为实际的性能提升仍不明确。为填补这一空白,我们提出了一种分层基准测试方法,用于刻画GPU—WSE的异构执行特性及发挥互补性的条件,并构建了一个分析型性能模型,用以识别在何种情况下异构性会成为性能瓶颈,而在何种情况下则能带来系统级的性能提升。

事件进展与其他报道

FlatCake:一种用于大语言模型推理的扁平化KV缓存存储架构

arXiv:2610.38355v1 发布类型:新摘要:KV缓存复用能够加速大语言模型的推理,但现有系统将主机DRAM和NVMe SSD视为分层结构,其中DRAM充当中间缓存。然而,实际的大语言模型工作负载打破了这一分层结构的两个前提。首先,双模态复用使DRAM的时间过滤失效,因为工作负载要么由具有较长复用距离的一次性块主导,要么由超过DRAM容量的数GB级智能体会话主导,从而将SSD置于关键的读取路径上。其次,DRAM的暂存与按驱逐顺序布局导致SSD恢复出现瓶颈。为在途前缀保留主机暂存缓冲区会在负载下引发争用,进而中止预取操作;而增量式驱逐则会将会话的块分散到整个SSD上,阻碍大规模顺序读取。我们 p

事件进展与其他报道

KORA:面向人工智能工作负载的确定性优先执行控制

arXiv:2610.35869v1 发布类型:新 摘要:人工智能应用通常会在决定是否需要进行推理之前先调用模型。这种默认行为对于模糊的生成任务很有用,但与那些结构化、确定性、受策略约束、以查找为主或可直接验证的工作并不匹配。KORA 提出了确定性优先执行控制:一种位于推理前的控制层,它将请求表示为任务路径,优先尝试确定性或结构化的执行路径,验证路径结果,记录遥测数据,并仅在确定性处理不足时才切换到模型候选路径。本文将 KORA 介绍为一种确定性优先的执行控制架构,并基于可复现的基准测试和验证工作负载提供了有限的实证证据。在一项重

事件进展与其他报道

OpenESM:能量引导模型具有可扩展性,是基础学习者

arXiv:2610.33005v1 发布类型:新 摘要:基于能量的模型在特定领域任务中表现出良好的性能,但在建模通用场景时仍面临挑战。为弥合这一差距,我们设计了用于基础语言建模的能量引导模型(ESMs)。ESMs 将能量引导与标记生成整合于同一架构之中,利用能量引导的搜索来优化标记生成。具体而言,ESMs 首先在能量景观上优化潜在状态,随后基于优化后的潜在状态进行标记生成。通过在大规模语料库上开展此类能量引导的预训练,ESMs 学习到一种普遍有效的能量景观,其中有利的标记对应较低的能量值。为探究 ESMs 的规模扩展特性,我们对 ESM 进行了预训练

新闻源配图 · arXiv cs.CL
事件进展与其他报道

航点:针对CPU的GEMM分析建模

arXiv:2610.34914v1 发布类型:新 提要:高性能通用矩阵乘法(GEMM)的实现依赖于将GEMM分解为经过精心选择的分块,以达到峰值性能。我们提出了一种名为Waypoint的新分析模型,用于针对给定的硬件和输入矩阵形状自动确定最优的分块大小。Waypoint通过捕捉所有架构效应——包括与存储层次结构的交互、指令级并行以及多线程——来估算特定分块选择所能达到的性能。以这些估算值为代理,我们在可能的分块大小空间中进行搜索,从而找到能够最大化性能的分块尺寸。此外,Waypoint还有助于硬件设计人员在实验性硬件优化方案上估算其实际性能。

事件进展与其他报道

提炼、辩论、发现:以图谱提炼的洞见为多智能体研究构思奠定基础

arXiv:2610.33366v1 发布类型:新 摘要:大型语言模型(LLMs)正越来越多地被用于支持研究思路的生成与科学发现。多智能体辩论通过汇聚多元视角来制定研究构想,为这一任务提供了一种协作式方法。然而,一个关键挑战是如何赋予各智能体独特而有意义的专业知识,以引导其贡献。受研究人员在协作过程中借鉴已有研究经验的启发,我们提出了InsightAgents框架,该框架通过从相关论文的图谱中提炼洞见,构建基于文献的研究型智能体专长。在一条研究脉络中,这些洞见能够追踪研究方法的演进、揭示潜在假设,并识别尚未解决的难题。

事件进展与其他报道

ReMedI:用于可控分子优化的推理阶段精化与自蒸馏

arXiv:2610.32103v1 发布类型:新 摘要:在药物研发中,先导化合物的优化需要同时提升各项性能指标,例如提高渗透性并降低毒性,同时尽量减少骨架结构的改动,以免影响化合物的活性。基于强化学习的后训练方法,如 C-MORAL,通过微调分子语言模型,直接针对目标优化分子先导化合物,但这种方法依赖于昂贵的任务特定数据集,并且在实现多目标优化(MOO)方面面临诸多挑战。我们认为,预训练模型可能已经蕴含了有益的分子修饰信息,而零样本生成难以高效地触及这些信息。鉴于零样本生成的搜索能力有限,我们提出了一种高效的 Metropolis-Hastings 搜索策略,以……

事件进展与其他报道

云端的大型语言模型:关于架构、编排与推理的探讨

arXiv:2610.33475v1 发布类型:新 摘要:基础大型语言模型(LLM)在云数据中心的广泛部署,标志着从无状态深度学习向分布式、内存密集型生成式工作负载的根本性范式转变。然而,在严格的服务水平目标(SLO)下为海量基础模型提供服务,会暴露出关键的物理与系统瓶颈。这些挑战包括持续存在的高带宽存储器(HBM)墙、计算密集型预填充与内存带宽受限的解码之间的运行不对称、键值(KV)缓存的爆炸式增长、代价高昂的无服务器冷启动,以及硬件可靠性方面的漏洞。现有的文献综述仍局限于各层次的孤立视角,未能将底层加速器的虚拟化与集群……

事件进展与其他报道

从写作建议到稿件治理:一种用于学术修订的约束性转换框架

arXiv:2610.33001v1 发布类型:新 摘要:当合法的写作目标发生冲突时,学术修改便呈现出治理难题。写作过程与社会科学的研究表明,修改具有递归性,且措辞承载着认识论与学科层面的承诺。这些文献指出了若干重要约束,却未能明确在简洁性、发表形式或风格多样性与证据及主张边界发生冲突时,究竟应以何者为优先。本文将修改建模为一种在有序约束下的可接受性问题。任务相关的不变量、情境约束以及可变的呈现方式共同界定可接受的空间;而一项主张保持契约则将证据与判断与经授权的主张边界相联结。四项治理命题具体阐明了p

事件进展与其他报道

溶剂:用于多步逆合成的长 horizon 推理

arXiv:2610.32308v1 发布类型:新 摘要:多步逆合成反应需要通过一系列连续的反应步骤,将目标分子逐步转化为可购买的构建模块;近期的研究开始借助大型语言模型(LLM)的推理能力来解决这一任务。在最新进展中,LLM推理已进入长时序阶段:模型能够在相互依赖的各步之间持续追求目标、与环境交互并根据反馈进行调整。这一转变显著提升了LLM的能力,人工智能驱动的数学研究领域也由此取得了突破性进展。在此前沿领域,我们提出了 Solvent,一款拥有80亿参数的LLM,成功将长时序推理扩展至多步逆合成。通过两轮的后训练课程,Solvent学会了在迭代过程中穿插……

事件进展与其他报道

SUDO:从科学出版物到全球学术话语

arXiv:2610.33018v1 发布类型:新 摘要:学术知识图谱(SKGs)支持文献检索、科学发现以及智能体辅助研究。然而,大多数构建学术知识图谱的方法都预先规定了所要表示的知识单元,通常以学术实体或贡献层面的陈述为名,并且仅保留能够通过该单元表达的出版内容。这种选择导致了两种主导但截然不同的范式:以概念为中心的学术知识图谱侧重于保存实体及其局部关系,而以陈述为中心的学术知识图谱则聚焦于以句子形式呈现的高层次话语。在这两种情形下,图谱反映的都是所选定的抽取目标,而非论文实际如何构建并传达知识。我们提出了 SUDO——学术上层话语本体,它定义了知识的……

事件进展与其他报道

面向历史文献转录的OCR系统实体感知评估

arXiv:2610.33004v1 发布类型:新 提要:光学字符识别(OCR)对于历史档案的数字化至关重要,然而诸如字符错误率(CER)等标准评估指标并不一定能反映诸如姓名、日期和标识符等重要信息是否得以保留。在本研究中,我们从实体层面分析OCR错误,以此作为评估历史文献中OCR质量的补充视角。我们使用了一个公开的基准数据集,包含来自Berrutti档案馆的175份文档,并辅以5,209个经人工标注的实体提及,这些标注将在论文被接受后公布;在此基础上,我们比较了序列识别型OCR系统、专为OCR设计的视觉—语言模型以及通用型视觉—语言模型。除了全局转录准确率之外

事件进展与其他报道

利用稀疏历史进行搜索:基于不完整搜索日志与零成本代理的跨任务架构搜索

arXiv:2610.32179v1 发布类型:新 提要:神经架构搜索(NAS)成本高昂,但通过复用先前任务的知识,跨任务迁移能够有效降低成本。然而,现有方法在处理稀疏的搜索历史以及任务特定的迁移失败时面临困难。我们提出了一种风险稳健的策略,该策略通过基于冠军的初始化和联合的成对排序器预训练,将稀疏的源日志与零成本代理相结合。在 TransNAS-Bench-101 上,该方法显著缓解了严重的最差情况下的失败,使微观自动编码任务的最差10%排名从290降至43,宏观房间布局任务的最差10%排名从465降至45。在13个细胞空间目标上,该方法在平均性能和最差情况性能两方面均优于仅使用代理的排序器,并且在平均性能上仍保持竞争力。

事件进展与其他报道

FrontGI:基于小芯片多核系统的架构感知并行GNN推理

arXiv:2610.34911v1 发布类型:新 摘要:高性能计算的范畴已扩展至涵盖多种形态的机器学习任务。图神经网络(GNN)日益受到青睐,其应用领域不断拓展。随着图数据规模的持续增长,包括节点数量、边的数量以及嵌入维度的不断提升,DGL 和 PyG 等标准化库应运而生,旨在简化 GNN 的计算过程。这些库允许以高层次的抽象方式描述计算流程,从而显著提升开发者的生产效率。然而,随着处理器核心数的迅速增加以及多核架构的演进,这类库往往表现出较差的可扩展性,并且无法实

事件进展与其他报道

将Transformer理论付诸实践

arXiv:2610.32104v1 发布类型:新 摘要:为刻画Transformer架构的能力与局限性,人们已发展出若干形式化理论,这些理论分别采用不同的抽象方法,以捕捉该架构的不同特性。由于其底层假设与概念框架存在差异,这些理论在预测Transformer对哪些任务感到容易或困难时往往意见不一。我们梳理了七种关于Transformer能力的理论(Star-free、$\mathsf{AC}^0$、$\mathsf{TC}^0$、C-RASP、MPC、BAPO以及敏感性),并将其研究结果转化为一张通用的预测矩阵,覆盖一系列涉及不同计算结构的任务。我们还提供了新的理论成果,以完善这一矩阵。随后,我们对这些理论进行评估

事件进展与其他报道