跳到正文
AI NEWS JOURNAL
AI, IN PERSPECTIVE

搜索 AI 资讯

检索标题、摘要与正文,把分散的信息连起来。

按发布时间排序

云端的大型语言模型:关于架构、编排与推理的探讨

arXiv:2610.33475v1 发布类型:新 摘要:基础大型语言模型(LLM)在云数据中心的广泛部署,标志着从无状态深度学习向分布式、内存密集型生成式工作负载的根本性范式转变。然而,在严格的服务水平目标(SLO)下为海量基础模型提供服务,会暴露出关键的物理与系统瓶颈。这些挑战包括持续存在的高带宽存储器(HBM)墙、计算密集型预填充与内存带宽受限的解码之间的运行不对称、键值(KV)缓存的爆炸式增长、代价高昂的无服务器冷启动,以及硬件可靠性方面的漏洞。现有的文献综述仍局限于各层次的孤立视角,未能将底层加速器的虚拟化与集群……

事件进展与其他报道

溶剂:用于多步逆合成的长 horizon 推理

arXiv:2610.32308v1 发布类型:新 摘要:多步逆合成反应需要通过一系列连续的反应步骤,将目标分子逐步转化为可购买的构建模块;近期的研究开始借助大型语言模型(LLM)的推理能力来解决这一任务。在最新进展中,LLM推理已进入长时序阶段:模型能够在相互依赖的各步之间持续追求目标、与环境交互并根据反馈进行调整。这一转变显著提升了LLM的能力,人工智能驱动的数学研究领域也由此取得了突破性进展。在此前沿领域,我们提出了 Solvent,一款拥有80亿参数的LLM,成功将长时序推理扩展至多步逆合成。通过两轮的后训练课程,Solvent学会了在迭代过程中穿插……

事件进展与其他报道

DMAIC-Bench:面向多阶段分析任务中智能体的自我反思与自我约束

arXiv:2610.32305v1 发布类型:新 摘要:多阶段分析任务要求大型语言模型(LLM)代理利用中间证据来决定是继续、重定向还是停止。自我反思——即代理对其输出进行批判性评估——已得到广泛研究,然而这种反思并不能说明证据是否改变了下一步行动。我们将这一能力称为“自我约束”。现有的代理基准测试大多仅衡量任务完成度或输出质量,而未对这一能力进行检验。DMAIC-Bench 通过围绕精益六西格玛明确的统计前提条件构建的、涵盖四个行业领域中15个工业案例的97个种子任务,对此进行了评估。成对的反事实变体在相同的工作流位置上要求采取相反的操作,从而能够区分有依据的自我约束与无差别的停止行为。我们采用……对执行轨迹进行评估。

事件进展与其他报道

LeafSkill:用于递归LLM智能体的高效叶级动作定位

arXiv:2610.32412v1 发布类型:新 摘要:递归式大型语言模型(LLM)智能体通过分解、执行与环境反馈来解决长周期任务。然而,在生成一个原子级子任务后,它们往往再次调用同一款大型模型,将熟悉的指令转化为可执行的动作。我们观察到,高层规划具有任务特定性,而底层动作的具身化则在不同任务间反复出现,并且能够对照环境允许的动作进行验证。为此,我们提出了 LeafSkill,这是一种外部复用层,它能够检索语义相关的具身化经验,将动作模板绑定到当前对象与可执行动作上,并借助一个轻量级的 17 亿参数选择器来决定采用已绑定的动作,或将未发生变化的子任务交由原始智能体继续处理。技能始终处于外

事件进展与其他报道

超越启发式与商业导航:一种由人工智能增强的救护车行程时间估算决策支持系统

arXiv:2610.31968v1 发布类型:新 摘要:准确估算救护车行驶时间对于紧急医疗调度至关重要,然而现有的决策支持方法往往依赖于静态查表或对救护车与普通乘用车行驶时间差异的简化假设。例如,这些方法通常假定救护车的行驶速度仅比普通乘用车快一个固定比例(如5%)。然而,这类假设很少经过真实救护车运行数据的验证,也难以充分反映行程优先级、时间背景以及起点—终点等因素的影响。我们利用瑞典斯科讷地区的历史救护车出行数据,有效弥补了上述局限性。我们的分析表明,救护车的行驶时间在不同时段、不同日期之间存在显著差异,并且……

新闻源配图 · arXiv cs.LG
事件进展与其他报道

利用稀疏历史进行搜索:基于不完整搜索日志与零成本代理的跨任务架构搜索

arXiv:2610.32179v1 发布类型:新 提要:神经架构搜索(NAS)成本高昂,但通过复用先前任务的知识,跨任务迁移能够有效降低成本。然而,现有方法在处理稀疏的搜索历史以及任务特定的迁移失败时面临困难。我们提出了一种风险稳健的策略,该策略通过基于冠军的初始化和联合的成对排序器预训练,将稀疏的源日志与零成本代理相结合。在 TransNAS-Bench-101 上,该方法显著缓解了严重的最差情况下的失败,使微观自动编码任务的最差10%排名从290降至43,宏观房间布局任务的最差10%排名从465降至45。在13个细胞空间目标上,该方法在平均性能和最差情况性能两方面均优于仅使用代理的排序器,并且在平均性能上仍保持竞争力。

事件进展与其他报道

一种基于统一排队模型的框架,用于在突发性工作负载下对无服务器自动伸缩策略进行比较评估

arXiv:2610.35564v1 发布类型:新 摘要:无服务器计算平台必须在适应高度突发且不可预测的工作负载的同时,确保服务质量(QoS)。为应对工作负载的波动并满足QoS要求及服务等级协议(SLA),这些平台依赖于资源的自动扩展。商业化的函数即服务(FaaS)平台采用不同的自动伸缩策略,以动态调整活跃函数实例的数量和可用的处理能力。在本研究中,我们对三种具有代表性的自动伸缩策略进行了建模与比较:按请求伸缩(SPR)、并发级别伸缩(CLS)以及基于指标的伸缩(MBS)。为了实现独立于各厂商特定实现的系统化评估,我们……

事件进展与其他报道

Oddin:通过图像生成的自蒸馏实现统一多模态模型中的潜在视觉推理

arXiv:2610.33062v1 发布类型:新 摘要:统一的大型多模态模型(ULMMs)能够通过交错进行的文本-图像生成来执行视觉推理,但生成显式的中间图像会带来显著的计算开销。尽管视觉潜在推理可以解决这一问题,但现有方法大多依赖于无法进行视觉生成的视觉-语言模型(VLMs)。我们提出了一种名为Oddin的新框架,能够在ULMMs中实现潜在的视觉推理。Oddin用紧凑的潜在标记取代中间图像,这些标记完全由理解分支处理,而生成分支则专门用于生成最终输出图像。我们通过离线自蒸馏训练该模型,包含三项优化目标:最终图像生成损失、文本蒸馏损失以及交叉熵损失,用于

事件进展与其他报道

FrontGI:基于小芯片多核系统的架构感知并行GNN推理

arXiv:2610.34911v1 发布类型:新 摘要:高性能计算的范畴已扩展至涵盖多种形态的机器学习任务。图神经网络(GNN)日益受到青睐,其应用领域不断拓展。随着图数据规模的持续增长,包括节点数量、边的数量以及嵌入维度的不断提升,DGL 和 PyG 等标准化库应运而生,旨在简化 GNN 的计算过程。这些库允许以高层次的抽象方式描述计算流程,从而显著提升开发者的生产效率。然而,随着处理器核心数的迅速增加以及多核架构的演进,这类库往往表现出较差的可扩展性,并且无法实

事件进展与其他报道

前缀键值对的重要性:在循环语言模型中用于自推测解码的RIPE缓存

arXiv:2610.34436v1 发布类型:新 摘要:循环语言模型在每个标记上会运行 $R$ 轮层,因此其键值(KV)缓存为每递归层保存 $R$ 个平面,而自推测解码(先用几轮进行初步推断,再用全部 $R$ 轮验证)会读取所有这些平面。我们发现,前缀键值的影响主要体现在较晚的阶段:在扰动幅度相同的情况下,第 25 至 32 轮的敏感度分别是第 2 至 9 轮的 $e^{15.0}$ 倍(Huginn-0125)和 $e^{12.8}$ 倍(Raven-Llama),且各平面随循环次数呈几何级数逼近最后一个平面,每轮分别达到 0.88 和 0.81。至于是否仅保留最深层的平面即可,这取决于晚期平面的成熟程度:在 Raven 上,仅存储最深层平面与从 bf16 转换为 fp32 的效果几乎无差异;而在 Huginn 上,仅有 1% 的位置就贡献了其误差的 74%。我们将这一发现转化为 RIPE,该方法存储最深层的

事件进展与其他报道

何时停止惩罚行为?用于VLA强化学习的鞅GRPO

arXiv:2610.32431v1 发布类型:新 摘要:一次失败的视觉—语言—动作(VLA)展开并不意味着所有动作都导致了失败。然而,在群体相对策略优化(GRPO)中,展开中的所有动作都会被赋予单一的轨迹级优势。这样一来,那些本可带来帮助的恢复尝试也可能与其试图纠正的错误一同受到惩罚。我们利用成功概率与策略得分的鞅理论,刻画了用于失败反馈的理想停止条件。在这些停止点上,基于保留信息的条件期望下,被移除的梯度贡献的条件期望为零。因此,截断操作既能保持参考GRPO群体梯度估计器的期望值,又能降低其协方差。其中一种停止情形发生在成功条件概率达到……时。

事件进展与其他报道

将Transformer理论付诸实践

arXiv:2610.32104v1 发布类型:新 摘要:为刻画Transformer架构的能力与局限性,人们已发展出若干形式化理论,这些理论分别采用不同的抽象方法,以捕捉该架构的不同特性。由于其底层假设与概念框架存在差异,这些理论在预测Transformer对哪些任务感到容易或困难时往往意见不一。我们梳理了七种关于Transformer能力的理论(Star-free、$\mathsf{AC}^0$、$\mathsf{TC}^0$、C-RASP、MPC、BAPO以及敏感性),并将其研究结果转化为一张通用的预测矩阵,覆盖一系列涉及不同计算结构的任务。我们还提供了新的理论成果,以完善这一矩阵。随后,我们对这些理论进行评估

事件进展与其他报道

DualPace:用于大语言模型推理的解耦调度与GPU-CPU协同解码

arXiv:2610.33501v1 发布类型:新 提要:大型语言模型(LLM)的推理服务依赖于批处理以提升推理吞吐量,但键值(KV)缓存会随序列长度增长,从而限制了GPU上的并发度。通过CPU卸载,可以利用主机内存扩展KV缓存容量,然而现有系统在很大程度上仍受GPU瓶颈制约:只有当GPU调度器能够提供合适的重叠机会时,CPU驻留的请求才能取得进展。因此,主机内存与CPU计算无法作为独立的推理资源发挥作用,导致负载下CPU端进度波动加剧,并使尾部词间延迟(ITL)显著增加。我们提出了DualPace,一种将主机转变为独立调度解码引擎的LLM推理运行时。DualPace在两个引擎之间划分了调度权:GPU引擎

事件进展与其他报道

PhaseBreak:针对未经授权的图像转视频动画的主动时序保护

arXiv:2610.33070v1 发布类型:新 摘要:图像到视频(I2V)扩散模型能够为单张肖像或照片赋予动态效果,从而使得共享的图像在未经主体授权的情况下被重新用于运动合成。我们研究针对此类用途的主动视觉保护机制:在图像发布之前,其所有者施加一种有界扰动,既保持共享工作流不变,又干扰下游的运动生成过程。现有的频谱扰动目标会全局性地削弱时序特征表示,因此难以对细微或空间局部化的运动进行有效控制。我们的核心思路是:生成的动态不仅取决于时序特征的强度,还与特征事件的发生顺序密切相关。我们提出了一种白盒式的频谱重定时保护方法——PhaseBreak。

事件进展与其他报道

TACS-RF:工具驱动的智能体驱动射频与毫米波模块电路综合

arXiv:2610.31882v1 发布类型:新 摘要:我们提出了TACS-RF框架——一种由工具驱动的智能体驱动射频与毫米波模块电路综合方法。在该框架中,大型语言模型(LLM)编码智能体(Claude Opus 4.8)直接调用业界标准的电子设计自动化(EDA)工具,如Cadence Virtuoso/Spectre、Calibre、Cadence EMX以及Ansys HFSS,用于设计射频与毫米波模块。我们通过在90 nm SiGe BiCMOS工艺下对一款240–251 GHz亚太赫兹发射机进行智能体驱动设计,对该框架进行了验证。该智能体半自主地完成了各子模块的设计,包括具备二次谐波提取功能的60 GHz推挽式Colpitts压控振荡器、多级差分共栅功率驱动器、推挽式倍频器、差分蝴蝶天线以及所有级间匹配网络。

TACS-RF: Tool-driven Agentic Circuit Synthesis of RF and mmWave Modules
事件进展与其他报道

RSI-Opt:用于模型训练的递归自我改进优化代理

arXiv:2610.32026v1 发布类型:新 摘要:传统的神经网络训练通常遵循预先设定的优化方案,为此我们设计了一种LLM智能体,用于监控训练过程并随训练进展调整优化器参数;然而,固定不变的智能体策略无法在多次运行之间积累经验。我们提出了RSI-Opt,一种即插即用的递归自我改进优化器智能体,它能够不断演化指导这一过程的知识体系:包括一个提示、一套操作规程、一个经过验证的优化器代码库,以及一套决策节奏。一个元智能体基于先前运行中的证据重写这一策略,同时通过存档机制保留已评估的策略,以供后续进一步演化。在三项训练任务上历经五代迭代后,这些元智能体逐步形成了可复用的操作流程与代码,并自主开展其自身的…

RSI-Opt: Recursive Self-Improvement Optimizer Agents For Model Training
事件进展与其他报道

Ψ-0.6:在统一的视觉-语言世界模型中自适应的思想流

arXiv:2610.32177v1 发布类型:新 摘要:人类在面对不断演化的复杂问题时,能够灵活地将多种推理形式加以组合,从而对物理世界进行推理。实现这种灵活性是人工智能领域的一项重大开放性挑战:当前的各类能力往往仍被分割在不同的专用模型中,限制了它们之间的组合方式以及针对特定任务的协同适配能力。我们提出了Ψ-0.6,这是一种统一的视觉—语言世界模型,它能够在一种名为“思维流”的共享推理过程中,自适应地整合感知、语言、几何与仿真等模块。这些思维流交织着图像、文本以及关于几何与运动的显式表示,而模型可通过统一的标记接口生成并解释所有这些信息。Ψ-0.6在多视角空间推理的零样本任务上超越了当前领先的开放权重模型。

事件进展与其他报道

DirCast:通过单一的流媒体视频语言模型实现电竞赛事的实时导播与解说

arXiv:2610.31734v1 发布类型:新 基本摘要:一场电子竞技的实时直播需要一位导演来决定哪路摄像机画面该播出,以及一位解说员在每一秒都对这一选择进行解说,而他们往往无法预知接下来会发生什么。流媒体视频语言模型已经学会了进行赛事解说,但仅限于由人类导演事先制作好的直播内容。我们研究的是实时直播制作场景:模型仅接收所有选手的原始摄像头画面,必须完全依靠过往信息同时完成导播与解说任务。我们提出了 DirCast,一种能够同时胜任这两项工作的单一流媒体视频语言模型。它每秒以低分辨率扫描所有摄像头,通过“保留”或“切换”的决策机制判断是否以及何时切镜,并在发言前以高分辨率读取所选画面。其上下文会记录哪些内容已播出,以及哪些…

DirCast: Live Esports Directing and Commentary with a Single Streaming Video-Language Model
事件进展与其他报道

InferSlice:一种面向电信广域网的、由SLO驱动的LLM推理参考架构

arXiv:2610.32638v1 发布类型:新 摘要:大型语言模型(LLM)推理正日益作为企业和交互式应用的核心服务被部署,但主权、合规、延迟以及资源本地化等方面的要求,可能限制集中式云部署的适用性。电信运营商提供地理分布式的计算与网络基础设施,以应对这些约束。然而,现有的 LLM 服务框架主要面向紧密耦合的数据中心设计,对协调地理分布且异构的资源支持有限。我们提出了 InferSlice,一种面向电信基础设施、以服务等级目标(SLO)为导向的 LLM 推理参考架构,集成了网络切片、GPU 分区、弹性服务与可观测性等功能。

InferSlice: A Reference Architecture for SLO-driven LLM Inference over a Telco Wide-Area Network
事件进展与其他报道

面向开放ISA的超级计算:RISC-V、Arm与x86架构在HPC工作负载上的比较研究

arXiv:2610.32632v1 发布类型:新 摘要:RISC‑V 正在成为高性能计算(HPC)领域的候选架构,但其与成熟的 x86 和 Arm 处理器相比的竞争力仍难以评估,因为现有研究采用的平台、工作负载和方法各不相同,且很少考虑能效。我们的工作基于统一的软件栈和评估方法,对当前主流的 HPC RISC‑V、Arm 和 x86 处理器进行了全面评测。我们详细分析了 Sophgo SG2044,并将其与 NVIDIA Grace CPU 超级芯片以及 Intel Xeon Platinum 8480+ 在四项 HPC 基准测试(STREAM、HPL、HPL‑MxP 和 HPCG)以及四款典型应用(iPIC3D、PLUTO、OpenFOAM 和 llama.cpp)上进行了对比。用于本研究的 HPL‑MxP 版本链接至 OpenBLAS,并以此为基础进行构建和测试……

Toward Open ISA Supercomputing: A Comparative Study of RISC-V, Arm, and x86 Architectures on HPC Workloads
事件进展与其他报道