跳到正文
AI NEWS JOURNAL
AI, IN PERSPECTIVE

全部 AI 动态

保留完整资讯流,用来源、主题和时间找到你关心的消息。

按发布时间排序

Oddin:通过图像生成的自蒸馏实现统一多模态模型中的潜在视觉推理

arXiv:2610.33062v1 发布类型:新 摘要:统一的大型多模态模型(ULMMs)能够通过交错进行的文本-图像生成来执行视觉推理,但生成显式的中间图像会带来显著的计算开销。尽管视觉潜在推理可以解决这一问题,但现有方法大多依赖于无法进行视觉生成的视觉-语言模型(VLMs)。我们提出了一种名为Oddin的新框架,能够在ULMMs中实现潜在的视觉推理。Oddin用紧凑的潜在标记取代中间图像,这些标记完全由理解分支处理,而生成分支则专门用于生成最终输出图像。我们通过离线自蒸馏训练该模型,包含三项优化目标:最终图像生成损失、文本蒸馏损失以及交叉熵损失,用于

事件进展与其他报道

FrontGI:基于小芯片多核系统的架构感知并行GNN推理

arXiv:2610.34911v1 发布类型:新 摘要:高性能计算的范畴已扩展至涵盖多种形态的机器学习任务。图神经网络(GNN)日益受到青睐,其应用正不断拓展至各个领域。随着图数据规模的持续增长,包括节点数量、边的数量以及嵌入维度的不断提升,诸如DGL和PyG等标准化库应运而生,旨在简化GNN的计算过程。这些库允许以高层次的抽象方式描述计算流程,从而显著提升开发者的生产效率。然而,随着处理器核心数的迅速增加以及多核架构的演进,这些库往往表现出较差的可扩展性,并且无法实

事件进展与其他报道

前缀键值对的重要性:在循环语言模型中用于自推测解码的RIPE缓存

arXiv:2610.34436v1 发布类型:新 摘要:循环语言模型在每个标记上会运行 $R$ 轮层,因此其键值(KV)缓存为每递归层保存 $R$ 个平面,而自推测解码(先用几轮进行初步推断,再用全部 $R$ 轮验证)会读取所有这些平面。我们发现,前缀键值的影响主要体现在较晚的阶段:在扰动幅度相同的情况下,第 25 至 32 轮的敏感度分别是第 2 至 9 轮的 $e^{15.0}$ 倍(Huginn-0125)和 $e^{12.8}$ 倍(Raven-Llama),且各平面随循环次数呈几何级数逼近最后一个平面,每轮分别达到 0.88 和 0.81。至于是否仅保留最深层的平面即可,这取决于晚期平面的成熟程度:在 Raven 上,仅存储最深层平面与从 bf16 转换为 fp32 的效果几乎无差异;而在 Huginn 上,仅有 1% 的位置就贡献了其误差的 74%。我们将这一发现转化为 RIPE,该方法存储最深层的

事件进展与其他报道

何时停止惩罚行为?用于VLA强化学习的鞅GRPO

arXiv:2610.32431v1 发布类型:新 摘要:一次失败的视觉—语言—动作(VLA)展开并不意味着所有动作都导致了失败。然而,在群体相对策略优化(GRPO)中,展开中的所有动作都会被赋予单一的轨迹级优势。这样一来,那些本可带来帮助的恢复尝试也可能与其试图纠正的错误一同受到惩罚。我们利用成功概率与策略得分的鞅理论,刻画了用于失败反馈的理想停止条件。在这些停止点上,基于保留信息的条件期望下,被移除的梯度贡献的条件期望为零。因此,截断操作既能保持参考GRPO群体梯度估计器的期望值,又能降低其协方差。其中一种停止情形发生在成功条件概率达到……时。

事件进展与其他报道

将Transformer理论付诸实践

arXiv:2610.32104v1 发布类型:新 摘要:为刻画Transformer架构的能力与局限性,人们已发展出若干形式化理论,这些理论分别采用不同的抽象方法,以捕捉该架构的不同特性。由于其底层假设与概念框架存在差异,这些理论在预测Transformer对哪些任务感到容易或困难时往往意见不一。我们梳理了七种关于Transformer能力的理论(Star-free、$\mathsf{AC}^0$、$\mathsf{TC}^0$、C-RASP、MPC、BAPO以及敏感性),并将其研究结果转化为一张通用的预测矩阵,覆盖一系列涉及不同计算结构的任务。我们还提供了新的理论成果,以完善这一矩阵。随后,我们对这些理论进行评估

事件进展与其他报道

DualPace:用于大语言模型推理的解耦调度与GPU-CPU协同解码

arXiv:2610.33501v1 发布类型:新 提要:大型语言模型(LLM)的推理服务依赖于批处理以提升推理吞吐量,但键值(KV)缓存会随序列长度增长,从而限制了GPU上的并发度。通过CPU卸载,可以利用主机内存扩展KV缓存容量,然而现有系统在很大程度上仍受GPU瓶颈制约:只有当GPU调度器能够提供合适的重叠机会时,CPU驻留的请求才能取得进展。因此,主机内存与CPU计算无法作为独立的推理资源发挥作用,导致负载下CPU端进度波动加剧,并使尾部词间延迟(ITL)显著增加。我们提出了DualPace,一种将主机转变为独立调度解码引擎的LLM推理运行时。DualPace在两个引擎之间划分了调度权:GPU引擎

事件进展与其他报道

PhaseBreak:针对未经授权的图像转视频动画的主动时序保护

arXiv:2610.33070v1 发布类型:新 摘要:图像到视频(I2V)扩散模型能够为单张肖像或照片赋予动态效果,从而使得共享的图像在未经主体授权的情况下被重新用于运动合成。我们研究针对此类用途的主动视觉保护机制:在图像发布之前,其所有者施加一种有界扰动,既保持共享工作流不变,又干扰下游的运动生成过程。现有的频谱扰动目标会全局性地削弱时序特征表示,因此难以对细微或空间局部化的运动进行有效控制。我们的核心思路是:生成的动态不仅取决于时序特征的强度,还与特征事件的发生顺序密切相关。我们提出了一种白盒式的频谱重定时保护方法——PhaseBreak。

事件进展与其他报道

TACS-RF:工具驱动的智能体驱动射频与毫米波模块电路综合

arXiv:2610.31882v1 发布类型:新 摘要:我们提出了TACS-RF框架——一种由工具驱动的智能体驱动射频与毫米波模块电路综合方法。在该框架中,大型语言模型(LLM)编码智能体(Claude Opus 4.8)直接调用业界标准的电子设计自动化(EDA)工具,如Cadence Virtuoso/Spectre、Calibre、Cadence EMX以及Ansys HFSS,用于设计射频与毫米波模块。我们通过在90 nm SiGe BiCMOS工艺下对一款240–251 GHz亚太赫兹发射机进行智能体驱动设计,对该框架进行了验证。该智能体半自主地完成了各子模块的设计,包括具备二次谐波提取功能的60 GHz推挽式Colpitts压控振荡器、多级差分共栅功率驱动器、推挽式倍频器、差分蝴蝶天线以及所有级间匹配网络。

TACS-RF: Tool-driven Agentic Circuit Synthesis of RF and mmWave Modules
事件进展与其他报道

这位十七岁的少年写下了哪个答案?——六款前沿语言模型中作者年龄误归因、信心校准失当与非纠正性自我解释的行为学案例研究

arXiv:2610.31946v1 发布类型:新 摘要:三名学生亲手回答了同一道考试题目:“什么是幸福?你幸福吗?”他们在收集时的年龄分别为17岁、28岁和45岁。其中,17岁的学生的答案措辞谨慎、表达正式。在要求将每份答案匹配到特定年龄与性别标签的任务中,大多数前沿语言模型都自信地将其归为成年人。本文报告了一项针对这一失败现象的结构化案例研究,涉及六种模型:Claude Fable 5、Gemini 3.1 Pro、GPT-5.6 Sol、Grok 4.5、GPT-4o(2024)以及 DeepSeek V4。我们共进行了1,081次API调用,在六个实验条件下对3,225条回复进行了评分,这些条件分别调整了表述方式、披露格式以及受众意识相关指令。在匹配任务中,六种模型中有三种的表现接近或处于随机水平(1/3),同时报告的准确率却高达73%至88%。

事件进展与其他报道

RSI-Opt:用于模型训练的递归自我改进优化代理

arXiv:2610.32026v1 发布类型:新 摘要:传统的神经网络训练通常遵循预先设定的优化方案,为此我们设计了一种LLM智能体,用于监控训练过程并随训练进展调整优化器参数;然而,固定不变的智能体策略无法在多次运行之间积累经验。我们提出了RSI-Opt,一种即插即用的递归自我改进优化器智能体,它能够不断演化指导这一过程的知识体系:包括一个提示、一套操作规程、一个经过验证的优化器代码库,以及一套决策节奏。一个元智能体基于先前运行中的证据重写这一策略,同时通过存档机制保留已评估的策略,以供后续进一步演化。在三项训练任务上历经五代迭代后,这些元智能体逐步形成了可复用的操作流程与代码,并自主开展其自身的…

RSI-Opt: Recursive Self-Improvement Optimizer Agents For Model Training
事件进展与其他报道

篡改的机器学习:评估大型语言模型对机器学习研究的判断

arXiv:2610.32114v1 发布类型:新 摘要:加速人工智能对齐研究进展的一种方法,是将对齐研究的部分环节实现自动化。这需要能够可靠地完成难以监督的研究任务的系统,包括识别研究方案中的缺陷,以及评估某项实验设计是否支持其预期结论。为评估这一能力,我们提出了“Tampered ML”基准,包含1,858个项目对,每一对均由一篇已发表的机器学习论文重构而成的实验方案,以及一个经过轻微修改、引入特定方法学缺陷的反事实版本组成。模型需在两种呈现顺序下均能识别出方法上更为合理的方案。一项针对分层抽样的人工验证研究估计,其中86%的项…

事件进展与其他报道

Ψ-0.6:在统一的视觉-语言世界模型中自适应的思想流

arXiv:2610.32177v1 发布类型:新 摘要:人类在面对不断演化的复杂问题时,能够灵活地将多种推理形式加以组合,从而对物理世界进行推理。实现这种灵活性是人工智能领域的一项重大开放性挑战:当前的各类能力往往仍被分割在不同的专用模型中,限制了它们之间的组合方式以及针对特定任务的协同适配能力。我们提出了Ψ-0.6,这是一种统一的视觉—语言世界模型,它能够在一种名为“思维流”的共享推理过程中,自适应地整合感知、语言、几何与仿真等模块。这些思维流交织着图像、文本以及关于几何与运动的显式表示,而模型可通过统一的标记接口生成并解释所有这些信息。Ψ-0.6在多视角空间推理的零样本任务上超越了当前领先的开放权重模型。

事件进展与其他报道

DirCast:通过单一的流媒体视频语言模型实现电竞赛事的实时导播与解说

arXiv:2610.31734v1 发布类型:新 基本摘要:一场电子竞技的实时直播需要一位导演来决定哪路摄像机画面该播出,以及一位解说员在每一秒都对这一选择进行解说,而他们往往无法预知接下来会发生什么。流媒体视频语言模型已经学会了进行赛事解说,但仅限于由人类导演事先制作好的直播内容。我们研究的是实时直播制作场景:模型仅接收所有选手的原始摄像头画面,必须完全依靠过往信息同时完成导播与解说任务。我们提出了 DirCast,一种能够同时胜任这两项工作的单一流媒体视频语言模型。它每秒以低分辨率扫描所有摄像头,通过“保留”或“切换”的决策机制判断是否以及何时切镜,并在发言前以高分辨率读取所选画面。其上下文会记录哪些内容已播出,以及哪些…

DirCast: Live Esports Directing and Commentary with a Single Streaming Video-Language Model
事件进展与其他报道

SAGE基准与GAR框架发布:推动多模态语义对齐评估

2026年10月26日,arXiv发布论文arXiv:2610.31838v1,提出Sense-Aligned Grounding Evaluation(SAGE)——一个统一的10候选图像选择基准,并配套训练无关的Gloss-Augmented Reasoning(GAR)框架,用于跨名词、动词和实体中心的多模态接地评估。

新闻源配图 · arXiv cs.CL

推荐理由:该研究首次将VWSD、VerSe和WikiDiverse三类任务统一为术语中心的接地评测协议,引入混淆难负样本与上下文交换诊断机制,并通过实证表明定义增强与约束引导推理的协同可显著提升Hits@1指标(65.90→71.22),为多模态语义对齐提供了更细粒度、可解释的评估新范式。

事件进展与其他报道

InferSlice:一种面向电信广域网的、由SLO驱动的LLM推理参考架构

arXiv:2610.32638v1 发布类型:新 摘要:大型语言模型(LLM)推理正日益作为企业和交互式应用的核心服务被部署,但主权、合规、延迟以及资源本地化等方面的要求,可能限制集中式云部署的适用性。电信运营商提供地理分布式的计算与网络基础设施,以应对这些约束。然而,现有的 LLM 服务框架主要面向紧密耦合的数据中心设计,对协调地理分布且异构的资源支持有限。我们提出了 InferSlice,一种面向电信基础设施、以服务等级目标(SLO)为导向的 LLM 推理参考架构,集成了网络切片、GPU 分区、弹性服务与可观测性等功能。

InferSlice: A Reference Architecture for SLO-driven LLM Inference over a Telco Wide-Area Network
事件进展与其他报道

超越该说什么:基于内心想法的狼人角色主动发言时机选择

arXiv:2610.32107v1 发布类型:新 摘要:参与对话不仅涉及决定该说些什么,还涉及是否应该开口。在诸如狼人杀这样的环境中,由于参与者利益相冲突,这种判断显得尤为重要,因为无论是发言还是沉默,都会受到他人的解读与评判。因此,对于一个参与狼人杀游戏的 LLM 智能体而言,何时发言以及说什么至关重要。在本研究中,我们介绍了一款专为 AIWolfDial 共享任务中的“随时发言赛道”开发的狼人杀 AI 智能体。我们的系统基于现有的 Inner Thoughts 框架,通过生成内部思考并评估每种想法的价值,来决定对话中的发言时机。

事件进展与其他报道

面向开放ISA的超级计算:RISC-V、Arm与x86架构在HPC工作负载上的比较研究

arXiv:2610.32632v1 发布类型:新 摘要:RISC‑V 正在成为高性能计算(HPC)领域的候选架构,但其与成熟的 x86 和 Arm 处理器相比的竞争力仍难以评估,因为现有研究采用的平台、工作负载和方法各不相同,且很少考虑能效。我们的工作基于统一的软件栈和评估方法,对当前主流的 HPC RISC‑V、Arm 和 x86 处理器进行了全面评测。我们详细分析了 Sophgo SG2044,并将其与 NVIDIA Grace CPU 超级芯片以及 Intel Xeon Platinum 8480+ 在四项 HPC 基准测试(STREAM、HPL、HPL‑MxP 和 HPCG)以及四款典型应用(iPIC3D、PLUTO、OpenFOAM 和 llama.cpp)上进行了对比。用于本研究的 HPL‑MxP 版本链接至 OpenBLAS,并以此为基础进行构建和测试……

Toward Open ISA Supercomputing: A Comparative Study of RISC-V, Arm, and x86 Architectures on HPC Workloads
事件进展与其他报道

实时分区控制中的零样本协同认知受限伙伴

arXiv:2610.31726v1 发布类型:新 摘要:有效的人机协作需要能够与不可预测的人类伙伴进行协调的智能体。通过实时人类反馈或大规模行为数据集进行强化学习成本高昂,而纯模拟训练则容易过拟合于人工设定的规范,在与真实人类的零样本协作中往往表现不佳。我们提出了一种针对认知受限伙伴训练协作智能体的框架:这些模拟伙伴的多样性源于基于人类生理学文献的程序化约束,具体包括反应延迟和感知局限,而非依赖奖励塑造或历史训练中的关键节点。在经过改造的月球着陆器环境中,我们报告了初步证据,表明这些伙伴的表现更接近r

Cognitively Constrained Partners for Zero-Shot Coordination in Real-Time Partitioned Control
事件进展与其他报道

超越策略内与策略外:LLM智能体蒸馏应在何种层次上遵循学生模型?

arXiv:2610.31918v1 发布类型:新 摘要:对交互式大型语言模型代理进行蒸馏时,需要在教师生成的示范与学生生成的经验之间做出选择,这大致对应于离策略蒸馏与在策略蒸馏。尽管两者都被证明是有效的,但我们认为这种区分本质上具有层次性:引发交互历史的策略未必与生成当前动作的标记前缀的策略相同。我们提出了一种分层代理蒸馏框架,将这两种层次的在策略性加以形式化,并允许对其配对方式、混合比例以及训练计划进行显式控制。我们通过自蒸馏来研究这一问题,在自蒸馏中,冻结的教师能够获得学生无法获取的任务指导,而

Beyond On-Policy vs. Off-Policy: At What Level Should LLM Agent Distillation Follow the Student?
事件进展与其他报道

迁移作为稳态执行原语:一种用于近地轨道虚拟静止状态的运行时环境

arXiv:2610.32720v1 发布类型:新 提要:低地球轨道(LEO)卫星巨型星座为对时延敏感的地球同步应用提供了在轨边缘计算能力,但卫星的运动使视距通信窗口被压缩至仅几分钟。为保持逻辑上的地理邻近性,一种被称为“虚拟静止性”(VS)的范式要求应用程序在星座中不断跨过经过的卫星进行迁移。传统的实时迁移机制仅针对单个发起的重定位或复制操作进行优化,而未能满足轨道运动所必需的连续宿主机间切换需求。我们重新将实时迁移表述为一种稳态执行模型,并提出了一种全新的虚拟静止性运行时范式。我们形式化了连续迁移的可行性……

Migration as a Steady-State Execution Primitive: A Runtime for Virtual Stationarity in Low-Earth Orbit
事件进展与其他报道