跳到正文
AI NEWS JOURNAL
AI, IN PERSPECTIVE

搜索 AI 资讯

检索标题、摘要与正文,把分散的信息连起来。

按发布时间排序

Oddin:通过图像生成的自蒸馏实现统一多模态模型中的潜在视觉推理

arXiv:2610.33062v1 发布类型:新 摘要:统一的大型多模态模型(ULMMs)能够通过交错进行的文本-图像生成来执行视觉推理,但生成显式的中间图像会带来显著的计算开销。尽管视觉潜在推理可以解决这一问题,但现有方法大多依赖于无法进行视觉生成的视觉-语言模型(VLMs)。我们提出了一种名为Oddin的新框架,能够在ULMMs中实现潜在的视觉推理。Oddin用紧凑的潜在标记取代中间图像,这些标记完全由理解分支处理,而生成分支则专门用于生成最终输出图像。我们通过离线自蒸馏训练该模型,包含三项优化目标:最终图像生成损失、文本蒸馏损失以及交叉熵损失,用于

事件进展与其他报道

FrontGI:基于小芯片多核系统的架构感知并行GNN推理

arXiv:2610.34911v1 发布类型:新 摘要:高性能计算的范畴已扩展至涵盖多种形态的机器学习任务。图神经网络(GNN)日益受到青睐,其应用正不断拓展至各个领域。随着图数据规模的持续增长,包括节点数量、边的数量以及嵌入维度的不断提升,诸如DGL和PyG等标准化库应运而生,旨在简化GNN的计算过程。这些库允许以高层次的抽象方式描述计算流程,从而显著提升开发者的生产效率。然而,随着处理器核心数的迅速增加以及多核架构的演进,这些库往往表现出较差的可扩展性,并且无法实

事件进展与其他报道

前缀键值对的重要性:在循环语言模型中用于自推测解码的RIPE缓存

arXiv:2610.34436v1 发布类型:新 摘要:循环语言模型在每个标记上会运行 $R$ 轮层,因此其键值(KV)缓存为每递归层保存 $R$ 个平面,而自推测解码(先用几轮进行初步推断,再用全部 $R$ 轮验证)会读取所有这些平面。我们发现,前缀键值的影响主要体现在较晚的阶段:在扰动幅度相同的情况下,第 25 至 32 轮的敏感度分别是第 2 至 9 轮的 $e^{15.0}$ 倍(Huginn-0125)和 $e^{12.8}$ 倍(Raven-Llama),且各平面随循环次数呈几何级数逼近最后一个平面,每轮分别达到 0.88 和 0.81。至于是否仅保留最深层的平面即可,这取决于晚期平面的成熟程度:在 Raven 上,仅存储最深层平面与从 bf16 转换为 fp32 的效果几乎无差异;而在 Huginn 上,仅有 1% 的位置就贡献了其误差的 74%。我们将这一发现转化为 RIPE,该方法存储最深层的

事件进展与其他报道

何时停止惩罚行为?用于VLA强化学习的鞅GRPO

arXiv:2610.32431v1 发布类型:新 摘要:一次失败的视觉—语言—动作(VLA)展开并不意味着所有动作都导致了失败。然而,在群体相对策略优化(GRPO)中,展开中的所有动作都会被赋予单一的轨迹级优势。这样一来,那些本可带来帮助的恢复尝试也可能与其试图纠正的错误一同受到惩罚。我们利用成功概率与策略得分的鞅理论,刻画了用于失败反馈的理想停止条件。在这些停止点上,基于保留信息的条件期望下,被移除的梯度贡献的条件期望为零。因此,截断操作既能保持参考GRPO群体梯度估计器的期望值,又能降低其协方差。其中一种停止情形发生在成功条件概率达到……时。

事件进展与其他报道

将Transformer理论付诸实践

arXiv:2610.32104v1 发布类型:新 摘要:为刻画Transformer架构的能力与局限性,人们已发展出若干形式化理论,这些理论分别采用不同的抽象方法,以捕捉该架构的不同特性。由于其底层假设与概念框架存在差异,这些理论在预测Transformer对哪些任务感到容易或困难时往往意见不一。我们梳理了七种关于Transformer能力的理论(Star-free、$\mathsf{AC}^0$、$\mathsf{TC}^0$、C-RASP、MPC、BAPO以及敏感性),并将其研究结果转化为一张通用的预测矩阵,覆盖一系列涉及不同计算结构的任务。我们还提供了新的理论成果,以完善这一矩阵。随后,我们对这些理论进行评估

事件进展与其他报道

DualPace:用于大语言模型推理的解耦调度与GPU-CPU协同解码

arXiv:2610.33501v1 发布类型:新 提要:大型语言模型(LLM)的推理服务依赖于批处理以提升推理吞吐量,但键值(KV)缓存会随序列长度增长,从而限制了GPU上的并发度。通过CPU卸载,可以利用主机内存扩展KV缓存容量,然而现有系统在很大程度上仍受GPU瓶颈制约:只有当GPU调度器能够提供合适的重叠机会时,CPU驻留的请求才能取得进展。因此,主机内存与CPU计算无法作为独立的推理资源发挥作用,导致负载下CPU端进度波动加剧,并使尾部词间延迟(ITL)显著增加。我们提出了DualPace,一种将主机转变为独立调度解码引擎的LLM推理运行时。DualPace在两个引擎之间划分了调度权:GPU引擎

事件进展与其他报道

PhaseBreak:针对未经授权的图像转视频动画的主动时序保护

arXiv:2610.33070v1 发布类型:新 摘要:图像到视频(I2V)扩散模型能够为单张肖像或照片赋予动态效果,从而使得共享的图像在未经主体授权的情况下被重新用于运动合成。我们研究针对此类用途的主动视觉保护机制:在图像发布之前,其所有者施加一种有界扰动,既保持共享工作流不变,又干扰下游的运动生成过程。现有的频谱扰动目标会全局性地削弱时序特征表示,因此难以对细微或空间局部化的运动进行有效控制。我们的核心思路是:生成的动态不仅取决于时序特征的强度,还与特征事件的发生顺序密切相关。我们提出了一种白盒式的频谱重定时保护方法——PhaseBreak。

事件进展与其他报道

参数化会话状态可在不重放历史记录的情况下恢复检索意图

arXiv:2610.33047v1 发布类型:新 摘要:长期运行的助手通常会理解那些其指代对象、约束条件以及主动目标早在数轮对话前就已经确定的后续请求。因此,核心挑战不仅在于上下文长度,还在于检索意图:例如,“使用先前的配置”这样的当前查询可能会省略定位相关证据所需的项目、实体和版本等术语。长上下文模型可以通过重放交互过程来恢复这些术语,但同时也需要反复承担处理历史记录的开销。传统的检索增强生成(RAG)方法成本较低,却假定查询本身已包含充分的信息;而对话式改写要么重新读取历史,要么依赖于显式维护的文本记忆。我们提出了“参数化会话状态”。

事件进展与其他报道

FlexA-Mem:面向LLM智能体驱动的预算自适应智能体记忆

arXiv:2610.33274v1 发布类型:新 摘要:大型语言模型(LLM)智能体在不同场景下有着截然不同的记忆需求。关于过往对话的问题需要精确引用其中提及的事实,而多步骤任务则需要记录已执行的每一步,并附上下一步无法直接表述的细节。现有的各类记忆系统往往针对某一特定场景进行设计与测试。诸如A-Mem之类的检索型记忆会遗漏当前查询未明确表达的步骤,摘要则会丢失精确的字符串信息,而将两者结合又会在事前就固定了内存预算的分配。我们提出FlexA-Mem,这是一种通用的记忆机制,它将历史中的每一项内容仅写入一次不可更改的存储中,并为每次调用生成一份全新的记忆。生成的记忆是一份紧凑的记录时间线,外加由固定规则所决定的详细信息……

事件进展与其他报道

最火机器人项目,不行了?

导读THECAPITAL百亿俱乐部扩容,破产名单也在变长。本文2781字,约3.9分钟作者 | 阿布 编辑 | 吾人来源 | #融中财经(ID:thecapital)今年的机器人赛道,一边在排队敲钟,一边在排队申报债权。火热的一面是如火如荼的融资。据IT桔子统计,2026年前8个月,机器人赛道融资额达1245.1亿元,是2025年全年的两倍。同时,多家机...

最火机器人项目,不行了?
事件进展与其他报道

OpenAI 推出 GPT-6.1 Terra,将用于代理工作的 GPT-6.1 Sol 的 API 价格下调一半

OpenAI发布了GPT-6.1 Terra,这是一种快速的计算机与视觉模型,每百万个标记的价格为1美元/5美元。其在每项任务上的成本为0.29美元,而GPT-6 Astra的中等努力代理的最后一次测试得分则为4.82美元。该文章《OpenAI推出GPT-6.1 Terra,将GPT-6.1 Sol的代理工作API价格减半》首发于MarkTechPost。

新闻源配图 · MarkTechPost
事件进展与其他报道

微软在加大人工智能投资的同时,向6万名员工提供自愿离职补偿计划

微软公司今日向约四分之一的员工发出了自愿离职收购要约。受此举措影响的约6万名员工分布于美国、加拿大、印度和英国。据报道,他们在公司内部体验评分体系中的得分均在70分及以下。这意味着受影响的资深员工…… 该文章《微软在人工智能投资背景下向6万名员工提供自愿离职收购》首发于SiliconANGLE。

事件进展与其他报道

您可能错过的来自theCUBE对Workiva Amplify活动报道的三大洞察

企业级人工智能治理正逐步延伸至数据、工作流以及各项管控机制,这些要素决定了自动化系统能够执行哪些任务。随着智能体在金融、审计、合规与可持续发展等领域承担起日益重要的职责,组织亟需确保其成果既立足于业务情境、可追溯至原始数据来源,又受到明确的问责机制的规范与约束。TheCUBE对Workiva Amplify活动的预览重点介绍了[…]。本文《您可能错过的来自TheCUBE对Workiva Amplify活动报道的三大洞见》首发于SiliconANGLE。

事件进展与其他报道