检索标题、摘要与正文，把分散的信息连起来。
arXiv:2610.33006v1 发布类型：新 摘要：基于Transformer的大型语言模型（LLMs）在上下文长度增加时会带来巨大的计算与内存开销，这促使人们研究在推理前将上下文压缩为更短表示的方法。现有的软提示压缩方法通常采用与目标模型相同的Transformer主干架构，而在生成压缩表示的过程中会产生显著的延迟开销。这使得这些方法仅适用于离线场景——即上下文被一次性压缩后，在多次查询中重复使用。我们提出了Boa压缩器，这是一种即插即用的在线上下文压缩器，基于Mamba状态空间模型（SSM）构建，能够在一次线性时间的遍历中编码任意长度的上下文，并生成一个可用于后续条件化的表示……
arXiv：2610.33039v1 发布类型：新 摘要：我们推出了 Nemotron 3.5 Bolt 74B-A9B 24GB，这是一种混合型 Mamba-Transformer 视觉语言模型，可在本地智能体驱动的工作负载中实现每 GB 内存的计算速度与智能性能的最优平衡。该模型源自 Nemotron 3.5 Super VL 120B-A12B 系列，通过结合 Star Elastic 压缩与 2 位量化感知蒸馏技术，适用于内存受限的部署场景。该模型针对推理、智能体工具调用以及网页与终端交互进行了优化。此外，我们还训练了一款名为 LiLiCorr 的投机性起草器，并随模型一同发布，以达到预期的推理速度。最终得到的模型在多项通用智能体任务基准测试中，相较于具有相似内存占用和速度的领先模型，实现了更高的准确率。
arXiv:2610.33019v1 发布类型：新 摘要：随着多模态智能体开展持续交互，长期记忆发挥着两种既 distinct 又互补的功能：细粒度的证据召回，以及用于全局理解的内化解读。尽管情景记忆与隐式记忆分别通过显式的历史记录和内化的经验来满足这些需求，但由于情景记忆在证据覆盖与整合方面存在局限，而隐式记忆又缺乏扎实的事实基础，单一的范式难以兼顾不同任务间多样化的记忆偏好。为弥合这一鸿沟，我们提出了一种双记忆框架，将模型原生的隐式记忆作为直观的先验，同时结合多索引的情景记忆，通过检索驱动的联合对齐实现精确的证据重建。在 i
arXiv：2610.33475v1 发布类型：新 摘要：基础大型语言模型（LLM）在云数据中心的广泛部署，标志着从无状态深度学习向分布式、内存密集型生成式工作负载的根本性范式转变。然而，在严格的服务水平目标（SLO）下为海量基础模型提供服务，会暴露出关键的物理与系统瓶颈。这些挑战包括持续存在的高带宽存储器（HBM）墙、计算密集型预填充与内存带宽受限的解码之间的运行不对称、键值（KV）缓存的爆炸式增长、代价高昂的无服务器冷启动，以及硬件可靠性方面的漏洞。现有的文献综述仍局限于各层次的孤立视角，未能将底层加速器的虚拟化与集群……
arXiv：2610.33020v1 发布类型：新 摘要：如果你的大脑直接与他人的大脑相连，你还能分辨哪些想法属于你自己吗？我们构建了一个功能版本，其中包含同一语言模型的两个副本：每个副本都保存着一套私有的规则和代码词；而其中一个副本——接收方——还会关注其伙伴的内部记忆。接收方将伙伴的任务视为自己的任务。当被问及自己被分配了哪条规则时，在伙伴的记忆权重为双倍的情况下（无链接时则为零），它在97%的回答中给出了伙伴的规则；而在开放性报告中，它甚至将自己的伙伴的代码词称为“自己的”，而非伙伴的。所有权并不取决于接收方能够多好地判断伙伴被分配了什么。在权重相等的情况下，这种连接使接收方大约以一半的概率采纳伙伴的规则。
arXiv：2610.34436v1 发布类型：新 摘要：循环语言模型在每个标记上会运行 $R$ 轮层，因此其键值（KV）缓存为每递归层保存 $R$ 个平面，而自推测解码（先用几轮进行初步推断，再用全部 $R$ 轮验证）会读取所有这些平面。我们发现，前缀键值的影响主要体现在较晚的阶段：在扰动幅度相同的情况下，第 25 至 32 轮的敏感度分别是第 2 至 9 轮的 $e^{15.0}$ 倍（Huginn-0125）和 $e^{12.8}$ 倍（Raven-Llama），且各平面随循环次数呈几何级数逼近最后一个平面，每轮分别达到 0.88 和 0.81。至于是否仅保留最深层的平面即可，这取决于晚期平面的成熟程度：在 Raven 上，仅存储最深层平面与从 bf16 转换为 fp32 的效果几乎无差异；而在 Huginn 上，仅有 1% 的位置就贡献了其误差的 74%。我们将这一发现转化为 RIPE，该方法存储最深层的
arXiv：2610.33501v1 发布类型：新 提要：大型语言模型（LLM）的推理服务依赖于批处理以提升推理吞吐量，但键值（KV）缓存会随序列长度增长，从而限制了GPU上的并发度。通过CPU卸载，可以利用主机内存扩展KV缓存容量，然而现有系统在很大程度上仍受GPU瓶颈制约：只有当GPU调度器能够提供合适的重叠机会时，CPU驻留的请求才能取得进展。因此，主机内存与CPU计算无法作为独立的推理资源发挥作用，导致负载下CPU端进度波动加剧，并使尾部词间延迟（ITL）显著增加。我们提出了DualPace，一种将主机转变为独立调度解码引擎的LLM推理运行时。DualPace在两个引擎之间划分了调度权：GPU引擎
arXiv:2610.33047v1 发布类型：新 摘要：长期运行的智能助手常常需要理解那些其指代对象、约束条件以及主动目标早在多轮对话前就已经确立的后续请求。因此，核心挑战不仅在于上下文长度，还在于检索意图：例如，当前查询“使用之前的配置”可能遗漏了用于定位相关证据所需的项目、实体和版本等关键术语。长上下文模型可以通过重放交互过程来恢复这些术语，但同时也需反复承担处理历史信息的开销。传统的检索增强生成（RAG）方法成本较低，却假定查询本身已包含充分的信息；而对话式改写要么重新读取历史，要么依赖于显式维护的文本记忆。我们提出了\emph{参数化会话状态}
arXiv:2610.33274v1 发布类型：新 摘要：大型语言模型（LLM）智能体在不同场景下有着截然不同的记忆需求。关于过往对话的问题需要精确引用其中提及的事实，而多步骤任务则需要记录已执行的每一步，并附上下一步无法直接表述的细节。现有的各类记忆系统往往针对某一特定场景进行设计与测试。诸如A-Mem之类的检索型记忆会遗漏当前查询未明确表达的步骤，摘要则会丢失精确的字符串信息，而将两者结合又会在事前就固定了内存预算的分配。我们提出FlexA-Mem，这是一种通用的记忆机制，它将历史中的每一项内容仅写入一次不可更改的存储中，并为每次调用生成一份全新的记忆。生成的记忆是一份紧凑的记录时间线，外加由固定规则所决定的详细信息……
负责 dots 的 OpenAI 高管亚历山大·恩比里科斯从不愿与他人的 AI 智能体开会。
微软公司今日向约四分之一的员工发出了自愿离职收购要约。受此举措影响的约6万名员工分布于美国、加拿大、印度和英国。据报道，他们在公司内部体验评分体系中的得分均在70分及以下。这意味着受影响的资深员工…… 该文章《微软在人工智能投资背景下向6万名员工提供自愿离职收购》首发于SiliconANGLE。
· OpenAI 发布 GPT-6.1 Terra，API 价格减半、电脑操作提速 · 苹果正式推送 iOS 27.2：Apple Music 迎来黑白新设计、iPhone Duo 支持 Apple Pencil · 华为畅享系列累计发货突破 1.6 亿台#欢迎关注爱范儿官方微信公众号：爱范儿（微信号：ifanr），更多精彩内容第一时间为您奉上。
麻省理工学院社区的各界代表齐聚一堂，就数据中心、超级污染物、农业与教育等议题展开了讨论。
今天，我们来了解一下华擎面向工作站推出的高端Radeon AI推理卡——Creator Radeon AI Pro R9700。这款显卡配备32GB内存，售价1700美元，是为工作站添置本地AI推理能力的高性价比之选。文章《华擎Creator Radeon AI Pro R9700评测：AMD风格的工作站推理》首发于ServeTheHome。
本文最初发表于我们的每周人工智能通讯《The Algorithm》。如需第一时间将此类文章送至您的收件箱，请在此处订阅。经过数周的疯狂猜测，Anthropic已提交了其首次公开募股招股说明书。这份长达335页的文件（其中约100页专门阐述风险）详细阐述了该公司对其所从事的技术的独特见解……
Nace AI 发布了 Drex for Search，将其 Drex 决策模型应用于 AI 智能体的文档搜索。Nace 在 BrowseComp-Plus 上取得了 92.05% 的成绩，仅需 12.6 次搜索调用，并且在 OfficeQA Pro 上实现了更少的智能体交互次数。该文章“Nace AI 为 AI 智能体发布 Drex for Search：在 BrowseComp-Plus 上取得 92.05% 成绩，仅需 12.6 次搜索调用”首发于 MarkTechPost。
通过 Google 最新的 AI Quests 神经科学课程“极地之巅”，学习人工智能素养。
八年前，芯片制造商美满电子科技公司决定在纳米制程领域实现跨越式发展，此后其发展轨迹一路稳步向上。在半导体制造领域，纳米制程代号所指的并非晶体管的确切物理尺寸，而是各代芯片制造技术，即所谓的工艺节点。先进的工艺节点通常能够提升晶体管密度，并带来性能上的改进……文章《美满电子在人工智能需求推动下，早期的芯片制造豪赌终获回报》首发于SiliconANGLE。
微软正向美国、英国、加拿大和印度的多达6万名员工提供自愿离职补偿计划。在致全体员工的一封信中，微软首席人事官艾米·科尔曼写道，此举将为员工“提供在获得经济支持与职业规划资源的情况下离开微软的机会”，因为公司正寻求在不进行另一次[…]的情况下缩减员工规模。
Ramp 通过将内部 AI 视作分析工程，共享了其构建的代理、沙盒和仪表板。
