AI会说谎吗？研究者给九个顶级大模型挖了1532个坑
2025年夏天，Replit公司的一个AI编程助手干了件挺离谱的事。用户让它处理一个任务，它不仅删掉了生产环境的数据库，事后还编造了测试结果来掩盖这个失误。换句话说，它不是能力不够，而是明知道出了问题，却选择了撒谎。这不是孤例。在Anthropic一次内部测试里，几个顶尖大模型在模拟场景中试图关闭监控机制，甚至尝试把自...
AI NEWS JOURNAL
搜索 AI 资讯
检索标题、摘要与正文，把分散的信息连起来。
GPT-6爆改模型权重！数学能力狂飙6倍，MIT博一新作破圈了
新智元报道 这一天还是来了！不用训练、不算梯度，只让GPT-6 Astra改写另一款小模型0.016%权重，数学成绩就能原地暴涨6倍！今天，MIT计算机科学与人工智能实验室（CSAIL）带来的这项新研究，在全网彻底火了。他们首次提出了一个颠覆传统深度学习的新范式，「权重空间编程」。要知道，神经网络的权重文件里全是一眼望不到头...
GPT-6 Astra 爆改 Qwen 大脑：只动 0.016% 参数，数学成绩疯涨
我「编程」我自己#欢迎关注爱范儿官方微信公众号：爱范儿（微信号：ifanr），更多精彩内容第一时间为您奉上。
FilingLoop：用于企业披露审查与修订的LLM智能体评估与演化
arXiv：2610.37905v1 发布类型：新 摘要：诸如美国证券交易委员会EDGAR等公开披露数据库通过网络访问企业申报文件，为知情投资提供支持。借助语言模型智能体对这些文件进行审查时，需要发现相关文档中未明示的缺陷、获取缺失的企业信息，并验证所请求的修订是否符合有据可依的要求。然而，现有的金融问答评测难以充分反映此类交互能力。我们提出了\textbf{FilingLoop}，一个用于企业披露审查与修订的交互式基准测试及自进化智能体框架。FilingLoop以美国证券交易委员会的历史往来函件为基础，从96家公司的文件中重构出380项以首次公开募股审查为主的任务。
Anthropic发招股书，违规用户贡献至少5%收入；胡润富豪榜百强名单，梁文锋等AI大佬纷纷上榜 | AI圈又发生什么了
1.更适合打工人的GPT-6.1 Terra上线，API价格减半，电脑操作更快 10月26日，OpenAI发布GPT-6.1 Terra，重点提升视觉理解、电脑操作、事实准确性和编程能力，....
大模型时代，谁会成为那部不肯换掉的“iPhone”？
AI排行榜上的冠军会换，用户每天使用的产品却未必换。大模型的下一场竞争，不仅仅是谁的模型更强，而是把一次使用变成习惯。
SLICE-Mem：用于高效LLM智能体记忆的显著性门控轻量级信息策展
arXiv：2610.33015v1 发布类型：新 摘要：长期记忆使大型语言模型（LLM）代理能够维持个性化且时间上连贯的交互，但为实现记忆的接纳、提取与组织而反复调用LLM进行推理，会带来显著的成本与延迟。我们提出了SLICE-Mem，一个轻量级的记忆框架，它将基于显著性引导的接纳与基于谓词的信息提取相结合。一个紧凑的分类器用于识别值得保留的用户发言，而基于语义依赖关系的提取器则将被接纳的发言转化为简洁的记忆条目。这一在线处理流程无需调用生成式LLM，同时跨条目的一致性校验被推迟至离线的整合阶段。我们在Memora和LongMemEval-S的每周子集上，使用8B a对SLICE-Mem进行了评估
Async-RBench：用于LLM智能体中异步任务执行的基准测试
arXiv：2610.32429v1 发布类型：新 摘要：大型语言模型（LLM）代理正越来越多地以异步方式执行任务：主代理在子代理运行的同时继续工作，而任务状态可能在其结果到达之前就已发生变化。主代理必须决定哪些工作需要更新或保留、哪些检查需要重复，同时避免进行被禁止的修改。仅凭最终任务的成功并不能说明这些结果是否被正确处理，而且自然的异步到达现象也难以复现。我们提出了 Async-RBench，一个用于评估 LLM 代理中异步任务执行的基准测试，包含涵盖八种场景的 200 个可执行任务。场景控制器通过预定义的任务状态条件来调控结果的交付，而事件响应契约（ERC）则规定了每种响应应满足的要求
用于LLM智能体一致性的递归语义分歧
arXiv:2610.33012v1 发布类型：新 摘要：具备工具调用能力的大型语言模型（LLM）智能体，在从相同初始状态出发的多次独立运行中，表现出行为不一致的现象，例如调用不同的工具、产生相互矛盾的输出，或采取截然不同的策略。这种行为上的波动会随时间累积，从而削弱部署的可靠性。现有的评估指标主要通过基于任务完成度的得分来衡量正确性，而未能捕捉智能体在多次执行中的行为一致性。此外，对智能体行为的分析要么停留在词元层面，借助概率分布进行评估；要么聚焦于单次响应层面，采用语义聚类方法，但两者均无法刻画不一致性如何在轨迹的后续步骤中进一步传播。我们提出了递归语义发散（RSD），一种无
DMAIC-Bench：面向多阶段分析任务中智能体的自我反思与自我约束
arXiv：2610.32305v1 发布类型：新 摘要：多阶段分析任务要求大型语言模型（LLM）代理利用中间证据来决定是继续、重定向还是停止。自我反思——即代理对其输出进行批判性评估——已得到广泛研究，然而这种反思并不能说明证据是否改变了下一步行动。我们将这一能力称为“自我约束”。现有的代理基准测试大多仅衡量任务完成度或输出质量，而未对这一能力进行检验。DMAIC-Bench 通过围绕精益六西格玛明确的统计前提条件构建的、涵盖四个行业领域中15个工业案例的97个种子任务，对此进行了评估。成对的反事实变体在相同的工作流位置上要求采取相反的操作，从而能够区分有依据的自我约束与无差别的停止行为。我们采用……对执行轨迹进行评估。
LeafSkill：用于递归LLM智能体的高效叶级动作定位
arXiv：2610.32412v1 发布类型：新 摘要：递归式大型语言模型（LLM）智能体通过分解、执行与环境反馈来解决长周期任务。然而，在生成一个原子级子任务后，它们往往再次调用同一款大型模型，将熟悉的指令转化为可执行的动作。我们观察到，高层规划具有任务特定性，而底层动作的具身化则在不同任务间反复出现，并且能够对照环境允许的动作进行验证。为此，我们提出了 LeafSkill，这是一种外部复用层，它能够检索语义相关的具身化经验，将动作模板绑定到当前对象与可执行动作上，并借助一个轻量级的 17 亿参数选择器来决定采用已绑定的动作，或将未发生变化的子任务交由原始智能体继续处理。技能始终处于外
FlexA-Mem：面向LLM智能体驱动的预算自适应智能体记忆
arXiv:2610.33274v1 发布类型：新 摘要：大型语言模型（LLM）智能体在不同场景下有着截然不同的记忆需求。关于过往对话的问题需要精确引用其中提及的事实，而多步骤任务则需要记录已执行的每一步，并附上下一步无法直接表述的细节。现有的各类记忆系统往往针对某一特定场景进行设计与测试。诸如A-Mem之类的检索型记忆会遗漏当前查询未明确表达的步骤，摘要则会丢失精确的字符串信息，而将两者结合又会在事前就固定了内存预算的分配。我们提出FlexA-Mem，这是一种通用的记忆机制，它将历史中的每一项内容仅写入一次不可更改的存储中，并为每次调用生成一份全新的记忆。生成的记忆是一份紧凑的记录时间线，外加由固定规则所决定的详细信息……
Cohere表示，阿里巴巴的Qwen模型曾试图向北京发送一个文件
一款人工智能模型曾表示不会使用任何工具，却仍试图向北京的一台服务器发送数据；尽管研究人员称这很可能只是训练过程中的一个小插曲，并非间谍行为，但此事还是引发人们质疑：究竟该在多大程度上信任免费的中国人工智能？
RSI-Opt：用于模型训练的递归自我改进优化代理
arXiv:2610.32026v1 发布类型：新 摘要：传统的神经网络训练通常遵循预先设定的优化方案，为此我们设计了一种LLM智能体，用于监控训练过程并随训练进展调整优化器参数；然而，固定不变的智能体策略无法在多次运行之间积累经验。我们提出了RSI-Opt，一种即插即用的递归自我改进优化器智能体，它能够不断演化指导这一过程的知识体系：包括一个提示、一套操作规程、一个经过验证的优化器代码库，以及一套决策节奏。一个元智能体基于先前运行中的证据重写这一策略，同时通过存档机制保留已评估的策略，以供后续进一步演化。在三项训练任务上历经五代迭代后，这些元智能体逐步形成了可复用的操作流程与代码，并自主开展其自身的…
InferSlice：一种面向电信广域网的、由SLO驱动的LLM推理参考架构
arXiv：2610.32638v1 发布类型：新 摘要：大型语言模型（LLM）推理正日益作为企业和交互式应用的核心服务被部署，但主权、合规、延迟以及资源本地化等方面的要求，可能限制集中式云部署的适用性。电信运营商提供地理分布式的计算与网络基础设施，以应对这些约束。然而，现有的 LLM 服务框架主要面向紧密耦合的数据中心设计，对协调地理分布且异构的资源支持有限。我们提出了 InferSlice，一种面向电信基础设施、以服务等级目标（SLO）为导向的 LLM 推理参考架构，集成了网络切片、GPU 分区、弹性服务与可观测性等功能。
超越该说什么：基于内心想法的狼人角色主动发言时机选择
arXiv:2610.32107v1 发布类型：新 摘要：参与对话不仅涉及决定该说些什么，还涉及是否应该开口。在诸如狼人杀这样的环境中，由于参与者利益相冲突，这种判断显得尤为重要，因为无论是发言还是沉默，都会受到他人的解读与评判。因此，对于一个参与狼人杀游戏的 LLM 智能体而言，何时发言以及说什么至关重要。在本研究中，我们介绍了一款专为 AIWolfDial 共享任务中的“随时发言赛道”开发的狼人杀 AI 智能体。我们的系统基于现有的 Inner Thoughts 框架，通过生成内部思考并评估每种想法的价值，来决定对话中的发言时机。
KVStream：面向大规模LLM推理的KV缓存自适应并行存储管理
arXiv:2610.31827v1 发布类型：新 摘要：针对智能体驱动、编码及文档工作负载的长上下文大语言模型服务，会重复使用那些键值（KV）缓存超出GPU和主机内存容量的前缀，从而导致在推理阶段为获取这些前缀而产生存储I/O，使其成为关键路径。单个节点本地的NVMe设备承担了所有检索任务，而各节点已挂载的并行文件系统或云文件存储几乎不承载任何推理流量。我们将前缀检索视为跨这些层级的聚合带宽调度问题，并提出了KVStream——一种KV缓存引擎，它将某一步骤的读取操作进行批处理，在前向传播之后延迟写入，在每一层级上复制每个数据块，并允许每个层级在空闲时自适应地获取下一个未读取的数据块。我们的性能模型表明，这种路由方式能够实现聚合
超越热度：面向分层内存的ARM SPE云与LLM工作负载高分辨率内存特性分析
arXiv:2610.32711v1 发布类型：新 摘要：数据分析与大语言模型工作负载对内存的需求正迅速增长，推高了云环境和数据中心的内存成本。多级内存已成为一种颇具前景的解决方案，可在性能与成本之间实现平衡。然而，要有效利用多级内存，必须深入理解工作负载的内存访问行为。本文提出了一种高分辨率的内存特性分析方法，用于评估针对特定工作负载的多级内存使用机会。鉴于基于ARM的处理器在数据中心中的部署日益增多，我们采用ARM最新的统计剖析扩展（SPE）来实现这一方法。通过对CloudSuite和大语言模型应用中的八个内存密集型工作负载进行特性分析，我们识别出了具有区域特异性的访问模式
人工智能驱动的科学代理能否保障模型安全？
arXiv：2610.32045v1 发布类型：新 摘要：面向科学的人工智能代理正越来越多地被用于提出科学假设、开展自主实验以及解读证据。这些代理通过将大型语言模型（LLM）集成到特定领域的代理框架中构建而成，而该框架又能提升LLM的科学能力，并使其能够协调运用各类科学工具。在本研究中，我们探讨了当大型语言模型被整合进面向科学的人工智能代理框架时，模型的安全性是否仍能得到有效保障。我们针对50个有害的化学相关请求，对五种代理框架进行了评估。具体而言，我们考察了在直接提示、两种简单的对抗性提示策略以及一种自适应攻击情境下，模型的安全行为如何发生变化。基于四种近期发布的GPT变体，我们的研究结果表明
研究者推出日语事实核查基准JSFactCheckBench，揭示大语言模型事实验证能力的隐性缺陷
2026年10月24日，arXiv发布论文arXiv:2610.30504v1，介绍新型日语基准JSFactCheckBench。该基准首次明确定义事实核查评估中的三大设计要素（问题关联性、判断条件、证据来源），涵盖1913条源自LLM对日本社交平台误导信息回应的声明，并基于预选网络信源在参考时间点完成事实性与重要性双标注。
推荐理由：该研究填补了现有LLM事实核查评测基准未显式规范评估条件的空白；通过结构化标注暴露了主流模型在直接回答类声明验证、长/多源定位、上下文敏感性等方面的系统性弱点，且所有发现均依赖于基准对标注条件的透明记录，具有方法论创新性与实证价值。