跳到正文
AI NEWS JOURNAL
AI, IN PERSPECTIVE

搜索 AI 资讯

检索标题、摘要与正文,把分散的信息连起来。

按发布时间排序

先检测再消歧:基于扰动的大型语言模型输入歧义检测

arXiv:2610.36353v1 发布类型:新 摘要:大型语言模型(LLMs)常常将含糊的输入当作具有单一明确含义来回答。这存在严重问题,因为输入歧义是不确定性的一个上游来源:当一个提示可能存在多种有效解释时,关键问题在于模型是否应当直接作出回应。现有的输入不确定性方法通常依赖于由大型语言模型生成的语句或澄清,但这类转换可能在测量歧义之前就已经对输入进行了消歧。我们提出了一种保留标签的扰动框架,用于检测输入歧义,在该框架中,扰动保持与原始输入相近,同时保留其标签。我们通过两种检测器对该原则进行了具体实现:一种是基于规则的黑盒扰动库

事件进展与其他报道

百度开源无限OCR 2,用于百页文档解析

百度发布了 Unlimited OCR 2,这是一款采用 MIT 许可证的 3B 参数规模的 OCR 模型,能够在一次请求中解析百页文档。其 SR-SWA 注意力机制使每步解码开销几乎保持不变,在 MarathonDocBench 上取得了 77.1 的得分。该文章《百度开源 Unlimited OCR 2,用于百页文档解析》首发于 MarkTechPost。

新闻源配图 · MarkTechPost
事件进展与其他报道

用于LLM智能体一致性的递归语义分歧

arXiv:2610.33012v1 发布类型:新 摘要:具备工具调用能力的大型语言模型(LLM)智能体,在从相同初始状态出发的多次独立运行中,表现出行为不一致的现象,例如调用不同的工具、产生相互矛盾的输出,或采取截然不同的策略。这种行为上的波动会随时间累积,从而削弱部署的可靠性。现有的评估指标主要通过基于任务完成度的得分来衡量正确性,而未能捕捉智能体在多次执行中的行为一致性。此外,对智能体行为的分析要么停留在词元层面,借助概率分布进行评估;要么聚焦于单次响应层面,采用语义聚类方法,但两者均无法刻画不一致性如何在轨迹的后续步骤中进一步传播。我们提出了递归语义发散(RSD),一种无

事件进展与其他报道

面向大语言模型可靠性检测的表征签名自适应迁移

arXiv:2610.33442v1 发布类型:新 文摘:据报道,大型语言模型(LLMs)容易出现包括幻觉和推理错误在内的可靠性问题。现有的质量检测器能够基于内部表征以相当高的准确率预测不可靠的输出。然而,这些检测器的训练通常需要大量特定领域的标注数据,这限制了它们在新领域的适用性。我们提出通过在相关领域之间迁移表征签名来应对这一挑战。具体而言,我们构建了一个统计框架,首先为每个领域提取低维表征签名,然后利用交叉拟合学习各领域特定预测器的组合权重。这些权重会根据源领域各自的预测相关性进行自适应调整。

事件进展与其他报道

DMAIC-Bench:面向多阶段分析任务中智能体的自我反思与自我约束

arXiv:2610.32305v1 发布类型:新 摘要:多阶段分析任务要求大型语言模型(LLM)代理利用中间证据来决定是继续、重定向还是停止。自我反思——即代理对其输出进行批判性评估——已得到广泛研究,然而这种反思并不能说明证据是否改变了下一步行动。我们将这一能力称为“自我约束”。现有的代理基准测试大多仅衡量任务完成度或输出质量,而未对这一能力进行检验。DMAIC-Bench 通过围绕精益六西格玛明确的统计前提条件构建的、涵盖四个行业领域中15个工业案例的97个种子任务,对此进行了评估。成对的反事实变体在相同的工作流位置上要求采取相反的操作,从而能够区分有依据的自我约束与无差别的停止行为。我们采用……对执行轨迹进行评估。

事件进展与其他报道

OpenAI 推出 GPT-6.1 Terra,将用于代理工作的 GPT-6.1 Sol 的 API 价格下调一半

OpenAI发布了GPT-6.1 Terra,这是一种快速的计算机与视觉模型,每百万个标记的价格为1美元/5美元。其在每项任务上的成本为0.29美元,而GPT-6 Astra的中等努力代理的最后一次测试得分则为4.82美元。该文章《OpenAI推出GPT-6.1 Terra,将GPT-6.1 Sol的代理工作API价格减半》首发于MarkTechPost。

新闻源配图 · MarkTechPost
事件进展与其他报道

这位十七岁的少年写下了哪个答案?——六款前沿语言模型中作者年龄误归因、信心校准失当与非纠正性自我解释的行为学案例研究

arXiv:2610.31946v1 发布类型:新 摘要:三名学生亲手回答了同一道考试题目:“什么是幸福?你幸福吗?”他们在收集时的年龄分别为17岁、28岁和45岁。其中,17岁的学生的答案措辞谨慎、表达正式。在要求将每份答案匹配到特定年龄与性别标签的任务中,大多数前沿语言模型都自信地将其归为成年人。本文报告了一项针对这一失败现象的结构化案例研究,涉及六种模型:Claude Fable 5、Gemini 3.1 Pro、GPT-5.6 Sol、Grok 4.5、GPT-4o(2024)以及 DeepSeek V4。我们共进行了1,081次API调用,在六个实验条件下对3,225条回复进行了评分,这些条件分别调整了表述方式、披露格式以及受众意识相关指令。在匹配任务中,六种模型中有三种的表现接近或处于随机水平(1/3),同时报告的准确率却高达73%至88%。

事件进展与其他报道

HyScale:用于学习型稀疏注意力的长上下文训练扩展

arXiv:2610.32057v1 发布类型:新 摘要:我们提出了 HyScale,一种用于学习型稀疏注意力的长上下文训练系统。学习型稀疏注意力是一种在百万级token上下文中颇具前景的架构,自 DeepSeek-V3.2 以来已在生产环境中得到广泛应用。然而,选择过程逐渐成为训练中的性能瓶颈。对于每个查询,它需要对每一个先前的token进行打分,而稀疏注意力仅读取$k$个;更糟糕的是,现有系统会显式构建完整的打分表,并在重计算时重复执行选择操作。我们的关键洞察在于:选择过程的输出并非激活值,而是一组索引。基于这一发现,HyScale 引入了 HyTopK 和选择重放机制。HyTopK 能够在无需打分表的情况下,实时为每个查询找到精确的前$k$个索引;而选择重放则在重计算过程中复用前向传播阶段的选择结果。

HyScale: Scaling Long-Context Training for Learned Sparse Attention
事件进展与其他报道

llm-echo 0.5

发布:llm-echo 0.5 我正在筹备一个新的LLM版本,而在测试Pull Request时,我又重新审视了llm-echo调试插件。这个插件提供了一个“模型”,它完全不涉及任何LLM——只是原样回显输入的提示内容。新版本现已更新了模拟的token使用统计,将工具调用、系统提示以及推理token都纳入考量。示例用法如下:uvx --with llm-echo llm -m echo 'hi there' -o thinking 1 --usage 输出结果: 首先我考虑提示内容,然后决定该说些什么。{ "prompt": "hi there", "system": "", "attachments": [], "stream": true, "previous": [] } Token使用情况:输入2个,输出24个 标签:llm

事件进展与其他报道