跳到正文
AI NEWS JOURNAL
AI, IN PERSPECTIVE

搜索 AI 资讯

检索标题、摘要与正文,把分散的信息连起来。

按发布时间排序

上下文或知识:大型语言模型如何为其自身答案归因

arXiv:2610.32109v1 发布类型:新 摘要:语言模型能够根据给定的文档或其参数化知识回答问题。然而,当后续被问及答案的来源时,究竟是什么决定了它们的来源报告?我们通过在答案生成之后、源问题提出之前对模型的关键值(KV)缓存进行干预来研究这一问题。在一项受控的事实性任务中,针对四款模型(7B–32B),无论改变还是移除文档的缓存,都不会影响其来源报告。相比之下,在两次运行之间移植问答(Q+A)缓存——且前后的问题与答案标记完全相同——则会转移来源报告:所有符合条件的报告都会沿用捐赠方的来源,而接收方的文档本身保持不变。在两款较小的模型上,沿着事先为任何源问题拟合的方向引导问答值……

事件进展与其他报道

ULME框架实现文本嵌入与语言建模的真正统一:arXiv新论文提出预测耦合机制

2026年10月24日,arXiv发布论文arXiv:2610.30705v1,提出ULME——一种面向因果解码器型大语言模型的后训练框架,通过预测耦合(predictive coupling)机制,首次实现文本嵌入与语言生成能力的相互增强式统一。该方法在Qwen2.5/Qwen3系列(0.5B–8B参数)上验证有效,MTEB提升3.3–4.1分,同时保持生成任务(MMLU等)性能不降。

ULME: Predictive Coupling for Mutually Reinforcing Embedding and Language Modeling

推荐理由:该论文直指当前多模态LLM能力割裂的核心问题:嵌入与生成长期由独立模型或仅参数共享的‘伪统一’模型承担。ULME通过可学习插槽与三目标联合训练(含stop-gradient预测损失),使生成过程主动塑造嵌入表征,属架构层面的实质性突破;实验覆盖广、基线强、指标全面,且发布于权威预印本平台,时效性与技术严谨性兼备。

事件进展与其他报道