跳到正文
AI NEWS JOURNAL
AI, IN PERSPECTIVE

搜索 AI 资讯

检索标题、摘要与正文,把分散的信息连起来。

按发布时间排序

ProtoEEG:用于脑电图视觉解码的结构化原型对齐

arXiv:2610.33065v1 发布类型:新 摘要:由于头皮记录存在噪声、空间分辨率较低,且在不同试验和受试者之间具有较大差异,脑电图(EEG)的视觉解码仍然十分困难。大多数系统将每次试验与一个密集的图像嵌入对齐,然而该嵌入同时混杂了语义内容以及与具体实例相关的纹理、姿态和背景信息。这种做法往往需要EEG本身并不具备的细节信息,且未能明确说明支持预测的视觉因素。我们提出\textbf{ProtoEEG},一种基于原型的框架,它将EEG与图像的对齐问题重新表述为在共享的可学习视觉码本之上进行软性组合。一个可训练的EEG编码器与一个冻结的视觉教师共同生成针对同一$K=64$个原型的分配分布。它们的加权重构构成了一种结构化的表征

事件进展与其他报道

用于上下文依赖解析的POS签名演示检索

arXiv:2610.31966v1 发布类型:新 摘要:上下文学习的示范通常通过语义相似度进行检索,而这在结构化预测任务中可能并非相关性的良好替代指标。我们研究了面向通用依存句法分析的示范选择方法,采用一种基于词性签名的策略,该策略以加权词性统计特征表示句子,并从已标注的训练集里检索出三个长度兼容、由人工标注的示例。我们在UD英语网络树库测试集的全部2,077个句子上,对两种未经过微调的开放权重语言模型进行了评估,将该策略与按样本数量和格式匹配的固定三元组及语义三元组基线,以及零样本、链式思维和批判性修正等系统进行了比较。结果表明,基于词性签名的检索方式获得了最高的标注准确率

事件进展与其他报道

语义丰富、度量无偏:现代文本嵌入模型中的几何盲区

arXiv:2610.32122v1 发布类型:新 提要:我们报告了现代文本嵌入模型中的一种系统性脱节现象:情感信息几乎可以被其嵌入表示完美解码,却几乎完全无法从其度量空间中体现出来。在涵盖2021年至2026年的十一种冻结编码器中,包括2026年发布的模型以及4B参数的大型语言模型嵌入器Qwen3-Embedding-4B,线性探测器在句子极性分类任务上的准确率高达91.3%,而余弦相似度对极性的区分幅度却仅为0.003至0.064。作为该测试集中表现最强的探测器,Qwen3-Embedding-4B的探测准确率达到91.3%,但在检索平均精度(MAP)方面却仅有64.3%。由于检索、聚类、去重以及检索增强生成等任务均基于度量空间而非经过训练的探测器进行,这些系统实际上对相关信息处于“视而不见”的状态。

事件进展与其他报道

上下文或知识:大型语言模型如何为其自身答案归因

arXiv:2610.32109v1 发布类型:新 摘要:语言模型能够根据给定的文档或其参数化知识回答问题。然而,当后续被问及答案的来源时,究竟是什么决定了它们的来源报告?我们通过在答案生成之后、源问题提出之前对模型的关键值(KV)缓存进行干预来研究这一问题。在一项受控的事实性任务中,针对四款模型(7B–32B),无论改变还是移除文档的缓存,都不会影响其来源报告。相比之下,在两次运行之间移植问答(Q+A)缓存——且前后的问题与答案标记完全相同——则会转移来源报告:所有符合条件的报告都会沿用捐赠方的来源,而接收方的文档本身保持不变。在两款较小的模型上,沿着事先为任何源问题拟合的方向引导问答值……

事件进展与其他报道

ULME框架实现文本嵌入与语言建模的真正统一:arXiv新论文提出预测耦合机制

2026年10月24日,arXiv发布论文arXiv:2610.30705v1,提出ULME——一种面向因果解码器型大语言模型的后训练框架,通过预测耦合(predictive coupling)机制,首次实现文本嵌入与语言生成能力的相互增强式统一。该方法在Qwen2.5/Qwen3系列(0.5B–8B参数)上验证有效,MTEB提升3.3–4.1分,同时保持生成任务(MMLU等)性能不降。

ULME: Predictive Coupling for Mutually Reinforcing Embedding and Language Modeling

推荐理由:该论文直指当前多模态LLM能力割裂的核心问题:嵌入与生成长期由独立模型或仅参数共享的‘伪统一’模型承担。ULME通过可学习插槽与三目标联合训练(含stop-gradient预测损失),使生成过程主动塑造嵌入表征,属架构层面的实质性突破;实验覆盖广、基线强、指标全面,且发布于权威预印本平台,时效性与技术严谨性兼备。

事件进展与其他报道