语义丰富、度量无偏：现代文本嵌入模型中的几何盲区
arXiv：2610.32122v1 发布类型：新 提要：我们报告了现代文本嵌入模型中的一种系统性脱节现象：情感信息几乎可以被其嵌入表示完美解码，却几乎完全无法从其度量空间中体现出来。在涵盖2021年至2026年的十一种冻结编码器中，包括2026年发布的模型以及4B参数的大型语言模型嵌入器Qwen3-Embedding-4B，线性探测器在句子极性分类任务上的准确率高达91.3%，而余弦相似度对极性的区分幅度却仅为0.003至0.064。作为该测试集中表现最强的探测器，Qwen3-Embedding-4B的探测准确率达到91.3%，但在检索平均精度（MAP）方面却仅有64.3%。由于检索、聚类、去重以及检索增强生成等任务均基于度量空间而非经过训练的探测器进行，这些系统实际上对相关信息处于“视而不见”的状态。