摘要：近期研究提出，大型语言模型可能将某些概念表示为多维流形，而非单一方向。利用这些流形来解释或引导模型的表征时，通常假设沿着流形移动会对应于所表征概念的连续变化。在本研究中，我们针对典型的“工作日”流形检验了这一连续流形假设。尽管该流形具有引人注目的环形几何结构，但我们发现，“工作日”的表征更像七个按圆形排列的离散状态，而非连续的环状结构。首先，我们表明局部敏感性在七个与工作日相对应的极小值处出现，从而在流形内引导下，表征与行为之间呈现出阶梯式的映射关系。其次，我们测试了是否存在任何概念在七个离散状态之外的流形上得到表征，结果发现无论是时间、不确定性还是自然文本，均无法填充中间空间。综上所述，这些结果对“工作日”流形的连续性解释提出了挑战，并促使我们进一步检验：沿着其他表征流形的移动是否同样对应于模型表征与行为的有意义变化。
学科分类：| 机器学习（cs.LG）；人工智能（cs.AI） 引用格式：| arXiv:2610.37796 [cs.LG] | （或
arXiv:2610.37796v1 [cs.LG]（此版本） | https://doi.org/10.48550/arXiv.2610.37796
点击了解更多信息
由 DataCite 提供的 arXiv 发布 DOI
提交历史
访问论文：
查看PDF
HTML（实验性）
TeX源代码
附加功能
音频摘要
当前浏览上下文：
参考文献与引用
Google 学术搜索
Semantic Scholar
书签
机构
arXivLabs 是一个框架，允许合作者直接在我们的网站上开发并共享新的 arXiv 功能。
无论是个人还是与 arXivLabs 合作的组织，都已认同并践行我们所倡导的开放、社区、卓越以及用户数据隐私等价值观。arXiv 致力于这些价值理念，并且只与同样秉持这些理念的合作伙伴开展合作。
您是否有一个能为 arXiv 社区创造价值的项目构想？欢迎了解更多关于 arXivLabs 的信息。