为机器学习原子间势能解锁张量核心性能
原子尺度模拟有助于研究人员理解分子和材料的行为,从化学反应、相变到机械失效。这些……
检索标题、摘要与正文,把分散的信息连起来。
原子尺度模拟有助于研究人员理解分子和材料的行为,从化学反应、相变到机械失效。这些……
编辑|Neo100 多位顶尖数学家,耗费数十年,写下 1.5 万页证明。现在,AI 只用了 24 天,就把这项人类数学史上最庞大的工程之一,变成了 4300 多万行可以由计算机逐步验证的代码。更惊人的是,AI 在检查这些数学家留下的证明时,还揪出了一个存在近 40 年的论证漏洞。这不是一道奥数题,也不是一篇几十页的数学论文,而是被...
arXiv:2610.31955v1 发布类型:新 提要:Anthropic 的最新研究提出了一种名为“雅可比透镜”(J-lens,Gurnee 等人,2026)的新可解释性工具。该方法在前沿语言模型的隐藏状态中识别出一些线性方向,这些方向表现出类似工作记忆表征的特性。然而,尚不清楚究竟是哪些机制特性使这类特征能够被 J-lens 检测到。为此,我们提出了 J-lens 的数学理论,并证明它倾向于识别相干特征——即那些类似于主导、在空间上具有连贯性的李雅普诺夫模态的方向。沿着这些方向施加微小扰动时,其放大效应会逐层传递,在各个标记位置大致保持不变,并且在不同上下文中也具有一致性。尽管 w
arXiv:2610.32101v1 发布类型:新 摘要:大型语言模型(LLMs)会表现出模式坍缩现象,即其输出分布集中于熟悉的语义模式。当多样性消失时,反复采样便沦为语义上的重复,而非新的发现,导致那些罕见但更优的解决方案难以浮现,从而使模型的自我进化与持续学习难以维持。大多数应对措施仅在推理阶段发挥作用,通过调整采样结果来实现多样性,却并未将多样性真正内化为模型的一项能力。我们提出了 PRISM,一种在训练阶段就将多样性内化的框架。PRISM 结合了:(i) 子模性策展机制,为每个提示配以多样且正确的多教师解;以及 (ii) 随机嵌入调制,将特殊标记的扰动转化为 impl
arXiv:2610.32104v1 发布类型:新 摘要:为刻画Transformer架构的能力与局限性,人们已发展出若干形式化理论,这些理论分别采用不同的抽象方法,以捕捉该架构的不同特性。由于其底层假设与概念框架存在差异,这些理论在预测Transformer对哪些任务感到容易或困难时往往意见不一。我们梳理了七种关于Transformer能力的理论(Star-free、$\mathsf{AC}^0$、$\mathsf{TC}^0$、C-RASP、MPC、BAPO以及敏感性),并将其研究结果转化为一张通用的预测矩阵,覆盖一系列涉及不同计算结构的任务。我们还提供了新的理论成果,以完善这一矩阵。随后,我们对这些理论进行评估
在大规模发布数百篇据称包含长期悬而未决的数学问题解决方案的论文后不到一个月,OpenAI 再次推出了三项“重大”发现,涉及数学、计算机科学和物理学领域。与以往不同的是,此次 OpenAI 选择由其称之为“牧者”的外部专家来指导相关成果的产出……
对机器而言,“夜晚”是什么?