跳到正文
AI NEWS.ccAI正在发生 未来正在更新
资讯收藏
THE JOURNAL
AI NEWS JOURNAL
AI, IN PERSPECTIVE

搜索 AI 资讯

检索标题、摘要与正文，把分散的信息连起来。

按发布时间排序

arXiv cs.CL

这位十七岁的少年写下了哪个答案？——六款前沿语言模型中作者年龄误归因、信心校准失当与非纠正性自我解释的行为学案例研究

arXiv:2610.31946v1 发布类型：新 摘要：三名学生亲手回答了同一道考试题目：“什么是幸福？你幸福吗？”他们在收集时的年龄分别为17岁、28岁和45岁。其中，17岁的学生的答案措辞谨慎、表达正式。在要求将每份答案匹配到特定年龄与性别标签的任务中，大多数前沿语言模型都自信地将其归为成年人。本文报告了一项针对这一失败现象的结构化案例研究，涉及六种模型：Claude Fable 5、Gemini 3.1 Pro、GPT-5.6 Sol、Grok 4.5、GPT-4o（2024）以及 DeepSeek V4。我们共进行了1,081次API调用，在六个实验条件下对3,225条回复进行了评分，这些条件分别调整了表述方式、披露格式以及受众意识相关指令。在匹配任务中，六种模型中有三种的表现接近或处于随机水平（1/3），同时报告的准确率却高达73%至88%。

事件进展与其他报道
arXiv cs.CL

用于上下文依赖解析的POS签名演示检索

arXiv:2610.31966v1 发布类型：新 摘要：上下文学习的示范通常通过语义相似度进行检索，而这在结构化预测任务中可能并非相关性的良好替代指标。我们研究了面向通用依存句法分析的示范选择方法，采用一种基于词性签名的策略，该策略以加权词性统计特征表示句子，并从已标注的训练集里检索出三个长度兼容、由人工标注的示例。我们在UD英语网络树库测试集的全部2,077个句子上，对两种未经过微调的开放权重语言模型进行了评估，将该策略与按样本数量和格式匹配的固定三元组及语义三元组基线，以及零样本、链式思维和批判性修正等系统进行了比较。结果表明，基于词性签名的检索方式获得了最高的标注准确率

事件进展与其他报道
arXiv cs.AI

HyScale：用于学习型稀疏注意力的长上下文训练扩展

arXiv：2610.32057v1 发布类型：新 摘要：我们提出了 HyScale，一种用于学习型稀疏注意力的长上下文训练系统。学习型稀疏注意力是一种在百万级token上下文中颇具前景的架构，自 DeepSeek-V3.2 以来已在生产环境中得到广泛应用。然而，选择过程逐渐成为训练中的性能瓶颈。对于每个查询，它需要对每一个先前的token进行打分，而稀疏注意力仅读取$k$个；更糟糕的是，现有系统会显式构建完整的打分表，并在重计算时重复执行选择操作。我们的关键洞察在于：选择过程的输出并非激活值，而是一组索引。基于这一发现，HyScale 引入了 HyTopK 和选择重放机制。HyTopK 能够在无需打分表的情况下，实时为每个查询找到精确的前$k$个索引；而选择重放则在重计算过程中复用前向传播阶段的选择结果。

HyScale: Scaling Long-Context Training for Learned Sparse Attention
事件进展与其他报道
arXiv cs.LG

推测扩散是一场关于两种权衡的博弈

arXiv：2610.31819v1 发布类型：新 摘要：推测解码是一种通过从速度更快、质量较低的草稿模型中采样，从而提升自回归大型语言模型（LLMs）推理速度的技术。传统上，推测解码的一个基本特征是相对于验证器分布而言无损，能够在不牺牲质量的前提下实现速度提升。这与近期发展的扩散型大型语言模型（dLLMs）有所不同；后者通过以更少的扩散努力降低输出质量，从而显著提升推理速度。由于扩散模型能够通过并行生成标记来实现比自回归模型更快的采样，因此它们被视为推测扩散中理想的草稿模型候选者。尽管如此，它在广泛……

事件进展与其他报道
arXiv cs.CL

大型语言模型的分布对齐及其泛化特性

arXiv:2610.31687v1 发布类型：新 提要：大型语言模型正越来越多地被用于模拟和探究人类行为，例如开展问卷调查。对于这类应用，一个关键特性是输出需满足分布对齐：即其输出分布应与某一参考（在本例中为人类）分布相一致。实现分布对齐的一个障碍在于如何从小规模训练数据中进行泛化。本文研究了：(1) 如何使大型语言模型实现分布对齐；以及 (2) 实现分布对齐的大型语言模型在面对未见样本以及不相关主题与任务时的泛化能力。通过两个大规模基准测试，我们发现大型语言模型确实能够实现分布对齐，并且能够在同一领域的未见问题上实现泛化。而跨主题的泛化则取决于各主题之间的关联性（例如…

事件进展与其他报道
arXiv cs.AI

PaperFormalizer：在精益框架下实现研究论文的作者参与式自动形式化

arXiv:2610.31810v1 发布类型：新 基本摘要：即使经过仔细校对的论文，其证明或所作假设中也可能存在细微漏洞。我们提出了 PaperFormalizer，一个基于 Lean 的智能体驱动流水线，帮助作者发现并弥补自身论文中的此类漏洞，并将每篇论文转化为经 Lean 验证的版本。PaperFormalizer 从 LaTeX 源文件入手，将其转换为陈述的依赖关系图，逐条审核自然语言表述的忠实性、歧义性和正确性，随后在 Lean 中对这些陈述进行形式化并加以证明，同时参考 Mathlib、可选的领域库以及作者个人的工具包。只有作者最清楚某条陈述的真实意图，以及如何最佳地填补某一结论中的形式化缺口。因此，该流水线会在必要时暂停，并向作者提出相关问题。

PaperFormalizer: Author-in-the-Loop Autoformalization of Research Papers in Lean
事件进展与其他报道
arXiv cs.CL

LazyFlash：用于加速长上下文微调的前向密集、后向稀疏注意力机制

arXiv：2610.31911v1 发布类型：新 摘要：随着大型语言模型（LLMs）处理的序列长度不断增长，注意力机制已成为主要的计算瓶颈。稀疏注意力大多面向推理阶段，但许多方法在训练时仍采用密集模式，或无法支持稀疏训练；此外，这些方法额外增加的复杂性使得稀疏性难以转化为实际的运行时间加速，因此在实践中密集注意力仍然被广泛使用。本文提出了 LazyFlash，一种前向密集、后向稀疏的注意力机制，其核心基于这样一个观察：注意力机制的训练过程主要由反向传播阶段主导。LazyFlash 使前向传播保持完全密集，因此训练得到的模型仍然是标准的密集模型，现有系统（如 vLLM）无需任何修改即可直接服务。对于反向传播阶段，LazyFlash 提出了一种梯度-a

事件进展与其他报道

Hugging Face 官方博客

IBM发布Granite时序集成预测模型：四模型零微调组合，提供稳健默认预测方案

IBM Research推出开源的Granite Timeseries Ensemble（v1），集成PatchTST-FM-r1/r2、FlowState与Tiny Time Mixers四类预训练架构，支持零微调下的概率性集成预测；默认采用等权概率池化（Probabilistic Ensemble），亦提供基于四分位距自适应加权（IQR Ensemble）；在GIFT-Eval基准（截至2026-10-20快照）上，其点预测误差（MASE=0.683）略优于最佳单模型，整体鲁棒性显著提升。

事件进展与其他报道

AWS Machine Learning Blog

i14发布Laplace 3B线性注意力模型：基于AWS Trainium2与原生PyTorch实现固定状态内存推理

i14推出30.28亿参数的Laplace 3B模型，采用门控线性注意力（GLA）替代Softmax注意力，其推理时每序列递归状态恒为29.5 MB，与上下文长度无关；该模型在单台AWS trn2.48xlarge（16颗Trainium2芯片）上完成训练与服务验证，训练吞吐达12万token/秒，服务吞吐11544 output token/秒（1280并发序列），所有性能数据均为i14与AWS GenAIIC团队内部实测结果。

官方教程
事件进展与其他报道

西蒙·威利森

llm-echo 0.5

发布：llm-echo 0.5 我正在筹备一个新的LLM版本，而在测试Pull Request时，我又重新审视了llm-echo调试插件。这个插件提供了一个“模型”，它完全不涉及任何LLM——只是原样回显输入的提示内容。新版本现已更新了模拟的token使用统计，将工具调用、系统提示以及推理token都纳入考量。示例用法如下：uvx --with llm-echo llm -m echo 'hi there' -o thinking 1 --usage 输出结果： 首先我考虑提示内容，然后决定该说些什么。{ "prompt": "hi there", "system": "", "attachments": [], "stream": true, "previous": [] } Token使用情况：输入2个，输出24个 标签：llm

个人
事件进展与其他报道