代币置信度仅仅是链长吗?对推理轨迹的信号处理审计
arXiv:2610.36709v1 发布类型:新 摘要:推理型语言模型通过撰写冗长的思维链来解答数学问题,而对每个题目采样多条思维链并以多数投票的方式提高准确率,却会大幅增加生成文本的开销。一种常见的降本方法是根据模型对其所生成的每个标记(token)的信心值为每条思维链打分,其中“标记”指一个词或词的一部分。该方法将这种信心值在滑动窗口内(长度为2048个标记)进行平均,并依据最低的平均值决定保留或终止相应思维链。我们将逐标记记录的信心值视为一种类似于音频或无线电信号的特征,并借助谱分析、统计检验等标准信号处理工具,检测其中是否存在突变。我们从……中选取了500道题目的每道题各16条思维链进行采样。
