arXiv:2610.37681v1 发布类型:新
摘要:近年来,大型推理模型在解决复杂任务方面展现出卓越的能力,而基于长链式思维数据的监督微调(SFT)则是激发并提升其推理能力的关键基础。尽管在改进与分析面向推理的SFT方面取得了快速进展,但该领域仍缺乏一份系统性的综述,以整合其快速增长的文献。为填补这一空白,我们对近期推理型SFT的最新进展进行了全面回顾,并从方法设计与分析研究两大视角对相关文献展开梳理。首先,我们综述了SFT全流程中的方法学改进,并将其划分为以数据为中心的路径与以算法为中心的创新;其次,我们围绕数据特性、优化动力学及机制性洞察三个维度重新组织了分析性研究;最后,通过整合当前的研究重点与尚存的瓶颈问题,我们展望了推理型SFT未来颇具前景的发展方向。我们期望本综述能够深化对推理型SFT的理解,并为构建更先进的推理模型奠定基础。