arXiv:2610.37681v1 발표 유형: 신규
요약: 최근 대규모 추론 모델들은 복잡한 과제를 해결하는 데 있어 뛰어난 성능을 보여 왔으며, 이는 장문의 사고 과정 데이터에 대한 지도형 미세조정(SFT)이 그들의 추론 능력을 발현하고 향상시키는 데 핵심적인 기반이 되기 때문이다. 추론 중심의 SFT를 개선하고 분석하는 데 있어 급속한 진전에도 불구하고, 이 분야에는 아직까지 급격히 증가하는 관련 문헌을 체계적으로 종합한 종합적 서베이가 부족하다. 이러한 공백을 메우기 위해 우리는 추론 SFT 분야의 최근 발전을 포괄적으로 검토하며, 방법론적 설계와 분석적 탐구라는 두 가지 관점에서 문헌을 살펴본다. 먼저, SFT 전반에 걸친 방법론적 개선 사항을 검토하고 이를 데이터 중심 접근과 알고리즘 중심 혁신으로 구분한다. 다음으로, 분석 연구들을 데이터 특성, 최적화 동역학, 그리고 메커니즘적 통찰이라는 세 가지 차원으로 재구성한다. 마지막으로, 현재의 연구 주요 방향과 남아 있는 한계점을 종합하여 추론 SFT의 유망한 미래 방향을 제시한다. 본 서베이가 추론 SFT에 대한 이해를 심화시키고 고급 추론 모델의 발전을 촉진하는 계기가 되기를 기대한다.