arXiv:2610.36178v1 발표 유형: 신규
요약: 우리는 임의의 숫자를 요청했을 때 언어 모델이 1부터 N까지의 각 정수에 부여하는 확률을 표본오차 없이 측정한다. 고정된 프롬프트 하에서 모델은 하나의 확률 벡터를 정의하며, 이는 표본 추출로 추정하는 대신 각 정수의 점수 부여된 철자들을 모두 합산하여 계산하므로, 기존 연구들[1, 4]에서 한계를 초래하던 노이즈를 제거한다. 우리는 두 개의 추론 스택에서 29가지 디코딩 구성 하에 N = 100까지의 다섯 가지 범위에서 18개의 오픈 웨이트 모델 라인을 평가하였으며, 그 중 15개 모델은 사용 가능한 답변을 제공하는 기본 체크포인트와 지도학습 체크포인트를 모두 갖추고 있다. 지도학습은 모든 15쌍에서 분포를 보다 균일하지 않게 만든다. 이는 하나의 휴리스틱인 ‘원수 회피’를 도입하고, 또 다른 휴리스틱인 ‘종점 회피’를 더욱 명확히 한다. 기본 체크포인트는 종점이 해당 집합에서 제외된 이후에는 원수를 회피하지 않지만, 지도학습 체크포인트는 이를 완전히 회피하며, 특히 10의 배수를 거의 완전히 피한다. 기본 체크포인트는 종점인 1과 N을 내부 값의 0.30~0.60 수준으로 반환하는 반면, 지도학습 체크포인트는 거의 이를 반환하지 않는다. 홀수 선호 경향은 지도학습 체크포인트들 사이에서 N = 100에서만 일관되게 나타나며, 이때 기본 체크포인트 역시 약하게 이를 보여준다. 종점 회피와 홀수 선호는 Kubovy와 Psotka[6]가 제시한 인간의 숫자 선택에 대한 설명과 잘 부합하지만, 원수 회피는 해당 설명의 일부가 아니며, 그들이 예측하는 중간값 회피 또한 사실상 존재하지 않는다. 단, N = 100에서만 약간의 예외가 관찰된다. 지도학습은 모델 간에 공유되는 새로운 선호 정수를 추가하지 않는다: N = 10을 넘어서면, 지도학습 조건의 42% 이상에서 공유되는 모달 정수가 존재하지 않으며, P(17)은 15쌍 중 10쌍에서 상승하고 5쌍에서는 하락한다. 이러한 집중 현상은 모델 자체의 분포에서도 확인된다: 온도 1.0에서 top-p 0.95 기준의 핵심 절단은 전체 변동성에 중앙값 0.035를 추가한다. 거리.