신경망 광산 속 카나리아: 이미지 분류기의 조용하고 자신감 넘치는 오류 포착

arXiv:2610.33063v1 발표 유형: 신규 초록: 배포된 비전 모델들은 확신이 높은 예측을 자동으로 수용하므로, 고확신 오류가 조용히 확산된다. 표준 실패 예측기인 최대 소프트맥스 확률(MSP)에는 구조적 맹점이 있다: 분류기 헤드에서 읽어오는 스칼라 값으로서, 그 확신 경사와 직교하는 특징 변동에 대해 1차적으로 무방비 상태이다. 특징 공간 탐지기들의 인자 분석을 통해, 이들이 MSP를 보완하지 못하는 이유를 설명하는 조건부 중복성 원리를 규명한다: 이들이 측정하는 클래스 분리 기하학은 이미 MSP에 내장되어 있으며, 융합 과정에서 소멸된다. 그 결과로 남는 신호는 매니폴드 외부 잔여물 위의 클래스 조건부 전형성이며, 이러한 잔여물의 분포는 백본에 따라 가우시안에 가까운 형태에서 무거운 t-분포까지 다양하게 나타난다.