본문으로 건너뛰기
AI NEWS JOURNAL
AI, IN PERSPECTIVE

AI 뉴스 검색

제목, 요약, 본문을 검색해 흩어진 정보를 연결하세요.

발행 시간순

3, 7, 14, 17, 42: 지도 조정이 언어 모델의 숫자 선택 휴리스틱을 설치하고 날카롭게 만든다

arXiv:2610.36178v1 발표 유형: 신규 초록: 우리는 임의의 숫자를 요청받았을 때 언어 모델이 1부터 N까지의 각 정수에 부여하는 확률을 표본 오차 없이 측정한다. 고정된 프롬프트 하에서 모델은 하나의 확률 벡터를 정의하며, 이는 표본 추출로 추정하는 방식이 아니라 각 정수의 점수화된 표현을 모두 합산하여 계산함으로써 기존 연구들[1, 4]에서 제한되던 노이즈를 제거한다. 우리는 두 개의 추론 스택에서 N = 100까지의 다섯 가지 범위에 걸쳐 18개의 오픈 웨이트 모델 라인을 29가지 디코딩 구성하에 평가하였으며, 그 중 15개 모델은 사용 가능한 답변을 제공하는 기본 체크포인트와 지도 조정 체크포인트가 모두 일치하였다. 지도 조정은 이 15쌍 모두에서 분포를 보다 균일하지 않게 만들며, 하나의 휴리스틱인 ‘둥근 수 회피’를 도입하고 또 다른 휴리스틱인 ‘종점 회피’를 더욱 명확히 한다. 기본 체크포인트

진행 상황 및 관련 보도

$\Psi$-0.6: 통합된 비전-언어 세계 모델에서의 적응형 사고 흐름

arXiv:2610.32177v1 발표 유형: 신규 초록: 인간은 문제의 전개 과정에서 다양한 추론 방식을 유연하게 결합함으로써 물리적 세계에 대해 추론합니다. 이러한 유연성을 구현하는 것은 AI 분야의 주요한 미해결 과제로, 기능들이 종종 각각의 전문 모델들로 분리되어 있어 이를 어떻게 조합하고 특정 작업에 맞춰 공동으로 적응시킬 수 있는지에 대한 한계가 존재합니다. 우리는 $\Psi$-0.6을 제안하며, 이는 시각과 언어를 통합한 세계 모델로서, 사고 흐름이라 부르는 공유된 추론 프로세스 내에서 지각, 언어, 기하학 및 시뮬레이션을 적응적으로 구성합니다. 이러한 사고 흐름들은 이미지, 텍스트, 그리고 기하학과 운동에 대한 명시적 표현을 서로 교차하여 처리하며, 모든 요소는 공유된 토큰 인터페이스를 통해 모델이 생성하고 해석할 수 있습니다. $\Psi$-0.6은 다중 뷰 공간 문제에 대해 제로샷 성능에서 선도적인 오픈 웨이트 모델들을 능가합니다.

진행 상황 및 관련 보도