본문으로 건너뛰기
AI NEWS JOURNAL
arXiv cs.CLAI NEWS / JOURNAL

언어 모델의 응답 다양성에 대한 조건부 상호 정보 분석

arXiv:2611.03836v1 발표 유형: 신규 초록: 대형 언어 모델은 추론(생성) 시 다양한 응답을 제공하며, 이는 전통적으로 온도 파라미터에 의존합니다. 조건부 상호정보 접근법을 사용하여 응답 다양성에 대한 양적이고 엔트로피 기반의 분석을 제시합니다. 무에서 최대 상호정보에 이르는 세 가지 한계 행동을 정의합니다: 중재자, (조건부) 독립, 그리고 중립(결정론적). 각 행동에 대한 예시를 제시하고, 이를 온도 분석, 언어 분석, 프롬프트 압축 및 지식 그래프에 적용할 수 있도록 제안합니다.

이 언어의 번역이 아직 없어 원문을 표시합니다.

초록: 대형 언어 모델은 추론(생성) 시 다양한 응답을 제공하며, 이는 전통적으로 온도 파라미터에 의존합니다. 조건부 상호정보 접근법을 사용하여 응답 다양성에 대한 양적이고 엔트로피 기반의 분석을 제시합니다. 무상호정보에서 최대 상호정보에 이르는 세 가지 한계 행동을 정의합니다: 중재자, (조건부) 독립, 그리고 중립(결정론적)입니다. 각 행동의 예시를 제시하고, 이를 온도 분석, 언어 분석, 프롬프트 압축 및 지식 그래프에 적용할 수 있도록 제안합니다. 제출 내역 논문 열람: PDF 보기 추가 기능 오디오 요약 현재 탐색 컨텍스트: 참고 문헌 및 인용 Google 학술검색 Semantic Scholar 북마크 기관 arXivLabs는 협업자가 당사 웹사이트에서 새로운 arXiv 기능을 직접 개발하고 공유할 수 있도록 하는 프레임워크입니다. arXivLabs를 활용하는 개인과 조직 모두 개방성, 커뮤니티, 우수성, 그리고 사용자 데이터 개인정보 보호라는 당사의 가치를 수용하고 동의했습니다. arXiv은 이러한 가치에 헌신하며, 이에 부합하는 파트너와만 협력합니다. arXiv 커뮤니티에 가치를 더할 프로젝트 아이디어가 있으십니까? arXivLabs에 대해 자세히 알아보세요.

자료 출처

원문 읽기 ↗

관련 주제

← 전체 소식 이어 읽기