arXiv cs.CLAI NEWS / JOURNAL
프론티어 대규모 언어 모델에서의 애쉬 동조에 대한 정량적 접근
arXiv:2610.36668v1 발표 유형: 신규 초록: 애쉬 동조 실험은 최근 대규모 언어 모델(LLM)에서의 동조를 측정하는 방법으로 상당한 주목을 받고 있습니다. 기존 연구들이 LLM에서의 동조를 입증하는 데 집중해 왔다면, 우리 연구는 이 접근법에 추가적인 정량적 층을 더합니다. 우리는 프론티어 LLM을 여러 질문 세트에 대해 샘플링하는 대신, 단일 질문을 반복적으로 샘플링하여 LLM의 확률적 특성을 활용해 답변 분포를 생성합니다. 이를 통해 모델에 가공된 합의가 제시되기 전후의 답변 분포를 비교할 수 있습니다. 우리의 실험은 프론티어 LLM이 실제로 동조를 보임을 확인하며, 기존 문헌을 뒷받침하고, 분포 간 비교를 통해 추가적인 정보를 제공합니다.
arXiv:2610.36668v1 발표 유형: 신규
요약: 아시의 순응 실험은 최근 대규모 언어 모델(LLM)에서의 순응을 측정하는 방법으로 큰 주목을 받고 있다. 기존 연구들이 LLM의 순응을 입증하는 데 초점을 맞춰 왔다면, 본 연구는 이 접근법에 추가적인 정량적 분석을 더했다. 우리는 질문 세트를 대상으로 최첨단 LLM을 표본 추출하는 대신, 단일 질문을 반복적으로 샘플링하여 LLM의 확률적 특성을 활용해 답변 분포를 도출한다. 이를 통해 모델에 인위적으로 조작된 합의를 제시하기 전후의 답변 분포를 비교할 수 있다. 우리의 실험 결과는 최첨단 LLM이 실제로 순응함을 확인하며, 기존 연구들을 보강하고, 분포 간 비교를 통해 순응을 유도하는 조건과 그 정도에 관한 추가적인 정량적 데이터를 제공한다.
← 전체 소식 이어 읽기