누구를 신뢰해야 하는지 아는 것만으로는 충분하지 않다: 반복되는 다자간 LLM 협상에서의 신뢰–합의 간극

arXiv:2610.31971v1 발표 유형: 신규 초록: 대규모 언어 모델(LLM) 에이전트는 개인과 조직을 대신해 협상에 점점 더 많이 참여하고 있지만, 특히 반복적인 다자 간 상호작용에서는 여전히 조작에 취약한 상태입니다. 전통적인 다중 에이전트 시스템은 명시적인 신뢰 및 평판 모델을 통해 이러한 도전 과제를 해결하는 반면, LLM 기반 협상에 관한 기존 연구들은 대부분 신뢰를 자연스럽게 발생하는 현상으로 간주합니다. 우리는 LLM 에이전트가 이전 상호작용을 바탕으로 유용한 신뢰 추정치를 형성하고 이를 활용해 향후 협상 결과를 개선할 수 있는지 탐구합니다. 우리는 반복적이고 다자간이며 다중 이슈로 구성된 협상 프레임워크를 제안하며, 여기서 재참여하는 에이전트들이 일련의 협상 게임에 참여하는 동안 한 참가자가 은밀히 합의를 방해하려 시도합니다.