2026년 10월 24일 arXiv 플랫폼에 게시된 연구(번호 2610.30785v1)는 현재 주류 대형 언어 모델(OpenAI 및 Anthropic 소속)이 인종, 성별 등 보호되는 특성과 관련된 프롬프트에서 거부하거나 모호한 답변을 내놓는 경향이 있으며, 이로 인해 ‘불가시화(invisibilization)’라는 새로운 유형의 확률적 편향이 발생한다고 지적했다. 해당 연구는 두 개의 용기 베이즈 게임 과제를 통해 6,600회의 대화 세션에서 각기 다른 정체성 묘사의 보고자에 대한 모델의 신뢰 평가 행동을 체계적으로 검증하였다.
결과는 다음과 같다: 보고자가 ‘Black’으로 표기되었을 때 모델이 해당 정보를 평가하지 않는 비율은 46%에 달한 반면, ‘white’로 표기된 경우에는 단 9%에 불과했다. 그러나 일단 모델이 평가를 선택하면, 흑인으로 표기된 보고자에 대한 신뢰도가 오히려 백인으로 표기된 보고자보다 약간 높게 나타났다. 이러한 편향은 평균 신뢰 점수를 비교하거나 평가된 사례만을 분석하는 등의 일반적인 감사 방식으로는 탐지되지 않으며, 모델의 추론 노력이 증가할수록 더욱 심화된다. 또한 이 편향은 특정 영어 어휘(예: ‘Black’)에만 강하게 결합되어 있으며, 의미적으로 동등한 표현(예: 스페인어 ‘negro’)이나 유사한 개념(예: ‘Indigenous’)으로는 확장되지 않고, 전형적인 보안 경고 지침을 적용한 후에도 더욱 악화된다.
연구는 또한 하나의 완화 방안을 제시한다: 여러 단계에 걸친 작업에서 ‘진실 밝히기’를 기준으로 모델의 신뢰 출력을 평가하면, Anthropic와 OpenAI의 다섯 가지 테스트 구성 중 네 가지에서 인종 간 신뢰 격차를 0.02 이하로 낮출 수 있다. 이 성과는 통제된 실험에 기반한 것으로, 실제 세계 상호작용을 대표한다고 주장하지 않으며, 다른 보호받는 속성이나 미검증된 모델 버전으로 확장되지 않았다.