本文へ移動
AI NEWS JOURNAL
arXiv cs.CLAI NEWS / JOURNAL

曖昧さを解消する前に検出する:大規模言語モデルにおける摂動ベースの入力曖昧さ検出

arXiv:2610.36353v1 発表タイプ:新規 要旨:大規模言語モデル(LLMs)は、曖昧な入力に対してしばしば、一つの明確な意図された意味があるかのように回答してしまう。これは問題である。なぜなら、入力の曖昧さは不確実性の上流側の源泉であり、プロンプトが複数の妥当な解釈を許す場合、そもそもモデルが直接回答すべきかどうかという重要な問いが生じるからだ。既存の入力不確実性に関する手法の多くは、LLMによって生成された文や補足情報に依存しているが、こうした変換によって曖昧さが測定される前にすでに解消されてしまうおそれがある。そこで私たちは、元の入力に近い形で変化を加えながらもそのラベルを保持する、入力の曖昧さ検出のためのラベル保持型摂動フレームワークを提案する。この原則を具体化するために、二つの検出器を実装した。一つはブラックボックス型のルールベースの摂動ライブラリであり

翻訳サービスが停止中のため原文を表示しています。

arXiv:2610.36353v1 Announce Type: new

Abstract: Large language models (LLMs) often answer ambiguous inputs as if they had a single intended meaning. This is problematic because input ambiguity is an upstream source of uncertainty: when a prompt admits multiple valid interpretations, the key question is whether the model should answer directly at all. Existing input uncertainty methods often rely on LLM-generated statements or clarifications, but such transformations may already disambiguate the input before the ambiguity is measured. We propose a label-preserving perturbation framework for input ambiguity detection in which perturbations remain close to the original input while preserving its label. We instantiate this principle with two detectors: a black-box rule-based perturbation library and a white-box importance-guided method using model-internal signals. Experiments across four datasets in open-domain, conversational, and visual QA show that our methods outperform output-side uncertainty baselines and LLM-paraphrase-based perturbation baselines. Our results highlight the importance of detecting ambiguity before attempting to disambiguate it. Our code is available \href{https://github.com/Xiao0o0o/input-ambiguity-detection}{\textcolor{purple}{here}}.

出典

原文を読む ↗

関連テーマ

← すべてのニュースへ