本文へ移動
AI NEWS JOURNAL
AI, IN PERSPECTIVE

AI ニュースを検索

見出し・要約・本文から、情報のつながりを探します。

公開日時順

どの方針に対して校正されるのか?介入下における固定世界モデルに対するコンフォーマル不確実性

arXiv:2610.35877v1 発表タイプ:新規 要旨:デプロイメント方針を変更すると、物理的な遷移メカニズムや予測器はそのままでも、世界モデルの不確実性が無効化される可能性がある。一歩先の予測において、源と対象の法則が条件付きメカニズム $P(Y|X)=Q(Y|X)$ を共有している場合、介入は事前結果の測度変化 $w(X)=dQ_X/dP_X$ によって特定される。方針制御された動的系では、この比は状態占有と行動傾向の項に分解される。重み付けされたコンフォーマル校正は、マージナルカバレッジを対象の法則へと移行させる;推定された比 $\hat w$ を用いれば、$P_Q\{Y \in C_{\hat w}(X)\} \ge 1-\alpha-TV(Q,\hat Q) \ge 1-\alpha-E_P|w-\hat w|$ が成立する。ソース対ターゲットのドメイン分類器に対する集団ロスレグレットは、同様の比の誤差を上限付ける。もし $h$ がそのクリッピング

経緯と関連報道

医療質問応答における摂動ベースのデータ選択

arXiv:2610.33440v1 公告タイプ:新規 要旨:既存の質問応答データベースから医療用言語モデルを適応させる際、コンパクトな学習サブセットを選択することは重要なステップである。本研究では、最終層表現に対するガウス分布による摂動から導かれる二つの指標—予測変化頻度と非フリッピングマージン収縮—を用いた摂動ベースのデータ選択手法を検討する。共通のエントロピーによる事前フィルタリングを経た後、表現感度優先順位付け(RSP)は自動的な平方平均スケーリングによりこれらの指標を組み合わせる一方、RSP-Dropは収縮のみに基づいて候補をランク付けする。両手法とも、選択時には質問と回答選択肢のみを用いる。我々は、MedGemma-4Bを用い、保持セットのサンプル数が64、128、256の各条件下で、5つの医療質問応答データセットに対して評価を行った。主なサンプル数128の条件下では、

経緯と関連報道

文脈または知識:大規模言語モデルが自らの回答をどのように帰属させるか

arXiv:2610.32109v1 発表タイプ:新規 要旨:言語モデルは、与えられた文書や自身のパラメトリックな知識に基づいて質問に答えることができる。では、後になってその回答の出所を問われた際、どのような基準で出所を報告するのか?本研究では、回答生成後かつ出所に関する質問が提示される前に、モデルのキーバリュー(KV)キャッシュに介入することでこの問題を検討した。4つのモデル(7B~32B)を用いた制御された事実確認タスクにおいて、文書のキャッシュを変更または削除しても、出所の報告内容には一切影響が見られなかった。一方で、同一の質問と回答トークンを用いた複数回の実行間で質問と回答のキャッシュを移植すると、その報告内容は受け渡され、寄贈元の出所報告に従う一方で、受領側の文書内容は変化しなかった。さらに、比較的小規模な2つのモデルでは、出所に関する質問が提示される前に適合させた方向へQ&A値を操作することで、出所の報告内容を意図的に制御することも可能であった。

経緯と関連報道