本文へ移動
AI NEWS JOURNAL
arXiv cs.CLAI NEWS / JOURNAL

研究では、自己評価強化学習フレームワークSARLを提案し、検索拡張型大規模モデルの探索状態認識能力を向上させました。

2026年10月24日、arXivは論文arXiv:2610.30435v1を公開し、既存の検索強化型大規模言語モデルにおいて、検索エージェントが検索状態を認識する能力を欠いているという問題を解決することを目的とした、自己評価強化学習(SARL)フレームワークを提案しました。

AI 自動翻訳

2026年10月24日、arXivプラットフォームにおいて『Self-Assessment Reinforcement Learning for Search-State Awareness in Retrieval-Augmented Large Language Models』という題名の論文が初めて公開され(掲載番号:arXiv:2610.30435v1)、検索拡張型大規模言語モデルにおいて、検索エージェントの自身の検索状態に対する認識能力を強化するための強化学習フレームワークであるSelf-Assessment Reinforcement Learning(SARL)が提案された。

既存の検索エージェントは、多くの場合、検索状態を把握する能力に欠けており、どの情報がすでに取得済みで、どの情報がまだ不足しているかを識別することが困難です。その結果、錯覚による推論や検索の早期終了が生じてしまいます。SARLは、学習段階で組み込まれた自己評価メカニズムにより、モデルが自ら検索状態を認識し、検索行動を最適化できるようにします。しかも、テスト時には追加の評価モジュールを導入する必要がありません。その核心は二重報酬設計にあり、各自己評価の修正効果を捉えると同時に、評価への過度な依存を罰することで、検索経路の有効性と効率性を協調的に向上させます。

実験の結果、SARLは最も強力なベースラインに比べて相対的に24.3%の性能向上を示した。また、マルチホップ推論および深層研究のベンチマークにおいては、それぞれ対応する最強の単一ベースラインを平均で35.9%と27.9%上回った。注目すべき点は、SARLが独立した強化学習フレームワークであり、補助的な教師信号や多エージェント協調に依存せず、推論時のスキャフォールディング構造も持たないにもかかわらず、これらの手法を凌駕していることである。さらに、探索ステップ数を拡張することで学習が不安定になるような状況においても、SARLは安定性を維持する一方で、既存の手法はこうした複雑なタスクにおいて継続的に性能が低下することが確認された。

情報源

arXiv cs.CL

関連テーマ

← すべてのニュースへ