AI ニュースを検索

アーティファクト蒸留：フロンティアモデルから小型言語モデルへの訓練不要な転移

arXiv:2610.37680v1 発表タイプ：新規 要旨：フロンティアモデルと小型言語モデルの性能差を埋める手法としては、通常は蒸留が用いられます。すなわち、フロンティアモデル（教師）の出力に対して小型モデル（生徒）を微調整することで転移を行いますが、この方法では転移に必要な計算コストが伴う上、転移された知識はほとんど不透明なままです。そこで私たちは「アーティファクト蒸留」を提案します。これは、教師モデルが学習課題を解き、その問題解決手順を外部にアーカイブしておき、生徒モデルが推論時にそのアーカイブを参照するという手法です。これにより、勾配による更新は一切不要となります。LiveBenchの4つのタスクにおいて、Claude Opus 4.5が作成したアーカイブを用いることで、Claude Haiku 4.5は空間的推論において、コストを60％に抑えながら、無補助のClaude Sonnet 4.5を0.707対0.647で上回り、テーブル結合タスクではコストを89％に抑えた上でSonnet 4.5と同等の性能を達成しました。さらに、同じ生データのアーカイブを用いることで

CONCUR：多タスク・多報酬強化学習における一致型補助報酬

arXiv:2610.36437v1 発表タイプ：新規 要旨：大規模言語モデル（LLM）が複数のタスクに対して強化学習（RL）で学習する際、各タスクの主報酬は、長さ報酬などの補助報酬を制限することができる。すなわち、不適切な応答に対しては、補助報酬は主報酬を超えることができない。しかし、グループ相対優位推定器では、制限された補助報酬も他の要素と同様に扱われるため、主報酬の順序を逆転させたり、主報酬の上限においてのみ補助報酬が応答の順序を決定したりしてしまう。制限された補助報酬を維持すると一部のタスクに悪影響を及ぼし、一方でそれを排除すると別のタスクに悪影響を及ぼす。そこで我々は、各制限付き補助報酬の標準化スコアを、二つの条件を満たす最も近いスコアに置き換える優位推定器であるCONCURを提案する。具体的には、主報酬が高い応答には低いスコアを与えることはできず、また…

EKTルーター：身体化された視覚言語モデルにおける専門家と証拠の整合性

arXiv:2610.33044v1 発表タイプ：新規 要旨：身体を備えた視覚言語モデルは、部分的で変化する観測情報から質問に答える必要があります。その成功は、選択される推論能力と、それに利用可能な証拠の両方に依存します。専門家ルーターは内部計算を適応させ、ツール拡張型システムは外部証拠を獲得しますが、これらを独立に選択すると、適切な専門家が必要な証拠を持たない状況が生じる可能性があります。私たちは、能力専門家、オプションの知識、および知覚ツールを共同で選択する制限付きフレームワークであるEKT-Routerを提案します。結果に基づくシグネチャは、一般推論、空間推論、時空間推論の各専門家の重なり合う強みを表現します。共同ユーティリティは、呼び出し予算の下で完全な専門家–証拠経路のスコアリングを行います。取得後、パケット検証器が有効なものを承認します

行動のペナルティをいつ停止すべきか？VLA強化学習におけるマルチンゲールGRPO

arXiv:2610.32431v1 発表タイプ：新規 要旨：視覚・言語・行動（VLA）のロールアウトが失敗したとしても、すべての行動が失敗に寄与したわけではない。しかし、グループ相対方策最適化（GRPO）では、ロールアウト中の全行動に対して単一の軌道レベルの優位性が割り当てられるため、本来有用な復旧試行すら、それらが修正しようとする誤りとともにペナルティを受ける可能性がある。失敗フィードバックにおける理想的な停止条件は、成功確率および方策スコアのマルチンゲールを用いて特徴付けられる。これらの停止点において、除去された勾配寄与は、保持された情報条件下で条件付き期待値がゼロとなる。したがって、切り捨てによって参照となるGRPOのグループ勾配推定器の期待値は維持され、その共分散を低減できる。このような停止の一つは、成功の条件付き確率が

Import AI 478：アライメントのための数学、ProgramBench、およびMirendilがRSIの意味を示す

機械にとって「夜」とは何でしょうか？

文脈内依存関係解析のためのPOSシグネチャーによるデモンストレーション検索

arXiv:2610.31966v1 発表タイプ：新規 要旨：文脈内学習におけるデモンストレーションは、しばしば意味的類似性によって取得されるが、これは構造化予測における関連性を十分に反映しない場合がある。本研究では、POSシグネチャーに基づくポリシーを用いて、Universal Dependenciesの構文解析におけるデモンストレーション選択を検討した。このポリシーは文を重み付けされた品詞統計で表現し、ラベル付き訓練分割から長さが一致するゴールド解析済みの例を3つ取得する。我々は、微調整を行わないオープンウェイト言語モデル2種をUD English Web Treebankテストセットの全2,077文に対して評価し、ショット数やフォーマットが一致する固定および意味的3ショットベースライン、さらにゼロショット、チェーンオブソート、クリティック・リファインメントシステムと比較した。POSシグネチャーによる検索は、最も高いラベル付きアタ

オンライン3Dビンパッキングにおける空間ヒューリスティック戦略に基づく拡散強化学習

arXiv:2610.32241v1 発表タイプ：新規 要旨：従来のヒューリスティック手法は、空間利用率やレイアウトのコンパクトさといった3Dビンパッキングの核心的な目標において、人為的に設計されたルールベースの論理に依存することで成熟した経験を蓄積してきました。しかし、一般化能力や動的シナリオへの適応性には明らかな限界が見られます。一方、強化学習の空間探索能力と拡散学習のデータ分布モデリング能力を統合した拡散強化学習は、行動分布のモデリングや意思決定の遵守制約の面で一定の進展を遂げています。それでもなお、3Dビンパッキングにおける空間的トポロジー構造の十分な把握や、レイアウト最適化能力の限定といった課題が残されています。

研究では、政治的論争言説における非明示的推論（エンティメ）の識別に関するアノテーション上の意見対立に対処するための新たな評価手法とモデルを提案している

本論文は、ワクチン接種および移民に関するトゥイートデータ（各投稿は5人のアノテーターによって独立してラベル付けされている）を基に、既存のファインチューニングモデルがエンティメム検出タスクにおいてF1スコアが常に約0.67で頭打ちとなることを明らかにした。これを受け、著者らは単一ラベルによる評価パラダイムを放棄し、アノテーターの意見分布を捉える新たな指標を採用するとともに、その分布を直接予測できるモデルを設計することで、F1スコアを低下させることなく人間の判断の相違をより適切に捉えられるよう提案している。

注目する理由：本論文は、NLP分野で長らく見過ごされてきた「アノテーター間の意見相違こそが本質的な特徴である」という現実に正面から向き合っている――特に政治的に敏感な文脈においては、エンティメの識別は主観的推論に大きく依存する。その方法論上の転換（点予測から分布予測への移行）と、言説構造の限界を実証的に明らかにした点は、コンテンツ審査システムの設計に対して明確な警鐘を鳴らしている：多数決に基づいて学習させたモデルは、深い文脈推論を要する隠れた論証を体系的に見落とすおそれがある。

Amazon SageMaker AIがマルチラウンド強化学習（MTRL）フレームワークを発表し、エージェントによる多段階タスクのエンドツーエンド学習をサポートします

AWSはMulti-Turn Reinforcement Learning（MTRL）機能をリリースし、ユーザーはSageMaker AI上で、ステップ単位のアノテーションなしに、タスク全体の遷移と最終的な結果に基づいて大規模モデルエージェントを訓練できるようになりました。Wordleを例に、AgentCoreのデプロイ、データ準備、PPOトレーニング、報酬設計、コスト分析に至るまで、一連のワークフローを実演しています。