本文へ移動
AI NEWS JOURNAL
AI, IN PERSPECTIVE

AI ニュースを検索

見出し・要約・本文から、情報のつながりを探します。

公開日時順

アーティファクト蒸留:フロンティアモデルから小型言語モデルへの訓練不要な転移

arXiv:2610.37680v1 発表タイプ:新規 要旨:フロンティアモデルと小型言語モデルの性能差を埋める手法としては、通常は蒸留が用いられます。すなわち、フロンティアモデル(教師)の出力に対して小型モデル(生徒)を微調整することで転移を行いますが、この方法では転移に必要な計算コストが伴う上、転移された知識はほとんど不透明なままです。そこで私たちは「アーティファクト蒸留」を提案します。これは、教師モデルが学習課題を解き、その問題解決手順を外部にアーカイブしておき、生徒モデルが推論時にそのアーカイブを参照するという手法です。これにより、勾配による更新は一切不要となります。LiveBenchの4つのタスクにおいて、Claude Opus 4.5が作成したアーカイブを用いることで、Claude Haiku 4.5は空間的推論において、コストを60%に抑えながら、無補助のClaude Sonnet 4.5を0.707対0.647で上回り、テーブル結合タスクではコストを89%に抑えた上でSonnet 4.5と同等の性能を達成しました。さらに、同じ生データのアーカイブを用いることで

経緯と関連報道

推論を行う大規模言語モデルのための教師あり微調整:サーベイ

arXiv:2610.37681v1 公表タイプ:新規 要旨:近年、大規模な推論モデルは複雑なタスクの解決において顕著な能力を示しており、長文の思考過程データに対する教師あり微調整(SFT)が、その推論能力を引き出し、さらに向上させるための重要な基盤となっています。推論に特化したSFTの改善と分析の両面で急速な進展が見られるにもかかわらず、この分野には依然として、急成長する文献を統合した体系的なサーベイが存在しません。このギャップを埋めるために、私たちは推論向けSFTに関する最近の進展を包括的にレビューし、方法論的設計と分析的検討という二つの視点から文献を考察します。まず、SFTパイプライン全体にわたる方法論上の改良を概観し、それらをデータ中心のアプローチとアルゴリズム中心のアプローチに分類します。

経緯と関連報道

トークン信頼度は単なるチェーン長にすぎないのか?推論トレースに対する信号処理的検証

arXiv:2610.36709v1 発表タイプ:新規 要旨:推論型言語モデルは、長い思考の連鎖を書き出すことで数学問題に解答し、問題ごとに多数の連鎖をサンプリングして多数決を取ることで、生成テキスト量が大幅に増えるというコストを伴いながら精度を向上させている。このコストを削減する一般的な手法として、モデルが各トークンを生成する際の信頼度に基づいて各連鎖をスコアリングする方法がある。ここでトークンとは、単語または単語の一部を指す。この手法では、2048トークンの移動平均を計算し、その平均値が最も低い連鎖を保持または停止する。私たちは、トークンごとに記録された信頼度を、音声やラジオにおける信号と同様の意味で捉え、スペクトル解析や急激な変化を検出する統計検定などの標準的な信号処理手法を用いてこの手法を評価した。私たちは、以下のデータセットから500問の各問題について16本の連鎖をサンプリングした。

経緯と関連報道

物理学に基づく最適化のためのエンドツーエンド微分可能な拡散条件付け

arXiv:2610.31721v1 発表タイプ:新規 要旨:評価コストが高く、複雑な制約条件下で高次元の物理系を最適化することは、科学および工学における中心的な課題である。オフラインのモデルベース最適化(MBO)では、テスト時に真の目的関数にアクセスできない状況下で、固定されたデータセットのみを用いて設計を改善しなければならない。しかし、既存の手法は一般的に保守的すぎる、代理モデルの無制限な活用、あるいは精密な物理的目標に対して候補を精緻に修正できない静的な推論時サンプリングとして機能するといった問題を抱えている。本稿では、確定的サンプリングにより逆ノイズ除去チェーンが条件付信号に関して微分可能となるという事実を活用した、オフラインMBO向けの微分可能な拡散条件付け(D2C)を提案する。D2Cは…

End-to-End Differentiable Diffusion Conditioning for Physics-Informed Optimization
経緯と関連報道

文脈内依存関係解析のためのPOSシグネチャーによるデモンストレーション検索

arXiv:2610.31966v1 発表タイプ:新規 要旨:文脈内学習におけるデモンストレーションは、しばしば意味的類似性によって取得されるが、これは構造化予測における関連性を十分に反映しない場合がある。本研究では、POSシグネチャーに基づくポリシーを用いて、Universal Dependenciesの構文解析におけるデモンストレーション選択を検討した。このポリシーは文を重み付けされた品詞統計で表現し、ラベル付き訓練分割から長さが一致するゴールド解析済みの例を3つ取得する。我々は、微調整を行わないオープンウェイト言語モデル2種をUD English Web Treebankテストセットの全2,077文に対して評価し、ショット数やフォーマットが一致する固定および意味的3ショットベースライン、さらにゼロショット、チェーンオブソート、クリティック・リファインメントシステムと比較した。POSシグネチャーによる検索は、最も高いラベル付きアタ

経緯と関連報道

研究は、多言語評価における「大規模モデルが審判を務める」手法の効果が、審判モデルの選択に極めて依存することを明らかにした

2026年10月24日付のarXivに掲載された多言語に関する実証研究によると、現在主流のプロンプト戦略(たとえばチェーン・オブ・シンキングやキャラクター設定)は、LLM-as-a-Judgeのシナリオにおいてモデル間・言語間で移転性を有していないことが明らかになった。また、審判モデルの選択がプロンプト戦略そのものよりもはるかに大きな影響を及ぼしており、さらには戦略の効果が異なる審判モデル間で方向性が逆転することすらあるという。

Prompting Strategy Effects Depend on the Judge: A Multilingual Study of LLM-as-a-Judge Robustness

注目する理由:本研究は、9種類のプロンプト戦略、4つのオープンソースの審判モデル、27言語および13のデータセット間の相互作用効果を初めて体系的に測定し、人手による検証を経た100万件を超えるポイント対ポイントのスコアを生成することで、英語を中心としたプロンプト研究と固定テンプレートに基づく多言語研究の間にある重要なギャップを埋めました。

経緯と関連報道