本文へ移動
AI NEWS.ccAI正在发生 未来正在更新
ニュースのブックマーク
THE JOURNAL
AI NEWS JOURNAL
AI, IN PERSPECTIVE

AI ニュースを検索

見出し・要約・本文から、情報のつながりを探します。

公開日時順

arXiv cs.CL

アーティファクト蒸留：フロンティアモデルから小型言語モデルへの訓練不要な転移

arXiv:2610.37680v1 発表タイプ：新規 要旨：フロンティアモデルと小型言語モデルの性能差を埋める手法としては、通常は蒸留が用いられます。すなわち、フロンティアモデル（教師）の出力に対して小型モデル（生徒）を微調整することで転移を行いますが、この方法では転移に必要な計算コストが伴う上、転移された知識はほとんど不透明なままです。そこで私たちは「アーティファクト蒸留」を提案します。これは、教師モデルが学習課題を解き、その問題解決手順を外部にアーカイブしておき、生徒モデルが推論時にそのアーカイブを参照するという手法です。これにより、勾配による更新は一切不要となります。LiveBenchの4つのタスクにおいて、Claude Opus 4.5が作成したアーカイブを用いることで、Claude Haiku 4.5は空間的推論において、コストを60％に抑えながら、無補助のClaude Sonnet 4.5を0.707対0.647で上回り、テーブル結合タスクではコストを89％に抑えた上でSonnet 4.5と同等の性能を達成しました。さらに、同じ生データのアーカイブを用いることで

経緯と関連報道

arXiv cs.DC

適応型最適化における勾配補正：適応前の修正

arXiv:2502.02727v4 発表タイプ：置換・交差 要旨：クライアントドリフト補償手法は、フェデレーテッド学習（FL）におけるデータの非均一性の影響を軽減します。確率的勾配降下法（SGD）ベースのFLではドリフト補正が十分に研究されてきましたが、適応型クライアント最適化手法との相互作用についてはまだ十分に解明されていません。Adamなどの適応型最適化手法は、過去の勾配の移動平均を用いて各更新を行います。そのため、最終的な更新方向のみを補正しても、その移動平均とそこに含まれるドリフトは変更されません。私たちは、これらの移動平均に入る前に各勾配を補正する「フェデレーテッド適応型勾配補正（{\tt FA-GC}）」を提案し、最終的な方向に補正を加える「フェデレーテッド適応型素朴追跡（{\tt FA-NT}）」と比較しました。実験により、ある理想的な

経緯と関連報道

arXiv cs.CV

ProtoEEG：EEGの視覚的デコーディングのための構造化されたプロトタイプアライメント

arXiv:2610.33065v1 発表タイプ：新規 要旨：頭皮上の記録はノイズが多く、空間的に粗く、試行間および被験者間で変動するため、EEGによる視覚デコーディングは依然として困難である。多くのシステムでは、各試行を高密度な画像埋め込みに位置合わせしているが、その埋め込みには意味内容と、インスタンス固有のテクスチャ・姿勢・背景が混在している。このような手法では、EEGには存在しない詳細情報を必要とする上、予測を支える視覚的要因について明示的な説明を提供していない。そこで私たちは、共有可能な学習可能な視覚コードブックに基づくソフトな合成としてEEG–画像の位置合わせを再定式化する、プロトタイプ媒介型フレームワークである\textbf{ProtoEEG}を提案する。学習可能なEEGエンコーダーと固定された視覚教師が、同一の$K=64$個のプロトタイプに対する割り当て分布を生成し、それらの重み付けされた再構成が構造化された表現を形成する。

経緯と関連報道
arXiv cs.LG

ReMedI：制御可能な分子最適化のための推論時精緻化と自己蒸留

arXiv:2610.32103v1 発表タイプ：新規 要旨：創薬において、リード最適化では、透過性の向上や毒性の低減といった相反する特性を改善しつつ、リードの活性を損なう可能性のあるスケルトン変更を抑制しなければなりません。C-MORAL などの強化学習ベースのポストトレーニング手法は、分子言語モデルを微調整することで、関心のある目的に対して分子リードを直接最適化するというアプローチを採用していますが、これには高価なタスク固有のデータセットが必要であり、多目的最適化（MOO）の実現にも課題が伴います。我々は、事前学習済みモデルには、ゼロショット生成では効率的に到達できない有用な分子編集がすでに含まれている可能性があると主張します。ゼロショット生成の探索能力の限界に着目し、我々は効率的なメトロポリス・ハスティングス探索戦略を開発し、ベット

経緯と関連報道
arXiv cs.DC

GLPネットワーキングAPI仕様

arXiv:2610.32583v1 発表タイプ：クロス 要旨：マルチエージェント確定的GLP（madGLP）は、非同期メッセージ送信のみで通信するエージェントとしてグラスルーツ論理プログラム（GLP）を実行し、公平な配信を前提としています。すなわち、送信されたすべてのメッセージは最終的に必ず配信されます。各エージェントは個人のスマートフォン上で動作し、その識別子は本人の公開鍵によって指定されます。グラスルーツ型プラットフォームは、ネットワーク以外にグローバルなリソースを必要としないため、エージェント間の通信はBluetooth Low Energyやローカルネットワーク、さらにはNAT越しにインターネット経由で、誰でも運用可能なランデブーサーバーを通じて行われなければなりません。このようなネットワークがmadGLPに対して何を要求し、またネットワーク自身がプラットフォームに対して何を要求するのかについては、これまで明確に定義されていませんでした。そこで、私たちはmadGLPの下層に位置するネットワーキング層を規定します。GLPで実現可能なことはすべてGLPで実現されるため、この層が提供するのはあくまで

経緯と関連報道