本文へ移動
AI NEWS JOURNAL
AI, IN PERSPECTIVE

AI ニュースを検索

見出し・要約・本文から、情報のつながりを探します。

公開日時順

露出は承諾ではない:ツールを使用するエージェントに対する潜在的モニターの二層構造評価

arXiv:2610.37679v1 発表タイプ:新規 要旨:ツールを利用する言語エージェントは間接的なプロンプトインジェクションに対して脆弱であり、不安全な動作が実行される前にそれを検出するためにモデルの内部構造を調査する研究が増加しているものの、その結果には著しく矛盾したものが見られる。我々は、こうした矛盾の多くは評価手法に起因するものであると主張し、評価および学習集団の両方において、インジェクションへの曝露と行動上のコミットメントを明確に分離する二層化プロトコルを提案する。主要なQwen AgentDojoのグリッド上で、素朴な不安全対その他との混合対比に基づいて訓練されたモニターは、ほとんどが曝露の認識に注力しており、エージェントがそれに従うかどうかにかかわらず曝露された軌跡をフラグ付けする一方で、どのケースが不安全になるかを予測することはほとんどできない。曝露事例のみを対象に再訓練した場合でも、同じ種類のプローブは、モデル自身による不安全なツール呼び出しを最大2秒前まで予測できる。

経緯と関連報道

アーティファクト蒸留:フロンティア言語モデルから小型言語モデルへの学習不要な転移

arXiv:2610.37680v1 発表タイプ:新規 要旨:フロンティアモデルと小規模言語モデルの性能差を埋める手法としては、通常、知識蒸留が用いられます。すなわち、フロンティアモデル(教師)の出力に対して小規模モデル(生徒)を微調整することで、転移は学習に必要な計算リソースに依存し、転移された知識はほとんど不透明なままです。そこで私たちは、アーティファクト蒸留を提案します。これは、教師が学習事例を解き、その問題解決手順をアーティファクトバンクとして外部化し、生徒が推論時にこれを照会する方式で、勾配による更新は行わないものです。LiveBench の4つのタスクにおいて、Claude Opus 4.5 によって作成されたバンクを用いることで、Claude Haiku 4.5 は空間的推論において、コストを60%に抑えながら、無補助の Claude Sonnet 4.5 を0.707対0.647で上回り、テーブル結合ではコストを89%に抑えつつ Sonnet 4.5 と同等の水準に到達しました。同じ生データのバンクを用いることで

経緯と関連報道

スコアリングの説明を読まずに評価する:自動解釈可能性評価データにおける構造的ショートカット

arXiv:2610.37676v1 発表タイプ:新規 要旨:自動解釈手法は、スパースオートエンコーダ(SAE)の特徴が評価例においてどの位置で活性化するかをモデルに逐次予測させたり、マークされたトークンがその特徴に適合するかどうかを判定させたりすることで、特徴の解釈スコアを算出します。我々は、評価データ用の標準パイプラインによって生成された結果は、解釈内容を読まずともスコアリング可能であることを示しました。Neuronpedia に保存されている GPT-2 small のランダムな 500 個の特徴に対するファジング実行において、活性化例の 91.3% が中心トークン上でピークを持つように切り取られており、中心トークンがマークされている場合に「はい」と判定するルールは、パイプラインのコードから再構築したマークに基づいて計算した既存の LLM スコアラー(各項目ごとの判定結果を基に再計算)の 0.838 に対し、バランスのとれた精度 0.979 を達成しました。また、マーク数のみを参照するルールでは 0.969 を達成しました。T

経緯と関連報道

適応前の補正:フェデレーテッド適応最適化のための勾配補正

arXiv:2502.02727v4 発表タイプ:replace-cross 要旨:クライアントドリフト補償手法は、フェデレーテッド学習(FL)におけるデータの非均一性の影響を軽減します。確率的勾配降下法(SGD)ベースのFLではドリフト補正が十分に研究されてきましたが、適応型クライアント最適化手法との相互作用についてはまだ十分に解明されていません。Adamなどの適応型最適化手法は、過去の勾配の移動平均を用いて各更新を行います。そのため、最終的な更新方向のみを補正しても、その移動平均とそこに含まれるドリフトは変更されません。私たちは、これらの移動平均に流入する前に各勾配を補正する「Federated Adaptive Gradient Correction({\tt FA-GC})」を提案し、さらに補正を最終的な方向に加える「Federated Adaptive Naive Tracking({\tt FA-NT})」と比較しました。我々は、理想的な状況において…

経緯と関連報道

ProtoEEG:EEGの視覚的デコーディングのための構造化されたプロトタイプアライメント

arXiv:2610.33065v1 発表タイプ:新規 要旨:頭皮上の記録はノイズが多く、空間的に粗く、試行間および被験者間で変動するため、EEGによる視覚デコーディングは依然として困難である。多くのシステムでは、各試行を高密度な画像埋め込みに位置合わせしているが、その埋め込みには意味内容と、インスタンス固有のテクスチャ・姿勢・背景が混在している。このような手法では、EEGには存在しない詳細情報を必要とする上、予測を支える視覚的要因について明示的な説明を提供していない。そこで私たちは、共有可能な学習可能な視覚コードブックに基づくソフトな合成としてEEG–画像の位置合わせを再定式化する、プロトタイプ媒介型フレームワークである\textbf{ProtoEEG}を提案する。学習可能なEEGエンコーダーと固定された視覚教師が、同一の$K=64$個のプロトタイプに対する割り当て分布を生成し、それらの重み付けされた再構成が構造化された表現を形成する。

経緯と関連報道

CFBrainAug:解釈可能なfMRIベースの自閉症診断のためのモジュール性による反事実的脳ネットワーク拡張

arXiv:2610.32184v1 発表タイプ:新規 要旨:安静時機能的磁気共鳴画像法(rs-fMRI)に基づく脳ネットワークに対する機械学習は、自閉症スペクトラム障害(ASD)の診断において有望であるが、既存の手法は限られた学習データに対して過剰適合しやすく、事後的な統計的帰属解析では臨床的な解釈可能性が限定的である。本研究では、ラベルを変更した脳ネットワークを学習することで、データ拡張と反事実的説明を統合する反事実的脳ネットワーク学習フレームワークであるCFBrainAugを提案する。従来のラベル保持型拡張とは異なり、CFBrainAugはまずラベルとは逆だがトポロジー的に類似した候補を抽出し、その後、モジュール数制約の下でそれを精緻化する。事実的および反事実的ネットワークを併せて学習することで、学習

経緯と関連報道

ReMedI:制御可能な分子最適化のための推論時精緻化と自己蒸留

arXiv:2610.32103v1 発表タイプ:新規 要旨:創薬において、リード最適化では、透過性の向上や毒性の低減といった相反する特性を改善しつつ、リードの活性を損なう可能性のあるスケルトン変更を抑制しなければなりません。C-MORAL などの強化学習ベースのポストトレーニング手法は、分子言語モデルを微調整することで、関心のある目的に対して分子リードを直接最適化するというアプローチを採用していますが、これには高価なタスク固有のデータセットが必要であり、多目的最適化(MOO)の実現にも課題が伴います。我々は、事前学習済みモデルには、ゼロショット生成では効率的に到達できない有用な分子編集がすでに含まれている可能性があると主張します。ゼロショット生成の探索能力の限界に着目し、我々は効率的なメトロポリス・ハスティングス探索戦略を開発し、ベット

経緯と関連報道

Nemotron 3.5 Bolt 74B-A9B 24GB:ローカルAI向けのハイブリッド視覚言語モデル

arXiv:2610.33039v1 発表タイプ:新規 要旨:私たちは、ローカルなエージェント型ワークロードにおいて、使用するメモリ1GBあたりの速度と知能を最適化したハイブリッドMamba-Transformer視覚言語モデルであるNemotron 3.5 Bolt 74B-A9B 24GBを紹介します。Nemotron 3.5 Super VL 120B-A12Bモデルファミリーを基に構築されたNemotron 3.5 Bolt 74B-A9B 24GBは、メモリ制約下での展開向けに、Star Elastic圧縮と2ビット量子化意識型蒸留を組み合わせています。本モデルは推論、エージェントによるツール利用、およびウェブや端末との対話に最適化されています。また、当社は本モデルと同時に公開するLiLiCorrスペキュラティブドラフト生成器も訓練し、目標とする推論速度の達成を目指しました。その結果得られたモデルは、一般的なエージェント型タスクに関する多数のベンチマークにおいて、同程度のメモリフットプリントと速度を持つ最先端モデルよりも高い精度を実現しています。

新闻源配图 · arXiv cs.CV
経緯と関連報道

ソーシャルワールドモデル評価のギャップ

arXiv:2610.33014v1 発表タイプ:新規 要旨:交渉支援システムは、相手の反応を正確に予測しなくても良好な取引を成立させることができる。そこで、社会的世界モデルに対する評価がその予測を直接検証しているのかという疑問を提起する。1999年から2026年にかけて発表された113件の研究を調査したところ、9件の主要な評価では、システムまたは実験者が選択した行動に対する実際の人の反応が測定されていた。そのうち、明示的な反応予測と実際の反応を比較しているのはわずか2件であり、しかもそれらの予測手法は行動選択時に利用可能な情報を用いており、評価対象の反応は適合過程から除外されていた上、介入手法もランダム化されていた。さらに、言語モデルに関する25件の研究について全文を個別に確認した結果、これらの条件を満たす実験は見当たらなかった。他の評価は、現状推論やタスク成功、あるいは予測機能の評価を行っているにすぎない。

経緯と関連報道

DMAIC-Bench:多段階の分析タスクにおけるエージェントの自己反省から自己抑制へ

arXiv:2610.32305v1 発表タイプ:新規 要旨:多段階の分析タスクでは、LLMエージェントが次の行動を継続するか、転送するか、あるいは停止するかを判断するために、中間的な証拠を用いる必要があります。エージェントが自身の出力を批判する自己反省は広く研究されていますが、その批判だけでは、証拠が次の行動に影響を与えたかどうかを示すことはできません。私たちはこの能力を「自己抑制」と呼んでいます。既存のエージェントベンチマークの多くは、タスクの完了度や出力品質を測定するだけで、この点については未検証です。DMAIC-Benchは、リーン・シックスシグマの明示的な統計的要件に基づいて構築された、4つの産業分野における15の産業事例にわたる97の種付け済みタスクを用いて、この能力を評価します。対になる反実仮想バリアントは、同じワークフロー上の同一位置で相反する行動を要求し、正当な抑制と無差別な停止を区別します。私たちは実行トレースを用いて

経緯と関連報道

InferSlice:通信事業者の広域ネットワーク上でのSLO主導型LLM推論向けリファレンスアーキテクチャ

arXiv:2610.32638v1 発表タイプ:新規 要旨:大規模言語モデル(LLM)の推論は、企業向けおよび対話型アプリケーションの基幹サービスとしてますます導入されていますが、主権・コンプライアンス・遅延・リソースの局所性といった要件により、集中型クラウド展開の適応性が制限されることがあります。通信事業者は、これらの制約に対処するため、地理的に分散した計算およびネットワークインフラを提供しています。しかし、既存のLLMサービスフレームワークは、緊密に結合されたデータセンター向けに設計されており、地理的に分散し多様なリソースの調整には十分なサポートを提供していません。そこで私たちは、通信事業者インフラ上でサービスレベル目標(SLO)主導型のLLM推論を実現するためのリファレンスアーキテクチャであるInferSliceを提案します。本アーキテクチャは、ネットワークスライシング、GPUパーティショニング、エラスティックなサービス提供、ならびに可観測性を統合しています。

InferSlice: A Reference Architecture for SLO-driven LLM Inference over a Telco Wide-Area Network
経緯と関連報道

GLPネットワーキングAPI仕様

arXiv:2610.32583v1 発表タイプ:クロス 要旨:マルチエージェント確定的GLP(madGLP)は、非同期メッセージ送信のみで通信するエージェントとしてグラスルーツ論理プログラム(GLP)を実行し、公平な配信を前提としています。すなわち、送信されたすべてのメッセージは最終的に必ず配信されます。各エージェントは個人のスマートフォン上で動作し、その識別子は本人の公開鍵によって指定されます。グラスルーツ型プラットフォームは、ネットワーク以外にグローバルなリソースを必要としないため、エージェント間の通信はBluetooth Low Energyやローカルネットワーク、さらにはNAT越しにインターネット経由で、誰でも運用可能なランデブーサーバーを通じて行われなければなりません。このようなネットワークがmadGLPに対して何を要求し、またネットワーク自身がプラットフォームに対して何を要求するのかについては、これまで明確に定義されていませんでした。そこで、私たちはmadGLPの下層に位置するネットワーキング層を規定します。GLPで実現可能なことはすべてGLPで実現されるため、この層が提供するのはあくまで

経緯と関連報道