シーケンス学習ループ - 第960号:先週のAIインフラストラクチャ
DeepSeek、Google、NVIDIAがエージェントスタックを構築
見出し・要約・本文から、情報のつながりを探します。
DeepSeek、Google、NVIDIAがエージェントスタックを構築
ケイトリン・レスとアンジェラ・ジ앙がLatent Spaceに登場し、Claudeプラットフォームの背後にある技術について解説します。Opus 5.5のリリース、モデルの「脳」とエージェントの「手」の分離、APIのスケーリング、そして信頼性の高いマネージドエージェントの構築について語ります。新たな導入部分では……
トークンの生成をより高速化するには、まず推論性能を制限している要因を特定することから始まります。NVIDIA上でInclusion AIが実施したLing-3.0-flashのバッチサイズ1による評価では…
AIランキングの首位は入れ替わりますが、ユーザーが毎日利用する製品は必ずしも変わりません。大規模モデルにおける次の競争は、単にどのモデルがより強いかというだけでなく、一度の利用を習慣へと変えることにあるのです。
Baiduは、MITライセンスの3B規模のOCRモデルであるUnlimited OCR 2をリリースし、1回のリクエストで数百ページに及ぶ文書を解析できます。同モデルのSR-SWAアテンションにより、各ステップのデコーディングコストはほぼ一定に保たれ、MarathonDocBenchでは77.1点を獲得しています。この記事「Baidu、数百ページの文書解析向けUnlimited OCR 2をオープンソース化」は、MarkTechPostに最初に掲載されました。
arXiv:2610.33015v1 発表タイプ:新規 要旨:長期記憶は、大規模言語モデル(LLM)エージェントが個別化されかつ時間的に一貫した対話を維持することを可能にするが、記憶の取り込み・抽出・整理のためにLLMによる推論を繰り返すと、大きなコストと遅延が生じる。本研究では、顕著性に基づく取り込みと述語中心の情報抽出を組み合わせた軽量な記憶フレームワークSLICE-Memを提案する。コンパクトな分類器が保持すべきユーザの発話ターンを識別し、意味依存関係に基づく抽出器が取り込まれたターンを簡潔な記憶エントリに変換する。このオンライン処理パイプラインは生成型LLMへの呼び出しを一切必要とせず、エントリ間の照合はオフラインの統合段階に委ねられる。我々はMemoraおよびLongMemEval-Sの週次サブセットに対して、8B aを用いてSLICE-Memを評価する。
arXiv:2610.33039v1 発表タイプ:新規 要旨:私たちは、ローカルなエージェント型ワークロードにおいて、使用するメモリ1GBあたりの速度と知能を最適化したハイブリッドMamba-Transformer視覚言語モデルであるNemotron 3.5 Bolt 74B-A9B 24GBを紹介します。Nemotron 3.5 Super VL 120B-A12Bモデルファミリーを基に構築されたNemotron 3.5 Bolt 74B-A9B 24GBは、メモリ制約下での展開向けに、Star Elastic圧縮と2ビット量子化-aware蒸留を組み合わせています。本モデルは推論、エージェントによるツール利用、およびウェブや端末との対話に最適化されています。また、当社は本モデルと同時にリリースされるLiLiCorrスペキュラティブドラフト生成器も訓練し、目標とする推論速度の達成を目指しました。その結果得られたモデルは、一般的なエージェント型タスクに関する多数のベンチマークにおいて、同程度のメモリフットプリントと速度を持つ最先端モデルよりも高い精度を実現しています。
arXiv:2610.33020v1 発表タイプ:新規 要旨:もし自分の脳が他人の脳と直接つながっていたら、どの考えが自分のものなのか、まだ分かるだろうか?私たちは、同一の言語モデルを二つ用意し、その機能版を構築した。それぞれがプライベートなルールとコードワードを保持し、一方のコピー(受信者)は、もう一方の内部メモリにも注意を払う。受信者は、パートナーの割り当てを自らのものとして受け取った。パートナーの記憶に重みを倍にして与えた場合(リンクなしではゼロ)、パートナーの記憶を問われた際には、回答の97%でパートナーのものを挙げた。また、オープンな報告においても、受信者はパートナーのコードワードを自らのものと呼び、決して相手のものとはしなかった。所有権は、受信者がパートナーの割り当てをどれほど正確に識別できるかとは関係なかった。重みを等しくした場合、リンクによって受信者はパートナーのルールを約半分の確率で自らのものとして受け取った。
arXiv:2610.34436v1 発表タイプ:新規 要旨:ループ型言語モデルは、各トークンに対して層のブロックを$R$回実行するため、そのキーバリューキャッシュ(KVキャッシュ)には各再帰層ごとに$R$個の平面が格納され、自己予測的デコーディング(一部のループで予備的に推論し、残りの$R$すべてで検証する手法)ではそれらすべてが読み込まれる。我々は、プレフィックスのキーとバリューが影響を及ぼすのは後半に集中していることを発見した。同程度の摂動サイズにおいて、ループ25〜32はループ2〜9に比べてそれぞれ$e^{15.0}$倍(Huginn-0125)および$e^{12.8}$倍(Raven-Llama)も敏感であり、各ループごとの平面数は0.88および0.81という比率で最終的な平面へと幾何級数的に近づいていく。そして、最も深い平面単独で十分かどうかは、後半の平面がどれほど成熟しているかに依存する。Ravenでは、それを保存するだけでbf16からfp32への変更と区別できない一方、Huginnでは、全体の誤差の74%をわずか1%の位置が占めている。これをRIPEに展開すると、最も深い…
arXiv:2610.33274v1 公開タイプ:新規 要旨:大規模言語モデル(LLM)エージェントは、非常に多様なメモリニーズを抱えるシナリオで動作します。過去の会話に関する質問には、その文脈で明示された正確な事実が必要であり、一方で複数ステップからなるタスクでは、次のステップが特定できない詳細とともに、これまでに踏んだ手順の記録も必要です。既存のメモリはそれぞれ特定のシナリオ向けに設計・検証されており、A-Memのような検索型メモリでは現在のクエリが表現していない手順を見落とし、要約では正確な文字列が失われ、さらに両者を組み合わせても、予算の分割状態はあらかじめ固定されてしまいます。そこで私たちは、履歴の各単位を不変ストアに一度書き込み、各呼び出しごとに新たなメモリを生成する汎用的なメモリであるFlexA-Memを提案します。生成されるメモリは、固定ルールに基づいてフィルタリングされた記録と詳細情報から構成されるコンパクトなタイムラインです。
Nace AIは、Drex for Searchをリリースし、同社のDrex意思決定モデルをAIエージェント向けのドキュメント検索に導入しました。Naceによると、BrowseComp-Plusでは12.6回の検索呼び出しで92.05%のスコアを達成しており、OfficeQA Proではエージェントの操作回数がさらに減少しています。この記事「Nace AI、AIエージェント向けDrex for Searchをリリース:BrowseComp-Plusで12.6回の検索呼び出しで92.05%」は、MarkTechPostに最初に掲載されました。
arXiv:2610.32638v1 発表タイプ:新規 要旨:大規模言語モデル(LLM)の推論は、企業向けおよび対話型アプリケーションの基幹サービスとしてますます導入されていますが、主権・コンプライアンス・遅延・リソースの局所性といった要件により、集中型クラウド展開の適応性が制限されることがあります。通信事業者は、これらの制約に対処するため、地理的に分散した計算およびネットワークインフラを提供しています。しかし、既存のLLMサービスフレームワークは、緊密に結合されたデータセンター向けに設計されており、地理的に分散し多様なリソースの調整には十分なサポートを提供していません。そこで私たちは、通信事業者インフラ上でサービスレベル目標(SLO)主導型のLLM推論を実現するためのリファレンスアーキテクチャであるInferSliceを提案します。本アーキテクチャは、ネットワークスライシング、GPUパーティショニング、エラスティックなサービス提供、ならびに可観測性を統合しています。
arXivは2026年10月26日、『SPECMEM: Accelerating Agentic Tool Calling via Live Memory Management』という題名のプレプリント論文(番号2610.31840v1)を公開し、SpecMemと呼ばれる新システムを提案しました。このシステムは、セッション間で動作するオンライン更新可能なユーザーレベルのツール呼び出し用メモリ管理により、ツール呼び出しの遅延を大幅に低減します。
注目する理由:本研究は、現行のツール呼び出しエージェントがデプロイ時に自己帰納的復号によって生じる高遅延の問題に着目し、検証可能な書き戻し、LRU淘汰、副作用制御などの主要技術を提案しました。さらに、複数ユーザー・複数セッションにわたる実際のクエリフローにおいてその有効性を実証しており、最大で実測1.74倍の高速化と平均27%の受容トークン数の向上を達成しています。これはAIシステム工学の分野における重要な進展です。
arXiv:2610.31728v1 発表タイプ:新規 要旨:ミュオンは大規模言語モデルの学習において人気の最適化手法となっているが、その理論的基盤は依然として十分に解明されていない。本研究では、勾配ノイズの幾何学的特性がミュオンの前処理による利点をどのように形成するかを検討する。まず、古典的な等方性ノイズ仮定のもとでは、ミュオンは学習率の再スケーリング以上の加速効果をもたらさないことを理論的および実験的に示す。これを受けて、私たちは異種タスクの発生頻度を持つ連想記憶におけるミニバッチサンプリングから生じる構造化されたノイズについて調査を開始した。二つのタスクに対する正確なバランス閾値を導出し、さらに複数タスクへの拡張を通じて、タスクカバレッジと勾配の信頼性がいかに協働して学習を形作るかを明らかにする。我々の分析によれば、ミュオンは…を緩和できることが示される。
2026年10月26日付のarXivに掲載された最新の研究(arXiv:2610.31821v1)によれば、古典アラビア詩の検索タスクにおいては、ユーザーの詩句の記憶残存度(例えば半行を覚えているかどうか)が、モデルの性能よりも検索精度を決定する上でより重要な要因であることが示されています。BM25は、「舌尖効果」系のクエリでは、8Bパラメータの最先端モデルを含むすべての稠密符号化器を上回る一方で、抽象的なクエリでは大きく劣後することが明らかになりました。
注目する理由:本研究は、二重コーパス、三重インデックス方式、および二重評価プロトコルによる体系的なベンチマークテストを通じて、クエリの抽象度が異なる検索パラダイム(形態素ベース対稠密ベクトル)に与える支配的な影響を初めて定量的に明らかにし、人間のアノテーターとオープンソースの重み付けモデルによる二重検証を経て、その結論は方法論的普遍性と実証的堅牢性を備えている。
同論文は2026年10月24日、arXivにて公開され(番号2610.30379v1)、MemPlan——大規模言語モデル(LLM)を言語と記号計画の間の制約付き橋渡しとして用いる、記憶条件付PDDL計画フレームワーク——を提案しており、部分観測可能な対話型テキスト環境に適用可能である。
注目する理由:MemPlanは、正のグラフによる記憶と負の記憶メカニズムを用いてPDDL問題を動的に再構築し、タスク完了率と手順数の効率を大幅に向上させるとともに、オンラインでのトークン消費も大きく削減します。また、そのオフライン微調整可能な言語–記号インターフェースはTextWorld系のタスク間で再利用可能で、タスク固有の微調整が不要であるため、本手法の汎用性と実用性が示されています。