AI ニュースを検索

FlatCake：大規模言語モデルのサービス向けフラットなKVキャッシュストレージアーキテクチャ

arXiv:2610.38355v1 発表タイプ：新規 要旨：KVキャッシュの再利用は大規模言語モデルのサービスを加速させるが、既存のシステムではホストのDRAMとNVMe SSDを階層的なヒエラルキーとして管理しており、DRAMが中間キャッシュとして機能している。しかし、実際の大規模言語モデルのワークロードは、この階層構造の二つの前提をいずれも破っている。第一に、バイモーダルな再利用によりDRAMの時間的フィルタリングが無効化される。というのも、ワークロードは長い再利用距離を持つワンショットブロックか、DRAM容量を超える数ギガバイト規模のエージェントセッションによって支配されており、その結果SSDが重要な読み取りパスに置かれているからである。第二に、DRAMによるステージングと、排出現象に基づくレイアウトがSSDの復元処理をボトルネックにしている。進行中のプレフィックスのためにホストのステージングバッファを保持すると、負荷下で競合が生じてプリフェッチが中断されてしまう一方で、段階的な排出現象によってセッション内のブロックがSSD全体に散らばり、大規模なシーケンシャルリードが妨げられる。我々は…

Seq@K：逐次的フィードバック下での言語モデルの評価

arXiv:2610.37859v1 発表タイプ：新規 要旨：言語モデルエージェントは、文脈における自然言語から学習する能力において、従来の知能システムとは根本的に異なります。この能力により、エージェントはフィードバックに応じて自身の回答を反復的に改善することが可能となり、これは現代のエージェント型ワークフローにおいて広く見られる動作様式です。しかし、コミュニティでは主にPass@1やPass@Kといった指標でモデルを評価しており、それらの指標では、エージェントが過去の試行に対するフィードバックをどのように活用しているかを捉えることはできません。そこで私たちは、Seq@Kという自然な評価プロトコルを提案します。これは、各前の試行が失敗した後にフィードバックを受け取り、K回の逐次的な試行のうちに問題を解決できるかどうかを測定するものです。長期的な計画を検討する多段階のエージェントベンチマークとは異なり、Seq@Kは、フィードバックによる改善という核心的な能力を単独で抽出し、形式化しています。

Anthropicが世界No.1のLLMを安全に提供する方法：脳と手を分離する

ケイトリン・レスとアンジェラ・ジ앙がLatent Spaceに登場し、Claudeプラットフォームの背後にある技術について解説します。Opus 5.5のリリース、モデルの「脳」とエージェントの「手」の分離、APIのスケーリング、そして信頼性の高いマネージドエージェントの構築について語ります。新たな導入部分では……

Mirendilが、1,000万トークンのコンテキストを備えた初のモデルであるFern 0.1をリリース

Mirendilは、1,000万トークンのコンテキストウィンドウでゼロから事前学習された初のモデルであるFern 0.1をリリースしました。同モデルはエージェント型AIの研究開発を対象としており、1,000万トークン規模でのRULERシングルニードルテストでは100%のスコアを獲得していますが、エージェント型コーディングにおいては最先端モデルには及ばない結果となっています。この記事「Mirendil、1,000万トークンのコンテキストを持つ初のモデルFern 0.1を公開」は、MarkTechPostに最初に掲載されました。

百度が、数百ページに及ぶ文書の解析向けのUnlimited OCR 2をオープンソース化

Baiduは、MITライセンスの3B規模のOCRモデルであるUnlimited OCR 2をリリースし、1回のリクエストで数百ページに及ぶ文書を解析できます。同モデルのSR-SWAアテンションにより、各ステップのデコーディングコストはほぼ一定に保たれ、MarathonDocBenchでは77.1点を獲得しています。この記事「Baidu、数百ページの文書解析向けUnlimited OCR 2をオープンソース化」は、MarkTechPostに最初に掲載されました。

SLICE-Mem：効率的なLLMエージェントメモリのための、顕著性ゲート付き軽量情報キュレーション

arXiv:2610.33015v1 発表タイプ：新規 要旨：長期記憶は、大規模言語モデル（LLM）エージェントが個別化されかつ時間的に一貫した対話を維持することを可能にするが、記憶の取り込み・抽出・整理のためにLLMによる推論を繰り返すと、大きなコストと遅延が生じる。本研究では、顕著性に基づく取り込みと述語中心の情報抽出を組み合わせた軽量な記憶フレームワークSLICE-Memを提案する。コンパクトな分類器が保持すべきユーザの発話ターンを識別し、意味依存関係に基づく抽出器が取り込まれたターンを簡潔な記憶エントリに変換する。このオンライン処理パイプラインは生成型LLMへの呼び出しを一切必要とせず、エントリ間の照合はオフラインの統合段階に委ねられる。我々はMemoraおよびLongMemEval-Sの週次サブセットに対して、8B aを用いてSLICE-Memを評価する。

バースト性の高いワークロード下におけるサーバレス自動スケーリング戦略の比較評価のための統一されたキューイングベースフレームワーク

arXiv:2610.35564v1 発表タイプ：新規 要旨：サーバレスコンピューティングプラットフォームは、高度にバーストし予測不可能なワークロードに対応しつつ、サービス品質（QoS）を維持しなければなりません。QoS要件やサービスレベルアグリーメント（SLA）を満たしながらワークロードの変動に対処するため、これらのプラットフォームはリソースの自動スケーリングに依存しています。商用の関数即時実行（FaaS）プラットフォームでは、アクティブな関数インスタンスの数や利用可能な処理能力を動的に調整するために、さまざまな自動スケーリング戦略が採用されています。本研究では、代表的な3つの自動スケーリング戦略——リクエストごとのスケーリング（SPR）、同時実行度ベースのスケーリング（CLS）、メトリクスベースのスケーリング（MBS）——をモデル化し、比較しました。独自のプラットフォーム固有の実装に依存しない体系的な評価を可能にするため、我々は…

研究では、特異値スペクトルによる介入を通じて大規模言語モデルの能力分布を調整する手法を検討しており、LlamaおよびQwenモデルに対する実証分析を行っています。

2026年10月24日付のarXiv（番号2610.30676v1）に掲載されたあるAI研究では、5種類のオープンソースLlamaおよびQwenの指令微調整モデルに対して、後処理として特異値スペクトルの平滑化と尖鋭部の摂動を施したところ、この軽量な介入が、事実知識、言語理解、演繹的推論という3つの能力に関する性能のトレードオフを体系的に再構築することを明らかにしました。

注目する理由：本論文は、マルチモデル・マルチタスクのフレームワークにおいて、トランスフォーマーの前馈層の特異値スペクトル構造が下流の能力に与える因果的影響を実証的に初めて検証し、能力配置の構造的な敏感性に関する法則を明らかにすることで、モデルの能力のデカップリングおよび制御可能な編集に新たな道筋を提供しました。すべての結論は公開モデルと標準的な評価に基づいており、手法は透明で、評価の次元も網羅的です。