見出し・要約・本文から、情報のつながりを探します。
arXiv:2610.31911v1 発表タイプ：新規 要旨：大規模言語モデル（LLMs）がますます長いシーケンスを処理するにつれ、アテンションは主要な計算上のボトルネックとなっています。疎なアテンション手法は主に推論段階での利用を対象としていますが、多くの手法は依然として密集型で学習を行ったり、疎な学習に対応できなかったりします。さらに、その追加の複雑さにより、疎さを実際の実行時間の短縮へと結びつけることが難しく、結果として実用的には密集型アテンションが広く用いられています。本論文では、アテンションの学習は後方パスが支配的であるという観察に基づき、前方パスを完全に密集型に保ちつつ、後方パスを疎にするLazyFlashという手法を提案します。LazyFlashは前方パスを厳密に密集型に維持するため、学習済みモデルは従来の密集型モデルのままであり、vLLMなどの既存システムでも一切変更なしにサービス可能です。一方、後方パスについては、LazyFlashは勾配を…
arXivは2026年10月24日、論文arXiv:2610.30154v1を公開し、新型の循環ニューラルネットワークユニットであるbaseVultraを提案した。このモデルは、密集型の循環計算を単一のH×Hの候補生成行列に集約し、従来のゲート行列をO(H)の対角相互作用で置き換えることで、TinyShakespeareなどのコンパクトな設定においてその有効性を実証している。20万パラメータの単層構成において、検証損失は1.594に達し、同規模のLSTM（1.604）やGRU（1.616）よりも優れており、さらに密集計算のオーバーヘッドはGRUの約54%にとどまる。
注目する理由：本研究は、循環ニューラルネットワークのアーキテクチャ設計における新たな探索方向を示しており、ゲート主導型から候補生成主導型への転換を提案しています。実験では、文字レベルの言語モデリング（TinyShakespeare、text8）および形式言語のプローブタスク（Counterタスク）を網羅し、その結果は、隠れ状態の容量が制限されたコンパクトなシナリオ（例：H=16）において特に優位性が顕著であることを明確に示しており、技術的な位置付けと実証的根拠が一貫して裏付けられています。
2026年10月24日付のarXivに掲載された実証研究（論文番号2610.31135v1）では、長文コンテキストにおける質問応答タスクにおいて、Transformer、状態空間モデル（state-space）、およびハイブリッドMambaアーキテクチャの位置バイアス現象を比較し、Transformerモデルは一般的に開始位置の証拠を活用する優位性を示す一方で、状態空間モデルにはその特性が欠如していることを明らかにしました。一方で、両モデルとも終端位置の証拠を好む傾向が見られました。
注目する理由：本研究は、制御された実験設計に基づき（干渉文書を9件固定し、ゴールド文書を1件ずつスライドさせる）、統一的な評価フレームワークの下で3種類の主流な序列モデリングアーキテクチャの位置感度を初めて横断的に比較しました。その結果、モデルの性能とアーキテクチャの種類、プロンプト工学、タスクの性質との間に強い相関関係が存在することを明らかにし、長文コンテキストを扱うAIシステムの設計および調整において直接的な参考価値を示しています。
