baseVultra：新型のコンパクトな非線形循環ユニットによる候補生成で、小規模なシナリオにおいてLSTMおよびGRUを上回る性能を実現
arXivは2026年10月24日、論文arXiv:2610.30154v1を公開し、新型の循環ニューラルネットワークユニットであるbaseVultraを提案した。このモデルは、密集型の循環計算を単一のH×Hの候補生成行列に集約し、従来のゲート行列をO(H)の対角相互作用で置き換えることで、TinyShakespeareなどのコンパクトな設定においてその有効性を実証している。20万パラメータの単層構成において、検証損失は1.594に達し、同規模のLSTM（1.604）やGRU（1.616）よりも優れており、さらに密集計算のオーバーヘッドはGRUの約54%にとどまる。
注目する理由：本研究は、循環ニューラルネットワークのアーキテクチャ設計における新たな探索方向を示しており、ゲート主導型から候補生成主導型への転換を提案しています。実験では、文字レベルの言語モデリング（TinyShakespeare、text8）および形式言語のプローブタスク（Counterタスク）を網羅し、その結果は、隠れ状態の容量が制限されたコンパクトなシナリオ（例：H=16）において特に優位性が顕著であることを明確に示しており、技術的な位置付けと実証的根拠が一貫して裏付けられています。