2026年10月24日、arXivプラットフォームにおいて「AQL-Lite: Enabling Efficient Knowledge Acquisition for Arabic LLMs via Data-Centric Continual Pretraining」と題する論文が公開され（ID 2610.30344v1）、AQL-Liteフレームワークが正式に提案されました。このフレームワークは、より少ない時間とリソースコストで、多言語大規模言語モデルを現代標準アラビア語（MSA）に効率的に適応させることを目的としています。
AQL-Liteは、大きく二つの核心コンポーネントで構成されています。一つ目は、品質を最優先とするデータ整備プロセスで、構造のクリーニング、ヒューリスティックおよびモデル駆動型フィルタリング、MSAによるテキスト認識、重複除去を含みます。二つ目は、部分パラメータ継続的事前学習（CPT）戦略で、RS-LoRAアダプター、最後の8層のTransformer、および埋め込み行列のみを更新し、階層的な学習率を採用します。10億トークンの予算のもとで、この手法により4つのアラビア語ベンチマークの平均スコアが3.51ポイント向上しましたが、同等の条件下で元のネットワークテキストを用いたCPTでは、一切の改善は見られませんでした。
50億トークン規模の制御された対照実験において、AQL-Liteは4つのベンチマークの平均スコア73.19を達成し、これは全パラメータ版CPT（73.58）に比べて94％の性能向上に相当しますが、計算時間はその52％で済みます。さらに、すべてのベンチマークにおいて純粋なアダプターベースラインを上回っています。その後、400億MSAトークン規模へ拡張し、100万件の命令で微調整を行った結果、12BパラメータのモデルはOpen Arabic LLM Leaderboard v2（7つのベンチマーク）で75.3点を獲得しました。
論文は、消去分析によりRS-LoRAアダプター、凍結解除された基盤モジュール、および埋め込み行列の学習の三者がそれぞれ独立した寄与を有することを確認したと指摘している。研究の結論は、厳選されたコーパスに基づいて部分的なパラメータ微調整を行うことが、実用的かつ効率的なMSA大規模モデルの適応手法であることを強調している。