本文へ移動
AI NEWS JOURNAL
AIBase AI资讯AI NEWS / JOURNAL

Liquid AIがLFM3マルチモーダルモデルファミリーを発表し、高効率な専用インテリジェンスを強調

近日、Liquid AIは新世代の基礎モデルファミリー「LFM3」を正式に発表しました。最初のバージョンには、約20億パラメータを備えた6種類のモデルが含まれており、テキスト、視覚、音声、マルチモーダル、意思決定といった各領域を網羅しています。これらはすべてLFM3-1.7B-Baseを基盤としており、事前学習時のスループットは22Tトークンに達します。このシリーズは新たな三重混合層アーキテクチャを採用し、ゲート制御型短い畳み込みやスライディングなどの仕組みを統合することで、パラメータ数を抑えつつ高い効率を実現することを特長としています。

AI 自動翻訳

近日、著名なAIイノベーション企業であるLiquid AIは、新世代の基礎モデルファミリー「LFM3」を正式に発表しました。同ファミリーの最初のバージョンには、パラメータ規模が約2B程度の6種類のモデルが含まれ、テキスト、視覚、音声、オムニモーダル(全モーダル)、意思決定など多岐にわたる領域を包括しています。これらはすべてLFM3-1.7B-Baseという基盤アーキテクチャに基づいており、事前学習段階で最大22Tものトークンデータを処理しています。

画期的な三混合アーキテクチャ:より少ないパラメータで高い効率

LFM3は新たな三混合層構造(Tri-hybrid layer mix)を採用しており、ゲート制御短い畳み込み、スライディングウィンドウ注意機構(SWA)、そしてグローバル注意を有機的に融合させています。全体で24層からなる構造のうち、13層が畳み込み、5層がスライディングウィンドウ注意、残り6層がグローバル注意となっています。

前世代製品と比べて、LFM3はアーキテクチャ面で全面的な再設計が行われ、ハードウェア対応テストの範囲も大幅に拡張されました。スマートフォン、Raspberry Pi、ノートPC、さらには各種クラウド上のCPU・GPUやQualcomm NPUなど、計14種類のデバイスおよびバックエンド組み合わせをカバーしています。テスト結果によれば、新しい設計により、LFM3-1.7Bは短いプロンプトにおいても前世代と同等の性能を維持するだけでなく、8Kのコンテキストを扱う際の処理速度も約25%向上しています。また、テキストモデルは4ビット量子化下でもサイズが約1GBに留まり、エッジデバイスへの導入障壁を大きく低減しています。

全シーンをカバーするマルチモーダルと意思決定マトリックス

初回リリースとなる6種類の2Bクラスモデルはそれぞれ特長を持ち、異なる用途に最適に対応しています:

テキストモデル(LFM3-1.7B):最大25Kのコンテキストウィンドウを備え、エージェントのワークフロー向けに集中的な事後学習を実施しています。複数のベンチマークで指示追従と関数呼び出しに優れた性能を示し、単一GPUでスムーズに動作し、多数のバックグラウンドエージェントの連携に対応します。

視覚モデル(LFM3-VL-2B):動画入力に新たに対応し、段階的な推論、空間的な視覚推論、グラフィカルユーザーインターフェースの理解を支援します。新たに自社開発した視覚エンコーダーと組み合わせ、前世代より計算効率を大幅に改善しています。

音声モデル(LFM3-Audio-2B):18言語の音声認識、多言語音声合成、音声理解、リアルタイム音声対話を支援します。完全な因果的アーキテクチャを採用し、最初のトークンの遅延は最短50ミリ秒です。

全モーダルモデル(LFM3-Omni-2B):視覚、音声、言語を統合したモデルで、音声による質疑応答、映像と音声を組み合わせた動画理解、モダリティを横断するツール呼び出しに対応し、より自然な人とコンピューターの対話を実現します。

意思決定モデル(d1-2Bとd1-Omni-2B):ミリ秒単位の高速な意思決定に特化し、複雑なテキスト、画像、音声の入力から正確な構造化された意思決定結果を直接出力することで、煩雑なクラウドとのやり取りを省きます。

専門分野とエッジ側ロボティクスを支援

強力な汎用能力に加え、LFM3ファミリーは設計当初から専門領域向けの知能と微調整の容易さを重視しています。開発者はGPU 1枚で低コストの微調整を行い、風力タービンのブレードの欠陥検出など、専門的な産業分野に活用できます。LoRAによる適応とエンドツーエンド学習を通じて、LFM3-VL-2Bはロボット操作、視覚ナビゲーション、マルチモーダルな身体性を伴う知的制御にも対応し、Jetsonなどのエッジハードウェアで効率的なリアルタイム推論を実現します。

LFM3シリーズの公開ウェイトはすでに利用可能で、リリース当日からAMD、Qualcomm、NVIDIA、Apple MLX、および主要な開発フレームワークやプラットフォームによるサポートを受けています。

情報源

AIBase AI资讯

関連テーマ

← すべてのニュースへ