本文へ移動
AI NEWS JOURNAL
MarkTechPostAI NEWS / JOURNAL

vLLM セマンティックルーターが d3-ultra をリリース:270億パラメータのオープンなマルチモーダル意思決定モデル

vLLMセマンティックルーターは、270億パラメータ規模のオープンウェイトなマルチモーダル意思決定モデルであるd3-ultraをリリースしました。同モデルはテキスト、画像、動画を一度に読み込み、各回答に対する確率を返却し、チームのSR-Textテストで87.2点を獲得しています。この記事「vLLMセマンティックルーター、270億パラメータ規模のオープンマルチモーダル意思決定モデルd3-ultraをリリース」は、MarkTechPostに最初に掲載されました。

AI 自動翻訳

vLLMセマンティックルーター チームは、Apache-2.0ライセンスの下で動作する27B規模のマルチモーダル意思決定モデル「d3-ultra」を公開しました。d3-ultra意思決定モデルはテキストを生成せず、入力を一度読み込んで、あらゆる質問に対する各回答の確率を返します。開発者にとっては、これにより、ルーティング、分類、視覚的グラウンディング、動画検証といった処理を、1回のオープンウェイト呼び出しで実行できるようになります。

要約

サイズ:26.09Bパラメータ(密集型、0.46Bのビジョンエンコーダを含む);各質問に対するコンテキストは131,072トークン。

動作環境:BF16 重みで AMD Instinct MI325X 1枚にてテスト済み;公式の量子化バリアントはまだ掲載されていません。

パフォーマンス:チーム独自のプライベートテストにおける6つの決定モデルのうち、最も高いSR-Textスコア。

最高:SR-Textツールおよびオートメーションにおける97.8(チャンス補正済み正確度)。

最悪:SR-Boxでは54.6%(9ドメイン)、同系列のd3-turboより5.0ポイント下回る。

d3-ultraとは何ですか?

d3-ultraは、vLLMセマンティックルーターによるSystem Oneの意思決定モデルで、入力された質問に対して確率を伴う回答を提供します。これは、0.6Bから27Bまでの規模を持つDecision 3.0ファミリーの最新メンバーです。

あなたは、状態(テキストまたはJSON、さらに画像や動画)と一連の質問を送信します。各質問にはタイプが設定されています:

選択肢:複数のオプションから1つを選んでください。

はい/いいえ:「はい」の確率を返します。

スコア:スケールに基づく評価。

Box:画像や動画の特定の瞬間に存在するものを検出します。

トラック:動画全体にわたって対象を追跡する。

画像は質問や選択肢の中にも配置できます。クイズでは、写真を表示した後、4つのエッチングを解答として提示することも可能です。

d3-ultraはどのように動作しますか?

核心的な考え方は、一度だけ状態を保持することです。モデルはリクエストごとに入力を一度読み取り、その単一の読み取りからすべての質問に回答します。

設定には、64層からなるQwen3.5アーキテクチャのバックボーンが示されています。そのうち48層は線形注意層、16層はフル注意層です。このカードには、ベースとなるチェックポイントの名称は記載されていません。vLLMのレシピによれば、同系列のd3はQwen3.8-27Bから訓練されたとされています。

Boxの回答は常に、信頼度が1であるボックスを1つだけ返します。信頼度が0に近い場合、対象物は画像内に存在しないことを意味します。131,072トークンを超える質問は、max_length_exceededエラーで失敗し、何も無視されて切り捨てられます。

d3-ultraはベンチマークにおいてどのような性能を発揮しますか?

研究チームは、社内テスト2件において、d3-ultraをGLiDE V1.2、d1-ultra、d3-turbo、d3、およびJev 1.14と比較しています。

SR-Textには、73,495の質問を含む10,411件のテキストリクエストがあります。その多くは、34の公開ベンチマークから再現されたスキルに新たな項目を加えたものです。さらに、SQLチェックやチケットルーティングなど、43の新しいタスクファミリーから成る4,896件の質問も含まれています。スコアはランダム予想レベルで補正されており、0がランダム、100が完璧を示します。

d3-ultra:87.2

GLiDE V1.2:85.1

d1-ultra:83.4

d3-turbo:83.1

d3: 81.4

ジェヴ 1.14:73.1

d3-ultraは、芸術と人間の嗜好を除くすべての分野でトップに立っています。その分野では、d1-ultraが89.6に対し90.8を記録しており、誤差範囲内です。

SR-Boxには、10のドメインにまたがる4,984枚の画像に対して5,678件のボックスアノテーション質問が含まれています。IoUが0.5以上の場合、そのボックスは正解とみなされます。d3-ultraは10ドメインで58.2%、9ドメインで54.6%を記録しています。d3-turboはそれぞれ60.0%と59.6%を達成しています。Jev 1.14は45.7%と46.9%を示しています。チームによると、d3-turboは自然画像においてより優れた性能を維持する一方で、d3-ultraはチャートにおいて優位性を発揮します。

レイテンシ:AutoModelを搭載したAMD Instinct MI325X上で、写真に関する1つの質問には304ミリ秒かかります。255の質問を処理するのに2.16秒かかり、追加の質問1つあたり約7.3ミリ秒です。

d3-ultraはどのようにデプロイしますか?

4つのルートがあります:

Transformers: AutoModel.from_pretrained("vllm-sr/d3-ultra", trust_remote_code=True) で、transformers==5.17.0 を使用します。オプションの flash-linear-attention パッケージは、高速な GPU カーネルを追加します。

vLLM セマンティックルーター エンジン:vllm-sr serve -e vllm-sr/d3-ultra、2026年10月25日付のプルリクエスト #5449 で追加されました。

無料API:カードには、decision.vllm-sr.aiがd3-ultraを提供し、無料のキーが付属すると記されています。

デモ:公式のHugging Face Space。

d3-ultra 対 GLiDE V1.2、d1-ultra、Jev 1.14 および d3-turbo

注目3-ultrad3-turboGLiDE V1.2d1-ultraJev 1.14開発者vLLMセマンティックルーターvLLMセマンティックルーターFastino LabsLiquid AITypeSafeParameters26.09B26.09B26B 非公開非公開質問ごとのコンテキスト131,07232,768 デフォルト;long_context使用時は131,07240,000 デフォルト32,768 262,144 重み/ライセンスオープン、Apache-2.0オープン、Apache-2.0オープン、Fastinoコミュニティライセンスホスト型のみホスト型のみ、プロプライエタリ入力テキスト、JSON、画像、動画テキスト、JSON、画像、動画テキスト、JSON、画像テキスト、画像テキスト、画像ボックス/トラックボックス+トラックボックス+トラックなしなしボックスのみSR-Text(vLLM-SRによる自己報告)87.283.185.183.473.1SR-ボックス、10ドメイン58.2%60.0%対応なし対応なし45.7%公開インデックススコア提出済み、まだ搭載未定70.2 Jev DI(独自推定)71.5 決定インデックス0.4.165 AA決定インデックス57 AA決定インデックス価格無料API、セルフホスト無料API、セルフホスト$0.04/M入力 $0.042/M入力$0.042/M入力

主なポイント

d3-ultraは、テキストを一切生成しない27B規模のApache-2.0ライセンスの意思決定モデルです。

入力を一度読み込むだけで、1枚の写真に関する255問の質問に2.16秒かかります。

同チームのSR-Textテストで87.2を記録し、GLiDE V1.2の85.1を上回っています。

Boxにおけるグラウンディングでは、d3-turboを下回っており、58.2%対60.0%です。

すべてのベンチマーク数値は、プライベートなテストセット上で自己申告されたものです。

モデルカード、GitHubリポジトリ、Decision 3.0コレクション、およびHugging Face Spaceをご覧ください。また、Twitterでもぜひフォローしていただき、15万人超のML SubRedditへの参加とニュースレターの購読もお忘れなく。おっと!Telegramをお使いですか?今ならTelegramでも私たちに参加できます。

GitHubリポジトリ、Hugging Faceページ、製品リリース、ウェビナーなどのプロモーションについて、当社と提携しませんか?ぜひご連絡ください。

投稿「vLLM セマンティックルーターが d3-ultra をリリース:27B規模のオープンマルチモーダル意思決定モデル」は、MarkTechPost に最初に掲載されました。

情報源

MarkTechPost
← すべてのニュースへ