モデル情報

Qwen3.8-27B-iMatrix-NVFP4-MTP-GGUF

cdiamond · Qwen3.8-27B-iMatrix-NVFP4-MTP-GGUF

I built this quant because the ready-made FP4 file answered the wrong question. It was fast, but on my short WikiText-2 control it scored 6.4949 PPL. Plain Q4_0 scored 6.3798. The first higher-quality hybrid went too far the other way: good perplexity, 34.19 tok/s, and no comfortable room for 256K plus vision. It is a 17.1 GB, 5.01 BPW mixed-precision GGUF of Qwen/Qwen3.8-27B. It keeps large, tolerant matrices in native NVFP4 and spends more bits on selected attention, Gated DeltaNet, and late FFN tensors. The trained MTP layer remains embedded in the same GGUF. This is not a fine-tune. I built the private calibration workload from 5,472 messages across 296 real sessions in my Hermes agent setup. The 153,600 processed tokens covered coding, infrastructure work, tool calls, and mixed Polish-English conversation. I used `llama-imatrix` to rank tensor sensitivity; the corpus and raw importance matrix are not distributed or embedded in the model.

翻訳待ちのため原文を表示しています。

テキスト生成multimodallicense:apache-2.0
コンテキスト長非公開
入力 → 出力テキスト → テキスト
モデルウェイトオープンウェイト
情報更新日時2026/10/28 14:54:24
OVERVIEW

モデル紹介

I built this quant because the ready-made FP4 file answered the wrong question. It was fast, but on my short WikiText-2 control it scored 6.4949 PPL. Plain Q4_0 scored 6.3798. The first higher-quality hybrid went too far the other way: good perplexity, 34.19 tok/s, and no comfortable room for 256K plus vision. It is a 17.1 GB, 5.01 BPW mixed-precision GGUF of Qwen/Qwen3.8-27B. It keeps large, tolerant matrices in native NVFP4 and spends more bits on selected attention, Gated DeltaNet, and late FFN tensors. The trained MTP layer remains embedded in the same GGUF. This is not a fine-tune. I built the private calibration workload from 5,472 messages across 296 real sessions in my Hermes agent setup. The 153,600 processed tokens covered coding, infrastructure work, tool calls, and mixed Polish-English conversation. I used `llama-imatrix` to rank tensor sensitivity; the corpus and raw importance matrix are not distributed or embedded in the model.

主な特徴

特点摘要待依据来源补齐,不凭模型名称推断能力。

制約と注意点

具体的な制約を判断する出典が不足しています。実際の性能、遅延、データ方針、ライセンス、提供期間を確認してください。

PRICING & COST

出典別料金と費用分析

料金はチャネル・地域・設定によって異なります。各チャネルの料金は個別に表示し、提供元の統一公式料金とは見なしません。

出典・チャネル入力出力課金単位収集日時
確認可能な料金がありません。出典を確認してください。

月額の基本トークン費用を試算

—

試算はキャッシュ割引、段階料金、マルチモーダル追加料金、検索、税金、追加推論出力を含みません。

INDEPENDENT BENCHMARKS

公開評価と実行設定

暂无已采集的可核验公开评分。模型未上榜不代表能力较低。

収録済みの全ランキング →

よくある質問

オープンウェイトなら無料で商用利用できますか?

必ずしもそうではありません。バージョン別のライセンス、商用条件、利用方針を確認してください。自前運用には計算資源と保守費用も必要です。

これはリアルタイムの請求料金ですか?

収集日時付きの料金スナップショットです。最新のバージョン、地域、割引、課金方式は各チャネルで確認してください。

出典と追跡記録

许可证:apache-2.0。模型介绍与第三方评测均以原来源的具体版本和方法为准。