モデル紹介
>MoQ (Mixture of Quants) is a smart way to shrink AI models without losing their "brainpower." Unlike old methods that treat every part of the model the same, MoQ identifies the most important parts and keeps them high-quality, while heavily compressing the rest to save space.****Stop settling for uniform bitrates.** Standard quantization is a relic of the past, treating vital cognitive weights the same as redundant noise. ** --- The result? A model that punches significantly above its weight class. Benjamin Marie evaluated MoQ GGUFs ("Mixture of Quants") against Unsloth Dynamic (UD) quants, focusing on low-bit versions below 4 bits on average — the range where GGUF models typically struggle most. Results: At similar bits-per-weight (Bpw), MoQ outperforms Unsloth Dynamic quants by ~10% on benchmarks, while also being roughly 2× more token-efficient on average. --- | Folder Link | BPW | Total Size | Description | | :--- | :---: | :---: | :--- | | 📂 **BF16** | **16** | **17.92 GB** | 📂 **F16** | **16** | **17.92 GB** | 📂 **MoQ-Quants-Latest** | **3.2** | **3.58 GB** | 📂 **MoQ-Quants-Latest** | **3.6** | **4.03 GB** | 📂 **MoQ-Quants-Latest** | **3.8** | **4.22 GB** | 📂 **MoQ-Quants-Latest** | **4.1** | **4.64 GB** | 📂 **MoQ-Quants-Latest** | **4.3** | **4.84 GB** | 📂 **MoQ-Quants-Latest** | **4.6** | **5.11 GB** | 📂 **MoQ-Quants-Latest** | **4.8** | **5.37 GB** | 📂 **MoQ-Quants-Latest** | **4.9** | **5.49 GB** | 📂 **MoQ-Quants-Latest** | **5.1** | **5.75 GB** | 📂 **MoQ-Quants-Latest** | **5.3** | **5.92 GB** | 📂 **MoQ-Quants-Latest** | **6.6** | **7.36 GB** | 📂 **MoQ-mmproj** | **16.0** | **0.92 GB**
主な特徴
特点摘要待依据来源补齐,不凭模型名称推断能力。
制約と注意点
具体的な制約を判断する出典が不足しています。実際の性能、遅延、データ方針、ライセンス、提供期間を確認してください。
出典別料金と費用分析
料金はチャネル・地域・設定によって異なります。各チャネルの料金は個別に表示し、提供元の統一公式料金とは見なしません。
| 出典・チャネル | 入力 | 出力 | 課金単位 | 収集日時 |
|---|---|---|---|---|
| 確認可能な料金がありません。出典を確認してください。 | ||||
月額の基本トークン費用を試算
試算はキャッシュ割引、段階料金、マルチモーダル追加料金、検索、税金、追加推論出力を含みません。
公開評価と実行設定
暂无已采集的可核验公开评分。模型未上榜不代表能力较低。
収録済みの全ランキング →よくある質問
オープンウェイトなら無料で商用利用できますか?
必ずしもそうではありません。バージョン別のライセンス、商用条件、利用方針を確認してください。自前運用には計算資源と保守費用も必要です。
これはリアルタイムの請求料金ですか?
収集日時付きの料金スナップショットです。最新のバージョン、地域、割引、課金方式は各チャネルで確認してください。
出典と追跡記録
许可证:mit。模型介绍与第三方评测均以原来源的具体版本和方法为准。