AI NEWS.ccAI는 지금, 미래는 업데이트 중
♡ 저장한 도구 0
AI 모델 라이브러리/teamblobfish/DeepSeek-V4-Flash-GGUF
모델 정보

DeepSeek-V4-Flash-GGUF

teamblobfish · DeepSeek-V4-Flash-GGUF

GGUF quantizations of `deepseek-ai/DeepSeek-V4-Flash` for use with the V4-aware llama.cpp fork at `cchuter/llama.cpp` @ `feat/v4-port-cuda`. > 📦 **Required: V4-aware llama.cpp fork.** These quants don't load on upstream `ggml-org/llama.cpp` — V4 architecture support (compressor decode, hyperconnection, lightning indexer, FP8 KV simulation, NextN heads) lives only in the fork: > > > > Full build + run instructions in Loading below. > 🖥️ **Supported backends: Apple Silicon (Metal), NVIDIA CUDA (Ada/Blackwell), and CPU.** All 5 V4 custom ops (`ggml_dsv4_rope_tail`, `ggml_dsv4_hc_split_sinkhorn`, `ggml_dsv4_hc_weighted_sum`, `ggml_dsv4_hc_expand`, `ggml_dsv4_fp8_kv_quantize`) have Metal kernels AND CUDA kernels in this fork (validated 19/19 on RTX 5090, CUDA 12.8, SM_120 native). The CUDA FP8 path is gated behind `__CUDA_ARCH__ >= 890`; older NVIDIA hardware (Volta/Turing/Ampere) uses a software-emulated FP8 path that builds cleanly under `-DCMAKE_CUDA_ARCHITECTURES=70` but hasn't been runtime-validated yet. **CUDA testers wanted** — file issues at the fork if you hit problems. ROCm / Vulkan / Metal-on-AMD have no V4 kernels and will fail at the first dsv4 op.

번역 대기 중입니다. 원문을 표시합니다.

텍스트 생성license:mit
컨텍스트 창미공개
입력 → 출력텍스트 → 텍스트
모델 웨이트미확인
정보 업데이트2026/11/2 19:15:56
OVERVIEW

모델 소개

GGUF quantizations of `deepseek-ai/DeepSeek-V4-Flash` for use with the V4-aware llama.cpp fork at `cchuter/llama.cpp` @ `feat/v4-port-cuda`. > 📦 **Required: V4-aware llama.cpp fork.** These quants don't load on upstream `ggml-org/llama.cpp` — V4 architecture support (compressor decode, hyperconnection, lightning indexer, FP8 KV simulation, NextN heads) lives only in the fork: > > > > Full build + run instructions in Loading below. > 🖥️ **Supported backends: Apple Silicon (Metal), NVIDIA CUDA (Ada/Blackwell), and CPU.** All 5 V4 custom ops (`ggml_dsv4_rope_tail`, `ggml_dsv4_hc_split_sinkhorn`, `ggml_dsv4_hc_weighted_sum`, `ggml_dsv4_hc_expand`, `ggml_dsv4_fp8_kv_quantize`) have Metal kernels AND CUDA kernels in this fork (validated 19/19 on RTX 5090, CUDA 12.8, SM_120 native). The CUDA FP8 path is gated behind `__CUDA_ARCH__ >= 890`; older NVIDIA hardware (Volta/Turing/Ampere) uses a software-emulated FP8 path that builds cleanly under `-DCMAKE_CUDA_ARCHITECTURES=70` but hasn't been runtime-validated yet. **CUDA testers wanted** — file issues at the fork if you hit problems. ROCm / Vulkan / Metal-on-AMD have no V4 kernels and will fail at the first dsv4 op.

주요 특징

特点摘要待依据来源补齐，不凭模型名称推断能力。

한계 및 유의 사항

구체적 한계를 판단할 출처가 부족합니다. 실제 성능, 지연, 데이터 정책, 라이선스와 버전 수명을 확인하세요.

PRICING & COST

출처별 요금 및 비용 분석

요금은 채널, 지역, 설정에 따라 다릅니다. 각 채널 요금은 개별 표시되며 제공사의 통일 공식 요금이 아닙니다.

출처 / 채널입력출력과금 단위수집 시간
확인된 요금이 없습니다. 출처를 확인하세요.

월간 기본 토큰 비용 추정

—

추정치에는 캐시 할인, 구간 요금, 멀티모달 추가 요금, 검색, 세금 및 추가 추론 출력이 포함되지 않습니다.

INDEPENDENT BENCHMARKS

공개 평가 및 실행 설정

暂无已采集的可核验公开评分。模型未上榜不代表能力较低。

등록된 전체 순위 보기 →

자주 묻는 질문

오픈 웨이트면 무료 상업 이용이 가능한가요?

반드시 그렇지는 않습니다. 버전별 라이선스, 상업 이용 조건과 정책을 확인하세요. 자체 배포에는 연산 및 유지 비용도 듭니다.

실시간 결제 요금인가요?

수집 시간이 기록된 요금 스냅샷입니다. 최신 버전, 지역, 할인과 과금 방식은 해당 채널에서 확인하세요.

출처 및 추적 기록

huggingface · teamblobfish/DeepSeek-V4-Flash-GGUF ↗2026/10/30 17:58:25
huggingface · enrich:903e3c01-7a2b-4972-8ef4-8739cf4725e2 ↗2026/10/31 11:17:31

许可证：mit。模型介绍与第三方评测均以原来源的具体版本和方法为准。