Qwen3.8-Flash-Next-Uncensored-UD-Q4_K_XL
我的主力机器是 **AMD Ryzen AI Max+ 395(Strix Halo 架构,128 GB LPDDR5X 统一内存)**。 这块 APU 的 iGPU 与 CPU 共享同一片 128 GB 内存,没有传统意义上的独立显存, 所以它是目前少数能**完整驻留** 100 GB 级模型的消费级平台。 两个引擎都以 **GGUF** 为输入。但当时可用的 GGUF 发行版(官方 Unsloth UD-Q4_K_XL)是**审查版**, 而社区上的越狱权重 `orcarouter/Qwen3.8-Flash-Next-Uncensored` **只发布了 BF16 safetensors**, 没有对应的 GGUF —— 于是出现了「引擎能跑、但没有可用的越狱版 GGUF」的空档。 **这个仓库就是填这个空档的产物**:把那份越狱 BF16 权重按官方 UD-Q4_K_XL 的规格量化成 GGUF, 补上 MTP draft head 和视觉塔,让 Halogen 和 Gufo 都能直接加载, 在这台机器上跑出完整的越狱能力 + 投机解码加速。
我的主力机器是 **AMD Ryzen AI Max+ 395(Strix Halo 架构,128 GB LPDDR5X 统一内存)**。 这块 APU 的 iGPU 与 CPU 共享同一片 128 GB 内存,没有传统意义上的独立显存, 所以它是目前少数能**完整驻留** 100 GB 级模型的消费级平台。 两个引擎都以 **GGUF** 为输入。但当时可用的 GGUF 发行版(官方 Unsloth UD-Q4_K_XL)是**审查版**, 而社区上的越狱权重 `orcarouter/Qwen3.8-Flash-Next-Uncensored` **只发布了 BF16 safetensors**, 没有对应的 GGUF —— 于是出现了「引擎能跑、但没有可用的越狱版 GGUF」的空档。 **这个仓库就是填这个空档的产物**:把那份越狱 BF16 权重按官方 UD-Q4_K_XL 的规格量化成 GGUF, 补上 MTP draft head 和视觉塔,让 Halogen 和 Gufo 都能直接加载, 在这台机器上跑出完整的越狱能力 + 投机解码加速。
AI正在发生 未来正在更新