llama.cpp · b12048
sycl:Intel Arc Pro B70s 上的快速 ggml_sycl_comm_exchange() (#30956) * 更新 ggml-sycl.cpp 将 -sm 张量提示评估的每秒吞吐量提升 +19%,而 PPL 保持不变。 * 更新 ggml-sycl.cpp 将首对 wait() 调用替换为 ext_oneapi_submit_barrier()。发现 wait() 调用会导致 MTP 性能下降。 * 更新 ggml-sycl.cpp 添加 comm_exchange 函数指针,以便在初始化时(而非热路径)根据 SYCL_ENABLE_DEFAULT_CONTEXTS=1 设置在 2 缓冲区和 4 缓冲区的 ggml_sycl_comm_exchange 版本之间进行切换。 * 更新 ggml-sycl.cpp 恢复 4 缓冲区方案的后半部分。 * 更新 ggml-sycl.cpp 删除多余空格。 * 更新 ggml-sycl.cpp 在 Windows 上验证完成之前暂不包含 Windows 支持。 **网站:** - **证明文件:** - **macOS/iOS:** - [macOS Apple Silicon (arm64)](h