本文へ移動
AI NEWS JOURNAL
AI NEWS / ONE EVENT. MANY PERSPECTIVES.

llama.cpp · b12031

opencl:iq3の初期サポートを追加(#31338)* opencl:iq3_s AOS mvを追加 補助者:Codex* opencl:iq3_s SOA mvおよびタイル化されたmmを追加 補助者:Codex* opencl:adreno向けにiq3_s noshuffle gemm/gemvを追加 共同執筆者:Shaofei Qi 補助者:Codex* opencl:adreno向けにiq3_s dp4aを追加 共同執筆者:Shaofei Qi 補助者:Codex* opencl:iq3_s adrenoのデコードとバッチ幅の最適化を実施 共同執筆者:Shaofei Qi 補助者:Codex* opencl:iq3_xxs AOS mvを追加 補助者:Codex* opencl:iq3_xxs SOA mvおよびタイル化されたmmを追加 補助者:Codex* opencl:adreno向けにiq3_xxs noshuffle gemm/gemvを追加 共同執筆者:Shaofei Qi 補助者:Codex* opencl:adreno向けにiq3_xxs dp4aを追加 共同執筆者:Shaofei Qi 補助者:Codex* opencl:iq3_xxs adrenoのデコードとバッチ幅の最適化を実施 共同執筆者:Sha

1 件の報道

本文を準備中です。原文をご確認ください。