自動ワークロードリカバリで分散トレーニングを継続
分散型AIトレーニングがスケールするにつれ、ハードウェアおよびソフトウェアの依存関係における障害がトレーニングの進行をますます妨げるようになり、迅速で信頼性の高いリカバリが求められています...
見出し・要約・本文から、情報のつながりを探します。
分散型AIトレーニングがスケールするにつれ、ハードウェアおよびソフトウェアの依存関係における障害がトレーニングの進行をますます妨げるようになり、迅速で信頼性の高いリカバリが求められています...
原子力の復興から量子ビットに至るまで、MITエネルギーイニシアチブの年次研究会議では、今日の技術の実装から明日の画期的発見への道のりが追跡されました。
sycl:Intel Arc Pro B70sでのggml_sycl_comm_exchange()の高速化(#30956)* ggml-sycl.cppを更新 PPLの変化なしで、-smテンソルプロンプト評価の速度を19%向上。 * ggml-sycl.cppを更新 wait()呼び出しの最初のペアをext_oneapi_submit_barrier()に置き換え。wait()呼び出しがMTPの低下を引き起こすことが判明したため。 * ggml-sycl.cppを更新 初期化時(ホットパスではなく)にSYCL_ENABLE_DEFAULT_CONTEXTS=1設定で制御される、2バッファと4バッファのggml_sycl_comm_exchangeバージョン間の切り替え用にcomm_exchange関数ポインタを追加。 * ggml-sycl.cppを更新 4バッファフリーの後半部分を復元。 * ggml-sycl.cppを更新 追加の空白を削除。 * ggml-sycl.cppを更新 Windows向けはWindowsでの検証が完了するまで除外。 **ウェブサイト:** - **認証:** - **macOS/iOS:** - [macOS Apple Silicon (arm64)](h
NVIDIA RTX Sparkは、スリムなノートPCやコンパクトなデスクトップでAI開発、クリエイション、ゲームを実現する新しいWindows PCプラットフォームです。NVIDIA Blackwell RTXを搭載しています…
2026年の長沙・1024プログラマーの日に開催されたCEIC消費電子イノベーション大会とCSDNは、深圳で開発者向けの本格的な技術の祭典を共同で実現しました。CEIC組織委員会の常務副主任である楊涛氏がインタビューで述べたように、「消費電子分野におけるあらゆる体験の革新は、結局のところ私たちプログラマーが打ち込むコードによって生み出されるのです。」現在の技術の転換点において、単なる手書きのコードから、エージェントや豊富な端末側APを活用する時代へと進んでいます…
llama.cpp のバージョン b11871 では、重要なセキュリティ修正が導入され、リクエスト内の JSON のネスト階層に対して 128 層のハード制限を設けることで、深い再帰的解析による HTTP スレッドスタックのオーバーフローおよびサービスのクラッシュ(macOS では SIGBUS、Linux では SIGSEGV をトリガー)を防止しています。この対策は、chat インターフェースの複数の入力シナリオに適用され、統一的に HTTP 400 エラーを返します。
llama.cppはバージョンb11870において、DeepSeek-V4.1-Flash(deepseek41)モデルへの対応を追加し、そのEngramアーキテクチャに対してKVキャッシュ計算の簡略化、BF16精度によるMXFP8代替、in-graph行gatherなど、複数の低レベル最適化を施しました。同時に、macOS、Linux、Windows、Android、iOSおよびopenEulerを網羅するマルチプラットフォームのバイナリビルドも提供しています。
llama.cpp プロジェクトはビルドバージョン b11869 をリリースしました。主な修正点は、Jinja テンプレートにおける select 関数および selectattr 関数の引数解析ロジックであり、macOS、Linux、Windows、Android、iOS、および openEuler に対応した数十種類のハードウェアとバックエンドの組み合わせをカバーするプリコンパイル済みバイナリパッケージを提供しています。
llama.cpp v2.45.0(タグ b11868)が正式にリリースされ、主要な更新点として、Hexagon バックエンドに KV-head のグループ分割メカニズムを導入してマルチコア HMX Flash Attention の性能を最適化し、FA の分割制御フラグを統一しました。同時に、macOS、Linux、Windows、Android、iOS、openEuler など、全プラットフォーム向けのバイナリパッケージを提供しており、CUDA 12/13、Vulkan、ROCm、OpenVINO、SYCL、Snapdragon(Adreno+Hexagon)など、複数のバックエンドに対応しています。
llama.cpp が GitHub 上で正式にバージョン b11867 をリリースしました。主要な変更点として、サーバー側のエントリーポイントの再構築(PR #31113)と、server_role 機構の追加が挙げられます。また、macOS、Linux、Windows、Android、iOS、openEuler を対象とした 40 種類以上の事前ビルド済みバイナリパッケージを提供しており、CPU、CUDA(12.4/12.8/13.4)、Vulkan、ROCm 10.0、OpenVINO、SYCL(FP16/FP32)、Snapdragon(Adreno+Hexagon)など、多様なハードウェアバックエンドをサポートしています。
llama.cpp v.b11866 では、Metal バックエンドに実装されていた時代遅れの src1 の2のべき乗による AMAX スケーリング機構が削除され、代わりに計算グラフ内でのより細粒度なエキスパートごとのトークン単位の amax スケーリングに依存するようになりました。これにより、MoE 下における投影後の活性化値が f16 表現の範囲内に収まることが保証されます。同時に、関連する二段階リダクションカーネル、F32 精度のスケジューリング、および境界外アクセスを検出するテストケースも削除されました。
llama.cpp プロジェクトはビルドバージョン b11865 をリリースし、主要な変更点として、RDMA 受信ロジックにメモリ境界チェックを追加(PR #30399)するとともに、ハードウェアアクセラレーションのサポートを大幅に拡張しました。これにより、CUDA 13.4、ROCm 10.0、Vulkan、OpenVINO、SYCL、さらに Qualcomm Snapdragon(CPU+Adreno+Hexagon)によるフルスタックの異種計算バックエンドが対象となります。なお、macOS における KleidiAI のサポートおよび openEuler 上でのビルドは、明示的に DISABLED とマークされています。
llama.cpp v.b11861 では、minimax-m3 モデルにおいて NVFP4/MXFP8 の量子化下でスケールテンソルが計算グラフに注入されないために生じていた重みの歪み問題を修正し、『token soup』や残差の埋没を回避しました。また、macOS、Linux、Windows、Android、iOS、openEuler を網羅するマルチプラットフォーム対応のバイナリビルドも同時に提供されています。