保存済みツールを推薦
FOXAI SEARCH

サイト内検索

ニュース記事 312

inference-systems

b11877

vulkan: Add a larger tile size for conv3d (coopmat2 only) (#29920) * vulkan: Add a larger tile size for conv3d (coopmat2 only) This adds a larger tile size, in practice it is only for coopmat2 where we don't need shared memory to store the output (would use more than 64KB). Add some additional representative backend tests. At least, this is what codex came up with from looking at sd.cpp Wan VAE. * only apply large tile size for newer driver versions **Website:** - **Attestations:** - **macOS/iOS:** - [macOS Apple Silicon (arm64)](https://github.com/ggml-org/llama.cpp/releases/download/b11877/llama-b11877-bin-macos-arm64.tar.gz) - macOS Apple Silicon (arm64, KleidiAI enabled) [DISABLED](https://github.com/ggml-org/llama.cpp/pull/23780) - [macOS Intel (x64)](https://github.com/ggml-org/llama

翻訳サービスが停止中のため原文を表示しています。
llama.cpp のリリース
業界ニュース

Introducing Kimi K3.1 Pro

Introducing Kimi K3.1 Pro Kimi K3.1 Pro landed on the Kimi API today - it's not yet open weights, but Moonshot promise "Full model weights will be released by Nov 4, 2026". They're also offering a "Highspeed" version that's 2-3x faster, at twice the price (except for input token cache hits, which are priced the same). The US dollar pricing is $2.00/million tokens for input and $10/million for output - the same as GPT-6.1 Sol and half the price of Claude Opus 5.5. Moonshot's own benchmarks show Kimi as approximately level with Opus 5.5 and GPT-6 Astra - beating them on a few benchmarks, coming close on others. Artificial Analysis scored Kimi at 55 - ahead of Claude Fable 5.1, GPT-6 Astra, and Gemini 4 Argon (all at 53) and behind only Claude Opus 5.5 (58). This is the first time a (soon-to-

翻訳サービスが停止中のため原文を表示しています。
サイモン・ウィリソン
研究の進展

IBMはGranite時系列統合予測モデルを発表しました。4つのモデルをゼロチューニングで組み合わせ、堅牢なデフォルトの予測ソリューションを提供します。

IBM Researchは、オープンソースのGranite Timeseries Ensemble（v1）を公開し、PatchTST-FM-r1/r2、FlowState、Tiny Time Mixersの4種類の事前学習アーキテクチャを統合して、ゼロ・ファインチューニングによる確率的アンサンブル予測をサポートしています。デフォルトでは等重みの確率的アンサンブル（Probabilistic Ensemble）を採用しており、四分位範囲に基づく適応的重み付け（IQR Ensemble）も提供されています。GIFT-Evalベンチマーク（2026年10月20日時点のスナップショット）において、点予測誤差（MASE=0.683）は最良の単一モデルをわずかに上回り、全体的なロバスト性が顕著に向上しています。

Hugging Face 公式ブログ
業界ニュース

i14がLaplace 3B線形注意力モデルを発表：AWS Trainium2とネイティブPyTorchを基に、固定状態メモリでの推論を実現

i14は、30.28億パラメータを備えるLaplace 3Bモデルを発表しました。このモデルでは、Softmaxアテンションの代わりにゲート制御線形アテンション（GLA）を採用しており、推論時の各シーケンスあたりの再帰状態は常に29.5 MBで、コンテキスト長に依存しません。同モデルは、AWS trn2.48xlarge（Trainium2チップ16基搭載）1台でトレーニングおよびサービス検証を実施し、トレーニングスループットは12万トークン/秒、サービススループットは11,544出力トークン/秒（1,280同時実行シーケンス）に達しました。すべての性能データは、i14とAWS GenAIICチームによる社内実測結果です。

AWS マシンラーニングブログ
業界ニュース

llm-echo 0.5

リリース：llm-echo 0.5 新しいLLMのリリースに向けて作業を進めており、プルリクエストのテストを行う過程でllm-echoデバッグプラグインを改めて確認しました。このプラグインは、実際にはLLMを一切使用せず、単に与えられたプロンプトをそのまま返すだけの「モデル」を提供します。今回の新バージョンでは、ツールコールやシステムプロンプト、推論用トークンも考慮したシミュレートされたトークン使用量のカウントが更新されます。 使用例：uvx --with llm-echo llm -m echo 'hi there' -o thinking 1 --usage 出力結果：まずプロンプトを検討し、次に何を言うかを決定します。 { "prompt": "hi there", "system": "", "attachments": [], "stream": true, "previous": [] } トークン使用量：入力2、出力24 タグ：llm

サイモン・ウィリソン
業界ニュース

Anthropic tells investors quarterly revenue up nearly 50% to $16.8bn ahead of IPO

Anthropic tells investors quarterly revenue up nearly 50% to $16.8bn ahead of IPO The phrase "told investors" appears four times in this FT article, which reports on Anthropic's day of hosting investors on Wednesday. Lots of details in here from "people with knowledge of the matter". Key things I learned from the article: Q1 revenue (Jan/Feb/Mar) was "about $4.8bn" Q2 (Apr/May/Jun) was $11.5bn Q3 (Jul/Aug/Sep) was $16.8bn In Q3: $1.70 in revenue for every $1 spent on "computing power" Adjusted operating margins (excluding stock-based compensation) were 11% This point about distillation is worth quoting in full (highlight mine): The start-up has also clamped down on “distillation” — a controversial practice whereby rival AI labs train their models on the outputs of more advanced ones. When

翻訳サービスが停止中のため原文を表示しています。
サイモン・ウィリソン
業界ニュース

llm-gemini 0.35

Release: llm-gemini 0.35 I added support to llm-gemini for the new Gemini 4 Argon model, made available today via the Gemini API and for customers of their $100/month subscription plan. Here are the low, medium and high pelicans. As expected, they are all excellent: Gemini has a track record of producing great SVGs, and are the only lab where I know their staff have invested in SVG specifically (and who have boasted about their pelicans before.) Here's the "high" illustration, which cost me 17.166 cents: The pricing is interesting. At launch, Argon is $2/million input and $10/million output - the same price as GPT-6 Sol, half the price of Claude Opus 5.5 and 1/5th the price of Claude Fable 5.1 and GPT-6 Astra. But on December 1st Argon is set to double in price - so it will be the same pri

翻訳サービスが停止中のため原文を表示しています。
サイモン・ウィリソン