見出し・要約・本文から、情報のつながりを探します。
智東西（公式アカウント：zhidxcom）著者｜李水青 編集｜心縁 智東西10月31日の報道によると、アリババは先ほどアップルと提携し、QwenをApple Intelligenceに統合すると発表しました。中国のユーザーはSiriやライティングツール、ビジュアルインテリジェンスにおいて、Qwenのテキスト・画像理解やコンテンツ生成などの機能を直接利用できるようになります。これらの機能は11月4日から最新のiOS Developer Beta版とともにテスト公開され、さらに…
arXiv:2610.34436v1 発表タイプ：新規 要旨：ループ型言語モデルは、各トークンに対して層のブロックを$R$回実行するため、そのキーバリューキャッシュ（KVキャッシュ）には各再帰層ごとに$R$個の平面が格納され、自己予測的デコーディング（一部のループで予備的に推論し、残りの$R$すべてで検証する手法）ではそれらすべてが読み込まれる。我々は、プレフィックスのキーとバリューが影響を及ぼすのは後半に集中していることを発見した。同程度の摂動サイズにおいて、ループ25〜32はループ2〜9に比べてそれぞれ$e^{15.0}$倍（Huginn-0125）および$e^{12.8}$倍（Raven-Llama）も敏感であり、各ループごとの平面数は0.88および0.81という比率で最終的な平面へと幾何級数的に近づいていく。そして、最も深い平面単独で十分かどうかは、後半の平面がどれほど成熟しているかに依存する。Ravenでは、それを保存するだけでbf16からfp32への変更と区別できない一方、Huginnでは、全体の誤差の74%をわずか1%の位置が占めている。これをRIPEに展開すると、最も深い…
