Show HN:LLM-cost-watch – Claudeに、あなたのLLM請求額が急増した理由を尋ねてみましょう
記事のURL:https://github.com/rohith0707/llm-cost-watch コメントのURL:https://news.ycombinator.com/item?id=50415785 ポイント:1 # コメント:0
見出し・要約・本文から、情報のつながりを探します。
記事のURL:https://github.com/rohith0707/llm-cost-watch コメントのURL:https://news.ycombinator.com/item?id=50415785 ポイント:1 # コメント:0
arXiv:2611.06207v1 発表タイプ:新規 要旨:繰り返し実行されるマルチカーネルGPUパイプラインとして構築された不規則な科学アプリケーションにおいては、スループットがカーネルの効率と同程度にカーネル外の判断に依存するため、性能の移植性を実現するのは困難である。分子ドッキングを代表的なケーススタディとして取り上げ、バッチングポリシー、ワーカーの並行度、および各ワーカーごとのメモリ割り当てを明示的な最適化パラメータとして扱うカーネル外チューニング手法を提案する。この手法では、バックエンド依存の占有率主導型の選択を、明示的なリソース制約に基づくより移植性の高い実行戦略に置き換える。本手法をmuDockミニアプリに実装し、マネージャ/ワーカー実行モデル下で複数のホストワーカーが独立したストリームを通じてGPUを共有する環境を構築した。その後、NVIDIA、AMD、Intelの各GPUに対し、CUDA、HIP、SYCLの実装上で評価を行った。評価対象となったすべてのプラットフォーム/バックエンドの組み合わせにおいて、メモリ制約に基づく定式化は占有率主導型のベースラインのピークスループットを上回った。完全にチューニングされた本手法は、テストしたすべての構成でエンドツーエンドのスループットを向上させ、ベースラインに対して平均1.53倍の高速化を達成した。
記事のURL:https://getcinnamon.ai/ コメントのURL:https://news.ycombinator.com/item?id=50373233 ポイント:2 # コメント:1
n8n 2.46.6のアップデートにより、すべてのプラットフォームでn8nのnpmインストールが正常に動作しない問題が解決され、互換性と機能が復元されました。
n8n 2.47.2のアップデートにより、すべてのプラットフォームでn8nのnpmインストールが正常に機能しない問題が解決され、互換性と機能が復元されました。
AI産業がメモリやその他の部品を大量に消費しているため、PC市場の需要低迷がインテルに打撃を与え、PC価格の上昇を招いている。
OpenAI、Google、Microsoft、Anthropicは、パブリッシャーがAIによるスクレイピングを拒否するための新しい標準を採用すると述べており、これは以前にSearch Engine Roundtableによって報じられた。この制御により、パブリッシャーは個別に設定するのではなく、複数のAI企業にわたって自らのAI学習に関する優先設定を適用できるようになる。共有される「ポリシートークン」シグナルは[…]
自律型エージェントの構築には、モデル、ハーネス、およびドメイン固有のツールが必要です。エージェントをより安全にデプロイするためには、ポリシーを強制するランタイムに加え、信頼性の高い実行を確保するための最適化ツールや観測可能性ツールも必要です。
AIエージェントを本番環境へ投入しようと急ぐ企業たちは、そのエージェントを信頼できるかどうかを左右するのはモデルの選択ではなく、ロールベースのアクセス制御であると気づきつつある。推論コストの高騰やプライバシーへの懸念、主権に関する要求なども相まって、ますます多くのAIワークロードが企業内データセンターへと戻りつつある。この変化は、長年にわたり機密データの管理に取り組んできた企業に有利に働いている。[...] 記事「AIエージェントの導入競争は、データアクセスという見慣れた障壁に直面している」は、SiliconANGLEにて最初に公開された。
AIのおかげでできることが増えたとはいえ、以前よりもかなり疲れを感じています。同時に進行する多くの事柄を把握し、膨大な生成テキストを読み込まなければなりません。
arXiv:2610.37881v1 発表タイプ:新規 要旨:ディープフェイク検出モデルは全体的な精度は高いものの、人口統計上の各グループ間で性能に大きな偏りが見られ、一部のグループでは他のグループに比べて偽陽性率が著しく高くなるという問題があります。既存の公平性を考慮した手法は、モデルの出力を制限してグループ間の予測結果を均等化することによってこの問題に対処していますが、根本的な特徴レベルのバイアスには対処していません。その結果、モデルは依然として肌の質感など、人口統計的特性を操作されたコンテンツを検出するための間接的な手がかりとして利用してしまう可能性があります。この問題を解決するために、我々は交差的不変学習(IIL)というフレームワークを提案します。これは、単にモデルの出力を調整するだけでなく、特徴学習自体を改善するものです。IILでは、最も困難な人口統計的区分を特定することを繰り返し行い
arXiv:2610.37796v1 発表タイプ:新規 要旨:近年の研究では、大規模な言語モデルが、単一の方向ではなく多次元の多様体として一部の概念を表現している可能性があると仮説されています。これらの多様体を用いて表現を解釈したり制御したりする際には、しばしば多様体上を移動することが、表現される概念の連続的な変化に対応すると想定されます。本研究では、この連続的な多様体の仮定を、典型的な平日の多様体に対して検証します。その目立つ円形の幾何学にもかかわらず、平日の表現は連続したリングというよりも、円状に配置された七つの離散的な状態に近い振る舞いを示すことが分かりました。まず、局所的感度に平日に対応する七つの極小値が存在し、多様体上の制御下での表現と行動の間には階段状の対応関係が生じることを示します。次に、w
arXiv:2610.37682v1 公告タイプ:新規 要旨:リストワイズな好みフィードバックは、ペアワイズ比較に比べて大規模言語モデル(LLMs)のアライメントにおいてより豊かな監督情報を提供しますが、完全なランキングはさらに機密性の高いユーザーの嗜好も明らかにしてしまいます。既存のプライバシー保護型アライメント手法は主にペアワイズなフィードバックに焦点を当てていますが、ローカル差分プライバシー(LDP)下でのリストワイズなアライメントは未だ十分に探求されていません。このリストワイズな領域へLDPを拡張することは、重大な課題を提起します。すなわち、完全なランキング空間の高い機密性のために過剰なノイズが必要となり、結果としてリストワイズな監督の利点が無効化されてしまうのです。この課題に対処するため、我々は下流の学習における監督の粒度とプライバシー・ノイズの相互作用を分析し、リストワイズな好みをプライバシー保護するランク-awareな指数関数メカニズムを提案します。
arXiv:2610.37679v1 公表タイプ:新規 要旨:ツールを使用する言語エージェントは間接的なプロンプトインジェクションに対して脆弱であり、不安全な行動が実行される前にそれを検出するためにモデル内部を調査する研究が増加しているが、その結果には著しく矛盾した点が見られる。我々は、こうした矛盾の多くは評価手法に起因すると主張し、評価および学習集団の両方において、インジェクションによる露呈と行動上の約束を分離する二重層化プロトコルを提案する。主要なQwen AgentDojoのグリッド上で、無意識的に不安全なケースとその他を混在させた対照条件下で訓練されたモニターは、ほとんどが露呈を学習しており、エージェントがそれに従うかどうかに関わらず露呈した軌跡を警告し、どのケースが不安全になるかをほとんど予測しない。一方、露呈したケースのみを対象に再訓練した場合、同じ種類のプローブはモデル自身が行う不安全なツール呼び出しを最大2秒前まで予測できる。
arXiv:2610.37819v1 発表タイプ:新規 要旨:量子機械学習(QML)は医療分類への応用がますます検討されているが、サブグループを考慮した公平性基準下での挙動についてはまだ十分に研究されていない。本稿では、QMLが本質的に公平であるとは限らないという前提のもと、医療画像に対する古典的および量子分類器の実証的な公平性監査を提示する。評価対象は二つのシナリオであり、DDIデータセット上の皮膚病変(敏感属性:フィッツパトリック皮膚タイプ)と、CheXpert由来データ上の胸部X線画像(敏感属性:年齢層)である。ResNet-18による埋め込みを用い、ベースラインおよび三種類の緩和手法(微分可能な等化オッズ(EO)正則化、勾配反転学習(GRL)、両者を組み合わせた手法)の下で、SVM、MLP、QSVM、QCNNを訓練する。また、基礎モデル(PanDerm、EVA-X)を外部参照として用いる。
arXiv:2610.37906v1 発表タイプ:新規 要旨:スパイキングリザーバーコンピューティングは、固定された再帰的リザーバーの学習効率と、各タイムステップごとに高密度に計算を行うのではなく、疎なスパイクによって計算がトリガーされるイベント駆動型推論のエネルギー効率を組み合わせた手法である。しかし、既存のスパイキングリザーバーはほぼすべて漏洩積分・発火(LIF)ニューロンに依存しており、その低通過特性により、異なる時間周波数で符号化された情報を区別する能力が制限されている。そこで我々は、LIFニューロンを多様なハーモニック共鳴・発火(HRF)ニューロンの集団に置き換えた液体状態マシンであるHRF-Resを提案する。これらのニューロンは固有の振動ダイナミクスを示し、入力信号の周波数に対して選択的に応答するため、リザーバーは周波数
arXiv:2610.39981v1 発表タイプ:新規 要旨:大規模な科学ワークフローは分散型HPCリソース上で実行されるため、科学データ製品がどのように生成され、なぜ類似のワークフロー実行でも非常に異なる結果が得られるのかを説明することは困難である。既存のシステムは通常、分散ワークフローの実行またはプロヴェナンス管理のいずれかに焦点を当てており、細粒度のプロヴェナンスを分散型科学データアーティファクトの固有の特性として扱うことはほとんどない。我々は、TRACEs(Traceable Runtime for Advanced Containerized Executions)を提案する。これは、生成されるすべてのデータアーティファクトにデータの系譜と実行コンテキストを直接埋め込む、分散型コンテナ化された科学ワークフロー向けのプロヴェナンスアーキテクチャである。プロヴェナンスをワークフロー編成から分離することで、TRACEsはアーティファクト中心のプロヴェナンスを一般化する
arXiv:2610.39222v1 発表タイプ:新規 要旨:AIアクセラレータのアーキテクチャがますます多様化する中、異なるアーキテクチャを統一されたシステムに統合することが、新たな異種計算のパラダイムとして浮上している。GPUとWSEは、演算、メモリ、通信の組織形態において大きく異なり、これによりアーキテクチャ間の相補性と追加のオーバヘッドが生じる一方で、この異種性をいかにして実用的な性能向上へと結びつけるかは依然として不明である。このギャップを解消するため、我々はGPU–WSEの異種実行および相補性を活用する条件を評価する階層的ベンチマーク手法を提案するとともに、異種性がボトルネックとなる場合とシステムレベルで性能向上をもたらす場合を特定する解析的性能モデルを提示する。
arXiv:2610.38355v1 発表タイプ:新規 要旨:KVキャッシュの再利用は大規模言語モデルのサービスを加速させるが、既存のシステムではホストのDRAMとNVMe SSDを階層的なヒエラルキーとして管理しており、DRAMが中間キャッシュとして機能している。しかし、実際の大規模言語モデルのワークロードは、この階層構造の二つの前提をいずれも破っている。第一に、バイモーダルな再利用によりDRAMの時間的フィルタリングが無効化される。というのも、ワークロードは長い再利用距離を持つワンショットブロックか、DRAM容量を超える数ギガバイト規模のエージェントセッションによって支配されており、その結果SSDが重要な読み取りパスに置かれているからである。第二に、DRAMによるステージングと、排出現象に基づくレイアウトがSSDの復元処理をボトルネックにしている。進行中のプレフィックスのためにホストのステージングバッファを保持すると、負荷下で競合が生じてプリフェッチが中断されてしまう一方で、段階的な排出現象によってセッション内のブロックがSSD全体に散らばり、大規模なシーケンシャルリードが妨げられる。我々は…
arXiv:2610.37676v1 公表タイプ:新規 要旨:自動解釈可能性は、スパースオートエンコーダー(SAE)の特徴について、評価例に対してその特徴がどの位置で活性化するかをトークンごとに予測させたり、マークされたトークンがその特徴に適合しているかどうかを判定させたりすることで、解説を評価します。我々は、評価データの標準的な処理パイプラインのみを用いても、解説を読まないままスコアリングが可能であることを示しました。Neuronpediaに保存されているGPT-2 smallモデルのランダムな500個の特徴に対するファジング実行において、活性化した例の91.3%が中心トークン上でピークを持つように切り取られており、さらに中心トークンがマークされていれば「はい」と判定するルールは、パイプラインのコードから再構築されたマークに基づいて計算した結果、保存済みのLLMスコアラーの0.838に対し、バランスのとれた精度0.979を達成しています。一方、マーク数のみを参照するルールでは0.969を記録しました。T