NVIDIA NemoClawで、自社管理のスタック上に専用エージェントを構築する
自律型エージェントの構築には、モデル、ハーネス、およびドメイン固有のツールが必要です。エージェントをより安全にデプロイするためには、ポリシーを強制するランタイムに加え、信頼性の高い実行を確保するための最適化ツールや観測可能性ツールも必要です。
見出し・要約・本文から、情報のつながりを探します。
自律型エージェントの構築には、モデル、ハーネス、およびドメイン固有のツールが必要です。エージェントをより安全にデプロイするためには、ポリシーを強制するランタイムに加え、信頼性の高い実行を確保するための最適化ツールや観測可能性ツールも必要です。
arXiv:2610.37906v1 発表タイプ:新規 要旨:スパイキングリザーバーコンピューティングは、固定された再帰的リザーバーの学習効率と、各タイムステップごとに高密度に計算を行うのではなく、疎なスパイクによって計算がトリガーされるイベント駆動型推論のエネルギー効率を組み合わせた手法である。しかし、既存のスパイキングリザーバーはほぼすべて漏洩積分・発火(LIF)ニューロンに依存しており、その低通過特性により、異なる時間周波数で符号化された情報を区別する能力が制限されている。そこで我々は、LIFニューロンを多様なハーモニック共鳴・発火(HRF)ニューロンの集団に置き換えた液体状態マシンであるHRF-Resを提案する。これらのニューロンは固有の振動ダイナミクスを示し、入力信号の周波数に対して選択的に応答するため、リザーバーは周波数
オープンソースツールとオープンソースPDKを用いて、チップ設計ワークフローを完了する能力を評価するため、ワークロード仕様からGDSレイアウトに至るまでの段階でAIエージェントを評価します。記事「Build-A-Chip-Benchの紹介:ワークロード仕様からGDSまで」はSemiconductor Engineeringに最初に掲載されました。
Simplismartは、年間化した収益のランレートが6か月で14倍に成長し、米国が同社の収益の半分以上を占めていると述べています。
arXiv:2610.33501v1 発表タイプ:新規 要旨:大規模言語モデル(LLM)のサービスでは、推論スループットを向上させるためにバッチ処理が用いられるが、キー値(KV)キャッシュはシーケンス長に応じて増大し、GPU上での並行処理能力を制限する要因となっている。CPUオフロードによりホストメモリを活用してKV容量を拡張することは可能だが、既存のシステムは依然として大部分がGPUに依存しており、CPU上に常駐するリクエストが進捗するのは、GPUスケジューラが適切なオーバーラップの機会を提供した場合に限られる。その結果、ホストメモリとCPU計算は独立したサービス資源として機能せず、負荷下ではCPU側の進捗が断続的になり、末端のトークン間遅延(ITL)が過剰に増大するという問題が生じる。本稿では、ホストを独立してスケジュール可能なデコードエンジンへと変える、LLM向けの実行時環境であるDualPaceを提案する。DualPaceは、スケジューリング権限を二つのエンジン間に分割し、GPUエンジン
本日は、ワークステーション向けのASRock製ハイエンドRadeon AI推論カード「Creator Radeon AI Pro R9700」をご紹介します。32GBのメモリを搭載し、価格は1,700ドルというこのカードは、ローカルでのAI推論を実行するワークステーションを手頃なコストで構築するうえで非常に優れた選択肢です。記事「ASRock Creator Radeon AI Pro R9700レビュー:AMD流ワークステーション向け推論」は、ServeTheHomeに初出しました。
Dharma-AIはVocabX手法を提案し、ポルトガル語の作文自動採点といった特定のタスク向けに言語モデルの語彙表を再構築することで、語彙の出現頻度ではなく生成コストを最適化目標としています。モデルの構造やパラメータ、学習プロセスを変更することなく、実測では推論コストが77%削減され、同時に評価指標(bench score)も0.703から0.810へ向上しました。