見出し・要約・本文から、情報のつながりを探します。
arXiv:2610.37682v1 公告タイプ：新規 要旨：リストワイズな好みフィードバックは、ペアワイズ比較に比べて大規模言語モデル（LLMs）のアライメントにおいてより豊かな監督情報を提供しますが、完全なランキングはさらに機密性の高いユーザーの嗜好も明らかにしてしまいます。既存のプライバシー保護型アライメント手法は主にペアワイズなフィードバックに焦点を当てていますが、ローカル差分プライバシー（LDP）下でのリストワイズなアライメントは未だ十分に探求されていません。このリストワイズな領域へLDPを拡張することは、重大な課題を提起します。すなわち、完全なランキング空間の高い機密性のために過剰なノイズが必要となり、結果としてリストワイズな監督の利点が無効化されてしまうのです。この課題に対処するため、我々は下流の学習における監督の粒度とプライバシー・ノイズの相互作用を分析し、リストワイズな好みをプライバシー保護するランク-awareな指数関数メカニズムを提案します。
新しい標準であるWebAIは、さまざまなAIモデルと連携できるよう設計されています。
arXiv:2610.32997v1 公開タイプ：新規 要旨：OpenAIのWhisperなどの自動音声認識（ASR）モデルは、音声認識の精度を大幅に向上させていますが、特に大量のトランスクリプション済み音声データが利用可能な場合でも、ファインチューニングには高いコストがかかります。そのため、多くの実務者がこれらのモデルを新たな言語や領域に適応させるのは困難です。本研究では、ASRのファインチューニングに用いるためのより小規模な学習データセットを選択する、埋め込みベースのサブセット選択手法を提案します。Whisperの事前学習済みエンコーダを用いて、各音声サンプルを固定次元の埋め込み空間へ写像し、貪欲なk-センター法を適用して、多様で代表性のある学習データのサブセットを選定します。本手法をヘブライ語およびデンマーク語に対して評価した結果、k-センター選択はしばしば
arXiv:2610.32322v1 発表タイプ：新規 要旨：LLMエージェントは、最大約10万件のエントリーを保持し、多数のモデルにサービスを提供する公開ハブからスキルを取得します。モデルが進化するにつれて、ハブは特定のモデルが既に内蔵しているスキルを見出し、そのモデルにとってそれらが不要になったことを示すためにそれらのスキルを廃止しなければなりません。しかし、内蔵の度合いはこれまで知られている信頼性で測定されていません。既存のルールでは、スキルを有する場合と無する場合の実行結果を比較し、その差分のみを基準としてスキルの廃止を判断しています。ところが、内蔵されたスキルの場合も、モデルもスキルもその能力を発揮しない状態（我々はこれを「未解明」と呼んでいます）でも、得られる効果はほぼゼロです。そこで、私たちはむしろそのスキルを保留し、それに基づいて合成されたタスクにおいてモデルを評価し、別のモデルがそのスキルによって得点を上げる場合にのみ、補助なしでの高得点を信頼することにしています。なぜなら、高得点のほぼ半数は、何らかのタスクに基づくものであり、
MITコミュニティの各層が集まり、データセンターや強力な温室効果ガスから農業や教育に至るまで、幅広いテーマについて議論を交わしました。
8年前、チップメーカーのマーベル・テクノロジー社はナノメートル単位での技術革新を一気に進めることを決断し、以来その成長軌道は着実に上向き続けている。半導体製造において、ナノメートル表記はトランジスタの正確な物理寸法を示すのではなく、プロセスノードと呼ばれるチップ製造技術の世代を指すものである。先進的なプロセスノードは一般に、より高いトランジスタ密度と性能の向上を実現する[…] 「AI需要の高まりの中で、マーベルの初期のチップ製造への賭けが実を結ぶ」という記事は、最初にSiliconANGLEに掲載された。
人工知能の巨頭であるAnthropic PBCは本日、米国証券取引委員会に新規株式公開（IPO）のための書類を提出し、先進的なAIに関する警戒が高まる中で、今後登場するAI開発企業としてはおそらく最大規模となる株式市場への上場に向けて軌道に乗った。同社は提出書類の中で、上場を予定していると述べた[…]。記事「Anthropic、提案されるIPOに向けたS-1申請書類を提出」は、SiliconANGLEに最初に掲載されました。
人工知能の巨大企業であるAnthropic PBCは本日、米国証券取引委員会に新規株式公開（IPO）のための書類を提出し、先進的なAIに関する警戒が高まる中、今後登場するAI開発企業としてはおそらく最大規模となる株式市場への上場に向けて軌道に乗った。同社は提出書類の中で、[…]に上場する予定であると述べた。記事「Anthropic、大型AI IPO向けのS-1申請書類を提出」は、SiliconANGLEに最初に掲載された。
今日は、AI業界の最近の劇的な変革を詳述した新刊『The AGI Chronicles』の著者でジャーナリストのケビン・ルースとお話しします。ケビンは長年ニューヨーク・タイムズの記者を務め、人気ポッドキャスト「Hard Fork」のホストでもありました。しかし彼と、同番組の友人であるケイシー・ニュートンは、先日[…]を去りました。
Anthropicは米国証券取引委員会にS-1目論見書を提出し、Claudeを手がける同社がOpenAIに先んじてIPOを実施する準備を進めています。SECへの提出書類において、Anthropicはナスダック市場でティッカーシンボル「ANT」のもと上場する計画であると述べました。このAI企業は、SECに対して機密扱いで提出しました[…]
機械にとって「夜」とは何でしょうか？
arXiv:2610.31728v1 発表タイプ：新規 要旨：ミュオンは大規模言語モデルの学習において人気の最適化手法となっているが、その理論的基盤は依然として十分に解明されていない。本研究では、勾配ノイズの幾何学的特性がミュオンの前処理による利点をどのように形成するかを検討する。まず、古典的な等方性ノイズ仮定のもとでは、ミュオンは学習率の再スケーリング以上の加速効果をもたらさないことを理論的および実験的に示す。これを受けて、私たちは異種タスクの発生頻度を持つ連想記憶におけるミニバッチサンプリングから生じる構造化されたノイズについて調査を開始した。二つのタスクに対する正確なバランス閾値を導出し、さらに複数タスクへの拡張を通じて、タスクカバレッジと勾配の信頼性がいかに協働して学習を形作るかを明らかにする。我々の分析によれば、ミュオンは…を緩和できることが示される。
arXiv:2610.31846v1 発表タイプ：新規 要旨：知的エージェントは自らのミスから学び、経験を通じて継続的な改善を図るべきである。しかし、今日のエージェントはミスから回復しても、その効果は一時的でしかない。文脈内での振り返りはセッション間で容易に忘れられ、限られた文脈資源と競合する一方で、パラメータ全体の微調整はコストが高く、既存の能力に干渉するおそれがある。そこで私たちは、一時的な文脈内再試行とポリシー更新の利点を組み合わせた、エージェントがミスから学ぶための仕組み「Self-Direction」を提案する。エージェントがタスクに失敗した際、自身の行動経路を振り返って教訓を抽出し、それを即座に軽量な低ランクアダプターへと凝縮する。元の重みを固定することで、Self-Directionはアダプターの学習による上書きを防ぎ
