なぜAIはミレニアム問題を解けるのに、RSIにはまだ対応できないのか｜Hao好聊トレンド
テンセント・テクノロジー傘下のペンギン・インテリジェンスによる先端技術論文解説コラム。コードとビジネスの交差点において、AIの確実性を探る。 文｜博陽 編集｜徐青陽 最近しばらくの間、理論数学や物理学分野のニュースだけを見ていると、まるで……という印象を受けます。
AI NEWS JOURNAL
AI ニュースを検索
見出し・要約・本文から、情報のつながりを探します。
Import AI 478：アライメントのための数学、ProgramBench、およびMirendilがRSIの意味を示す
機械にとって「夜」とは何でしょうか？
長時間スパンにおける世界モデル向けの勾配ベース計画
GRASPは、学習された動力学（「世界モデル」）を対象とした新しい勾配ベースの計画手法であり、以下の3つの工夫により長時間スパンの計画を実用的にします：(1) 軌跡を仮想状態に変換することで、最適化を時間軸全体にわたって並列化し、(2) 探索のために状態の反復計算に直接確率性を導入し、(3) 勾配を再構成することで、高次元の視覚モデルによる脆弱な「状態入力」勾配を回避しつつ、行動に対して明確な信号が得られるようにします。大規模で学習された世界モデルは、ますます高い能力を備えるようになっています。それらは、高次元の視覚空間において未来の観測値の長い時系列を予測でき、数年前には想像すら困難だった方法でタスク間の汎用性を発揮します。これらのモデルがスケールアップするにつれ、もはや特定タスク向けの予測器というより、汎用的なシミュレーターへと姿を変えつつあります。しかし、そのような強力な
大規模言語モデルにおける相互作用の特定
複雑な機械学習システム、とりわけ大規模言語モデル（LLMs）の挙動を理解することは、現代の人工知能において極めて重要な課題です。解釈可能性に関する研究は、モデル開発者や影響を受ける人々にとって意思決定プロセスをより透明にすることを目指しており、より安全で信頼性の高いAIへの一歩となります。包括的な理解を得るためには、以下の異なる視点からこれらのシステムを分析できます：予測を引き起こす具体的な入力特徴を特定する特徴帰属（Lundberg & Lee, 2017；Ribeiro et al., 2022）、モデルの挙動を影響力のある学習例と結びつけるデータ帰属（Koh & Liang, 2017；Ilyas et al., 2022）、そして内部構成要素の機能を詳細に解析する機構的解釈可能性（Conmy et al., 2023；Sharkey et al.