本文へ移動
AI NEWS JOURNAL
AI, IN PERSPECTIVE

AI ニュースを検索

見出し・要約・本文から、情報のつながりを探します。

公開日時順

セバスチャン・ラシュカが8本のビデオコース「ゼロから推論モデルを構築する」を公開しました

セバスティアン・ラシュカは2026年10月24日、Ahead of AI誌(magazine.sebastianraschka.com)において、全8回・総計11時間超のPythonおよびPyTorchに関する実践型ビデオ講座を公開しました。同講座では、推論モデルの評価、推論時のスケーリング、強化学習(RLVR)、知識蒸留について体系的に解説し、すべての手法を事前学習済みQwen3-0.6Bモデルを基に実装しています。

注目する理由:本コースは、著者が『ゼロから大規模言語モデルを構築する』に続いて提供する高度な技術教育コンテンツであり、現在の主流LLMの核心的な進化方向である推論能力の強化に焦点を当てています。基礎環境の構築からGRPO強化学習、自己蒸留に至るまで、一連の技術スタックを網羅しており、すべての実装が「ゼロから手書き」で再現可能であることを明示しています。そのため、高い教育効果と実践的なエンジニアリングリファレンスとしての価値を備えています。

経緯と関連報道

Amazon SageMaker AIがマルチラウンド強化学習(MTRL)フレームワークを発表し、エージェントによる多段階タスクのエンドツーエンド学習をサポートします

AWSはMulti-Turn Reinforcement Learning(MTRL)機能をリリースし、ユーザーはSageMaker AI上で、ステップ単位のアノテーションなしに、タスク全体の遷移と最終的な結果に基づいて大規模モデルエージェントを訓練できるようになりました。Wordleを例に、AgentCoreのデプロイ、データ準備、PPOトレーニング、報酬設計、コスト分析に至るまで、一連のワークフローを実演しています。

経緯と関連報道

GPT-OSS-20B多言語推論の微調整実験:SFTによりゼロベースでの行動習得が可能となり、GRPOは確率ヘッド空間が存在する場合にのみ効果的に性能を向上させる

AWSチームは、Amazon SageMaker HyperPod上でGPT‑OSS‑20Bを用いた多言語推論の微調整実験を実施し、LoRAによるパラメータ効率的微調整を採用しました。SFTでは、英語・フランス語・ドイツ語・スペイン語・イタリア語の5言語における推論の言語正答率を22%から100%に引き上げましたが、回答言語の正答率は62%にとどまりました。GRPOはこれを踏まえ、回答言語の正答率をさらに70%まで向上させましたが、推論言語の性能には影響を与えませんでした。ただし、その効果は言語によって異なり、例えばスペイン語では30ポイント上昇する一方で、イタリア語では20ポイント低下しました。実験は、GRPOがゼロから新たな能力を創出することはできず、既存の偶発的な振る舞いを最適化するにすぎないことを明確に示しています。

経緯と関連報道