Oddin：画像生成からの自己蒸留による統合マルチモーダルモデルにおける潜在的視覚推論
arXiv:2610.33062v1 発表タイプ：新規 要旨：統合型大規模マルチモーダルモデル（ULMM）は、テキストと画像の交互生成を通じて視覚推論を実行できるが、明示的な中間画像を生成するには多大な計算負荷が伴う。視覚ラテンシー推論はこの問題を解決するものの、既存の手法の多くは、視覚生成が不可能な視覚言語モデル（VLM）に依存している。そこで私たちは、ULMMにおけるラテンス視覚推論を可能にする新しいフレームワークであるOddinを提案する。Oddinでは、中間画像をコンパクトなラテントークンに置き換え、これらは理解ブランチのみで処理し、生成ブランチは最終的な出力画像の生成に専念させる。我々は、オフラインの自己蒸留手法を用いて、3つの目的——最終画像生成損失、テキスト蒸留損失、およびクロスエントロピー損失——に基づいてモデルを学習する。
