本文へ移動
AI NEWS JOURNAL
ONE EVENT. MANY PERSPECTIVES.

スパースな探索履歴を用いた検索:不完全な探索ログとゼロコストの代理モデルからのタスク間アーキテクチャ探索

arXiv:2610.32179v1 発表タイプ:新規 要旨:ニューラルアーキテクチャ探索(NAS)はコストが高額であるが、タスク間の転移により過去のタスクから得た知識を再利用することでコストを削減できる。しかし、既存手法はスパースな探索履歴やタスク固有の転移失敗に苦慮している。本研究では、チャンピオンベースの初期化とペアワイズランカーによる共同事前学習を通じて、スパースなソースログとゼロコストの代理モデルを組み合わせるリスクロバストな戦略を提案する。TransNAS-Bench-101において、本提案は深刻な最悪ケースでの失敗を緩和し、マイクロ自動符号化における最悪10%順位を290から43へ、マクロ室内レイアウトにおける最悪10%順位を465から45へと低下させた。さらに、13種類のセルスペースターゲット全体で、平均性能および最悪ケース性能の両面において、代理モデルのみを使用したランカーを10ターゲットで上回りつつ、競争力のある平均性能も維持した。

1 件の独立した情報源 · 1 件の報道古い順 ↕
公開日時順

スパースな探索履歴を用いた検索:不完全な探索ログとゼロコストの代理モデルからのタスク間アーキテクチャ探索

arXiv:2610.32179v1 発表タイプ:新規 要旨:ニューラルアーキテクチャ探索(NAS)はコストが高額であるが、タスク間の転移により過去のタスクから得た知識を再利用することでコストを削減できる。しかし、既存手法はスパースな探索履歴やタスク固有の転移失敗に苦慮している。本研究では、チャンピオンベースの初期化とペアワイズランカーによる共同事前学習を通じて、スパースなソースログとゼロコストの代理モデルを組み合わせるリスクロバストな戦略を提案する。TransNAS-Bench-101において、本提案は深刻な最悪ケースでの失敗を緩和し、マイクロ自動符号化における最悪10%順位を290から43へ、マクロ室内レイアウトにおける最悪10%順位を465から45へと低下させた。さらに、13種類のセルスペースターゲット全体で、平均性能および最悪ケース性能の両面において、代理モデルのみを使用したランカーを10ターゲットで上回りつつ、競争力のある平均性能も維持した。

経緯と関連報道