本文へ移動
AI NEWS JOURNAL
arXiv cs.LGAI NEWS / JOURNAL

スパースな探索履歴を用いた検索:不完全な探索ログとゼロコストの代理モデルからのタスク間アーキテクチャ探索

arXiv:2610.32179v1 発表タイプ:新規 要旨:ニューラルアーキテクチャ探索(NAS)はコストが高額であるが、タスク間の転移により過去のタスクから得た知識を再利用することでコストを削減できる。しかし、既存手法はスパースな探索履歴やタスク固有の転移失敗に苦慮している。本研究では、チャンピオンベースの初期化とペアワイズランカーによる共同事前学習を通じて、スパースなソースログとゼロコストの代理モデルを組み合わせるリスクロバストな戦略を提案する。TransNAS-Bench-101において、本提案は深刻な最悪ケースでの失敗を緩和し、マイクロ自動符号化における最悪10%順位を290から43へ、マクロ室内レイアウトにおける最悪10%順位を465から45へと低下させた。さらに、13種類のセルスペースターゲット全体で、平均性能および最悪ケース性能の両面において、代理モデルのみを使用したランカーを10ターゲットで上回りつつ、競争力のある平均性能も維持した。

AI 自動翻訳

要旨:ニューラルアーキテクチャサーチ(NAS)はコストが高額ですが、タスク間の転移により、過去のタスクから得た知識を再利用することで費用を削減できます。しかし、既存の手法では、探索履歴が乏しい場合やタスク固有の転移失敗に悩まされています。本研究では、チャンピオンベースの初期化とペアワイズランカーによる共同事前学習を通じて、スパースなソースログとゼロコストのプロキシを組み合わせるリスクロバストな戦略を提案します。TransNAS-Bench-101において、この手法は深刻な最悪ケースでの失敗を緩和し、マイクロオートエンコードでは最悪10%順位を290から43へ、マクロルームレイアウトでは465から45へと低下させました。さらに、13種類のセルスペースターゲットに対して、平均性能および最悪ケース性能の両面で、プロキシのみを使用するランキング手法を10ターゲットにおいて上回りつつ、競争力のある平均性能も維持しています。

投稿履歴

論文へのアクセス:

PDFを表示

HTML(実験的)

TeXソース

追加機能

音声要約

現在の閲覧コンテキスト:

参考文献・引用

Google Scholar

Semantic Scholar

ブックマーク

機関

arXivLabsは、共同作業者が当社のウェブサイト上で新しいarXiv機能を直接開発・共有できるフレームワークです。

arXivLabsを利用する個人および組織は、オープン性、コミュニティ、卓越性、そしてユーザーデータのプライバシーという当社の価値観を積極的に受け入れ、尊重しています。arXivはこれらの価値観に固くコミットしており、それらを遵守するパートナーのみと協力しています。

arXivのコミュニティに価値をもたらすプロジェクトのアイデアをお持ちですか?arXivLabsについて詳しくご覧ください。

情報源

arXiv cs.LG
← すべてのニュースへ