要旨:ニューラルアーキテクチャサーチ(NAS)はコストが高額ですが、タスク間の転移により、過去のタスクから得た知識を再利用することで費用を削減できます。しかし、既存の手法では、探索履歴が乏しい場合やタスク固有の転移失敗に悩まされています。本研究では、チャンピオンベースの初期化とペアワイズランカーによる共同事前学習を通じて、スパースなソースログとゼロコストのプロキシを組み合わせるリスクロバストな戦略を提案します。TransNAS-Bench-101において、この手法は深刻な最悪ケースでの失敗を緩和し、マイクロオートエンコードでは最悪10%順位を290から43へ、マクロルームレイアウトでは465から45へと低下させました。さらに、13種類のセルスペースターゲットに対して、平均性能および最悪ケース性能の両面で、プロキシのみを使用するランキング手法を10ターゲットにおいて上回りつつ、競争力のある平均性能も維持しています。
投稿履歴
論文へのアクセス:
PDFを表示
HTML(実験的)
TeXソース
追加機能
音声要約
現在の閲覧コンテキスト:
参考文献・引用
Google Scholar
Semantic Scholar
ブックマーク
機関
arXivLabsは、共同作業者が当社のウェブサイト上で新しいarXiv機能を直接開発・共有できるフレームワークです。
arXivLabsを利用する個人および組織は、オープン性、コミュニティ、卓越性、そしてユーザーデータのプライバシーという当社の価値観を積極的に受け入れ、尊重しています。arXivはこれらの価値観に固くコミットしており、それらを遵守するパートナーのみと協力しています。
arXivのコミュニティに価値をもたらすプロジェクトのアイデアをお持ちですか?arXivLabsについて詳しくご覧ください。