본문으로 건너뛰기
AI NEWS JOURNAL
ONE EVENT. MANY PERSPECTIVES.

희박한 검색 기록을 활용한 검색: 불완전한 검색 로그와 제로 비용 프록시를 통한 교차 작업 아키텍처 탐색

arXiv:2610.32179v1 발표 유형: 신규 초록: 신경망 아키텍처 탐색(NAS)은 비용이 많이 들지만, 교차 작업 전이를 통해 이전 작업에서 얻은 지식을 재사용함으로써 비용을 절감할 수 있습니다. 그러나 기존 방법들은 희박한 검색 기록과 작업별 전이 실패 문제에 어려움을 겪습니다. 우리는 챔피언 기반 초기화와 공동 쌍방향 랭커 사전 학습을 통해 희박한 소스 로그와 제로 비용 프록시를 결합하는 위험에 강인한 전략을 제안합니다. TransNAS-Bench-101에서 본 제안은 심각한 최악의 경우 실패를 완화하여, 마이크로 자동인코딩에서는 최악 10% 순위를 290에서 43으로, 매크로 방 배치에서는 465에서 45로 낮추었습니다. 13개의 셀 공간 목표에 걸쳐, 평균 및 최악의 경우 성능 모두에서 프록시만 사용하는 랭커보다 10개의 목표에서 우수한 성능을 보이며, 동시에 경쟁력 있는 평균 성능도 유지합니다.

1 개 독립 출처 · 1 건의 보도오래된순 ↕
발행 시간순

희박한 검색 기록을 활용한 검색: 불완전한 검색 로그와 제로 비용 프록시를 통한 교차 작업 아키텍처 탐색

arXiv:2610.32179v1 발표 유형: 신규 초록: 신경망 아키텍처 탐색(NAS)은 비용이 많이 들지만, 교차 작업 전이를 통해 이전 작업에서 얻은 지식을 재사용함으로써 비용을 절감할 수 있습니다. 그러나 기존 방법들은 희박한 검색 기록과 작업별 전이 실패 문제에 어려움을 겪습니다. 우리는 챔피언 기반 초기화와 공동 쌍방향 랭커 사전 학습을 통해 희박한 소스 로그와 제로 비용 프록시를 결합하는 위험에 강인한 전략을 제안합니다. TransNAS-Bench-101에서 본 제안은 심각한 최악의 경우 실패를 완화하여, 마이크로 자동인코딩에서는 최악 10% 순위를 290에서 43으로, 매크로 방 배치에서는 465에서 45로 낮추었습니다. 13개의 셀 공간 목표에 걸쳐, 평균 및 최악의 경우 성능 모두에서 프록시만 사용하는 랭커보다 10개의 목표에서 우수한 성능을 보이며, 동시에 경쟁력 있는 평균 성능도 유지합니다.

진행 상황 및 관련 보도