본문으로 건너뛰기
AI NEWS JOURNAL
AI, IN PERSPECTIVE

AI 뉴스 검색

제목, 요약, 본문을 검색해 흩어진 정보를 연결하세요.

발행 시간순

ProtoEEG: EEG 시각적 해독을 위한 구조화된 프로토타입 정렬

arXiv:2610.33065v1 발표 유형: 신규 초록: 두피 기록은 잡음이 많고 공간적 해상도가 낮으며 실험 조건과 피실험자 간에 변동성이 크기 때문에 EEG를 통한 시각적 해독은 여전히 어려운 과제로 남아 있습니다. 대부분의 시스템은 각 실험을 고밀도 이미지 임베딩과 정렬하지만, 이러한 임베딩은 의미적 내용과 개별 사례에 특화된 질감, 자세, 배경 등을 혼합하고 있습니다. 이는 EEG에서 제공되지 않는 세부 정보를 요구할 뿐만 아니라, 예측을 뒷받침하는 시각적 요인들에 대한 명시적인 설명도 제공하지 않습니다. 우리는 \textbf{ProtoEEG}라는 프로토타입 기반 프레임워크를 제안합니다. 이 프레임워크는 EEG와 이미지 간의 정렬 문제를 공유 가능한 학습 가능한 시각 코드북 위에서 이루어지는 소프트한 합성으로 재구성합니다. 학습 가능한 EEG 인코더와 고정된 시각 교사가 동일한 $K=64$개의 프로토타입에 대한 할당 분포를 생성하며, 이들의 가중치를 적용한 재구성 결과는 구조화된 표현을 형성합니다

진행 상황 및 관련 보도

EKT-라우터: 신체화된 비전-언어 모델을 위한 전문가-증거 정합

arXiv:2610.33044v1 발표 유형: 신규 초록: 체화된 시각-언어 모델은 부분적이고 변화하는 관찰로부터 제시된 질문에 답해야 한다. 이들의 성공 여부는 선택된 추론 능력과 해당 모델이 활용할 수 있는 증거 양 측면에 모두 달려 있다. 전문 라우터는 내부 계산을 조정하는 반면, 도구를 보강한 시스템은 외부 증거를 확보한다; 두 가지 접근 방식을 독립적으로 선택하면 적합한 전문가가 필요한 증거를 갖추지 못하는 상황이 발생할 수 있다. 우리는 EKT-Router를 제안하며, 이는 능력 전문가, 선택적 지식, 그리고 인지 도구를 함께 선택하는 제한된 프레임워크이다. 결과 기반 서명은 일반적 전문가, 공간 추론 전문가, 그리고 시공간 전문가의 중복되는 강점을 나타낸다. 공동 효용 함수는 호출 예산 하에서 완전한 전문가-증거 경로를 평가한다. 수집 후, 패킷 검증기는 유효한 것을 인정한다

新闻源配图 · arXiv cs.CV
진행 상황 및 관련 보도

문맥 내 의존성 파싱을 위한 POS 서명 시연 검색

arXiv:2610.31966v1 발표 유형: 신규 요약: 문맥 내 학습을 위한 시연은 종종 의미적 유사성을 기준으로 검색되며, 이는 구조화된 예측에서의 관련성을 제대로 대표하지 못할 수 있습니다. 우리는 Universal Dependencies 파싱을 위한 시연 선택 방식을 연구하며, 품사 통계를 가중치로 표현하고 라벨링된 교육 세트에서 길이가 호환되는 골드 라벨 해석 사례 3개를 검색하는 POS 서명 정책을 적용합니다. 우리는 미세조정 없이 두 개의 오픈 웨이트 언어 모델을 UD 영어 웹 트리뱅크 테스트 세트의 총 2,077개 문장에 대해 평가하며, 해당 정책을 샷 및 형식이 일치하는 고정 및 의미적 3샷 기반과 비교하고, 또한 제로샷, 사고 체인, 비평-정제 시스템과도 비교합니다. POS 서명 검색은 가장 높은 라벨링 성과를 달성합니다.

진행 상황 및 관련 보도

LazyFlash: 가속화된 장문 컨텍스트 미세조정을 위한 전방 밀집·후방 희소 주의

arXiv:2610.31911v1 발표 유형: 신규 초록: 대규모 언어 모델(LLMs)이 점점 더 긴 시퀀스를 처리함에 따라, 주의 메커니즘은 주요 계산 병목으로 부각되고 있습니다. 희소 주의는 대부분 추론 단계에 초점을 맞추지만, 여전히 많은 방법들이 밀집형으로 학습되거나 희소 학습을 지원하지 못하며, 추가적인 복잡성으로 인해 희소성이 실제 월클럭 속도 향상으로 이어지기 어려워져 결국 실무에서는 밀집형 주의가 널리 사용되고 있습니다. 본 논문에서는 주의 학습이 후방 패스에 의해 주로 결정된다는 관찰에 기반한 전방 밀집·후방 희소 주의 방식인 LazyFlash를 제안합니다. LazyFlash는 전방 패스를 정확히 밀집형으로 유지하여, 학습된 모델이 vLLM과 같은 기존 시스템에서 아무런 변경 없이 서비스할 수 있는 표준 밀집형 모델로 남도록 합니다. 후방 패스에 대해서는 LazyFlash는 그라디언트-a를 제안합니다.

진행 상황 및 관련 보도

IQuest-Q1: 에이전트형 CLI 시스템을 위한 기반 모델 역량 강화

arXiv:2610.30949v1 발표 유형: 신규 요약: 우리는 총 320B 파라미터(활성화된 파라미터는 15B)를 갖춘 희소 혼합전문가(MoE) 기반의 에이전트형 기반 모델인 IQuest-Q1을 제시합니다. IQuest-Q1은 세 단계의 프로세스를 통해 개발되었습니다: (1) 안정적이고 효율적인 사전 학습으로, 스테이블 스플릿노름, Muon 및 muP를 두 단계 커리큘럼과 결합하며, 두 번째 단계에서는 코딩 데이터 혼합 비율을 높여 안전한 학습률과 최적 학습률 간의 넓은 안정성 여유를 유지합니다; (2) 세밀한 중간 학습 단계에서는 도메인과 형식 전반에 걸쳐 데이터 혼합을 확대하고 문맥 범위를 점진적으로 확장합니다; 그리고 (3) 다중 스캐폴드와 다중 버전 사후 학습을 통해 SFT, 도메인 특화 RL, MOPD 등을 다양한 스캐폴드에서 결합하여 상호 보완적인 학습 신호를 통합하고 에이전트형 코딩 역량을 강화합니다.

IQuest-Q1: Advancing Foundation Capabilities for Agentic CLI Systems
진행 상황 및 관련 보도