본문으로 건너뛰기
AI NEWS JOURNAL
AI, IN PERSPECTIVE

전체 AI 소식

출처, 주제, 시간으로 전체 뉴스에서 관심 소식을 찾아보세요.

발행 시간순

장기적인 시계열에서의 세계 모델을 위한 기울기 기반 계획

GRASP은 학습된 역학(“세계 모델”)을 위한 새로운 기울기 기반 계획법으로, 다음과 같은 세 가지 방법을 통해 장기적 계획을 실용적으로 구현합니다: (1) 궤적을 가상 상태로 변환하여 시간에 걸쳐 최적화를 병렬로 수행하고, (2) 탐색을 위해 상태 반복 단계에 직접 확률성을 추가하며, (3) 기울기를 재구성하여 행동에 명확한 신호를 부여하는 동시에 고차원 비전 모델을 통한 취약한 “상태 입력” 기울기를 피합니다. 대규모 학습된 세계 모델들은 점점 더 높은 성능을 발휘하고 있습니다. 이들은 고차원 시각 공간에서 미래 관찰의 긴 시퀀스를 예측할 수 있으며, 불과 몇 년 전만 해도 상상하기 어려웠던 방식으로 다양한 작업에 걸쳐 일반화됩니다. 이러한 모델들이 규모를 확장함에 따라, 점차 특정 작업에 맞춘 예측기보다는 범용 시뮬레이터로 변화해 가고 있습니다. 그러나 강력한

진행 상황 및 관련 보도

LLM을 위한 대규모 상호작용 식별

복잡한 기계학습 시스템, 특히 대규모 언어 모델(LLMs)의 동작을 이해하는 것은 현대 인공지능에서 매우 중요한 과제입니다. 해석 가능성 연구는 모델 개발자와 그 영향을 받는 인간에게 의사결정 과정을 보다 투명하게 만들고, 더 안전하고 신뢰할 수 있는 AI로 나아가는 데 기여합니다. 포괄적인 이해를 얻기 위해 우리는 이러한 시스템을 다양한 관점에서 분석할 수 있습니다: 예측을 이끄는 특정 입력 특성을 규명하는 특성 부여(Feature Attribution)(Lundberg & Lee, 2017; Ribeiro et al., 2022); 모델의 행동을 영향력 있는 학습 예시들과 연결하는 데이터 부여(Data Attribution)(Koh & Liang, 2017; Ilyas et al., 2022); 그리고 내부 구성 요소의 기능을 세밀히 분석하는 기계적 해석 가능성(Mechanistic Interpretability)(Conmy et al., 2023; Sharkey et al.

진행 상황 및 관련 보도