본문으로 건너뛰기
AI NEWS JOURNAL
AI, IN PERSPECTIVE

AI 뉴스 검색

제목, 요약, 본문을 검색해 흩어진 정보를 연결하세요.

발행 시간순

스탠퍼드 대학과 UC 버클리 대학의 연구진이 TokenGate를 발표했습니다: 토큰 기반 접근 제한 주의 메커니즘을 통해 장문 컨텍스트 사전 채우기가 최대 11.3배 더 빨라집니다.

스탠퍼드 대학교와 캘리포니아 대학교 버클리 캠퍼스의 연구진은 기존 대규모 언어 모델(LLM)에 적용 가능한 플러그 앤 플레이 방식의 학습형 토큰 가위 모듈인 TokenGate를 제안했습니다. 이 방법은 정확도를 유지하면서, 긴 컨텍스트를 사전 채워 넣는 첫 글자 생성 시간(TTFT)을 1.4배에서 최대 11.3배까지 가속화하고, 최대 메모리 사용량을 1.5배에서 최대 3.4배까지 절감합니다. 관련 코드와 체크포인트는 오픈소스로 공개되었습니다.

Researchers from Stanford and UC Berkeley Introduce TokenGate: Token-Gated Attention Makes Long-Context Prefill Up to 11.3x Faster
진행 상황 및 관련 보도

Flint-interactive: AI 에이전트를 위한 대화형 데이터 시각화 프로그래밍 언어

마이크로소프트 연구소는 고 표현력의 의미 기반 대화형 데이터 시각화를 구축하기 위한 전용 언어인 Flint-interactive를 발표했습니다. 이 언어는 컴파일러를 통해 사용자의 동작(예: 클릭, 필터링)을 자동으로 의미적 이벤트로 매핑하고, 고수준 연산자를 활용해 차트, 테이블, 텍스트 등 다양한 요소 간의 연동 업데이트를 구동함으로써, AI 에이전트가 신뢰할 수 있는 대화형 시각화를 생성하는 데 필요한 비용과 개발 복잡성을 크게 절감합니다.

진행 상황 및 관련 보도

구글, 제로 트러스트 기반의 통합형 프라이빗 분석 기술 출시—암호학과 신뢰할 수 있는 실행 환경을 결합

구글 연구팀은 혁신적인 단일 라운드 격자 암호 집합 프로토콜과 신뢰할 수 있는 실행 환경(TEE)의 협업 검증을 통해, 단일 주체를 신뢰하지 않고도 데이터 집합을 수행할 수 있는 새로운 사적 분석 솔루션을 발표했습니다. 이를 통해 사용자의 데이터가 항상 기기 내에 머무르는 것을 보장하면서도, 집단 수준의 익명화된 인사이트를 확보할 수 있습니다.

진행 상황 및 관련 보도