제목, 요약, 본문을 검색해 흩어진 정보를 연결하세요.
스탠퍼드 대학교와 캘리포니아 대학교 버클리 캠퍼스의 연구진은 기존 대규모 언어 모델(LLM)에 적용 가능한 플러그 앤 플레이 방식의 학습형 토큰 가위 모듈인 TokenGate를 제안했습니다. 이 방법은 정확도를 유지하면서, 긴 컨텍스트를 사전 채워 넣는 첫 글자 생성 시간(TTFT)을 1.4배에서 최대 11.3배까지 가속화하고, 최대 메모리 사용량을 1.5배에서 최대 3.4배까지 절감합니다. 관련 코드와 체크포인트는 오픈소스로 공개되었습니다.
AWS는 Multi-Turn Reinforcement Learning(MTRL) 기능을 출시하여, 사용자가 SageMaker AI에서 전체 작업 궤적과 최종 결과 피드백을 바탕으로 대규모 모델 에이전트를 단계별 주석 없이 학습할 수 있도록 지원합니다. Wordle을 예시로 삼아 AgentCore 배포, 데이터 준비, GRPO 학습, 보상 설계 및 비용 분석에 이르는 전 과정을 시연합니다.
스페인의 반려동물 관리 기업 IskayPet은 Amazon Bedrock의 관리형 지식 베이스(Managed Knowledge Bases)를 활용해, 자체 RAG 인프라를 구축할 필요 없이 스페인, 포르투갈, 프랑스 3개국과 스페인어, 포르투갈어, 프랑스어, 영어 4개 언어를 지원하는 기업급 지식 어시스턴트를 구축했으며, 소매, 수의학, 온보딩 및 구매 등 다양한 비즈니스 시나리오를 지원합니다.
마이크로소프트 연구소는 고 표현력의 의미 기반 대화형 데이터 시각화를 구축하기 위한 전용 언어인 Flint-interactive를 발표했습니다. 이 언어는 컴파일러를 통해 사용자의 동작(예: 클릭, 필터링)을 자동으로 의미적 이벤트로 매핑하고, 고수준 연산자를 활용해 차트, 테이블, 텍스트 등 다양한 요소 간의 연동 업데이트를 구동함으로써, AI 에이전트가 신뢰할 수 있는 대화형 시각화를 생성하는 데 필요한 비용과 개발 복잡성을 크게 절감합니다.
