본문으로 건너뛰기
AI NEWS JOURNAL
AI, IN PERSPECTIVE

AI 뉴스 검색

제목, 요약, 본문을 검색해 흩어진 정보를 연결하세요.

발행 시간순

와비, 소비자 지향형 인공지능 비서를 위해 5,500만 달러 유치

소비자를 위한 인공지능 비서를 개발하는 와비 주식회사는 오늘 시드 투자 라운드에서 5,500만 달러를 조달했다고 발표했습니다. IVP가 이 시드 라운드를 주도했으며, 아마존 알렉사 펀드, 안드레센 호로위츠, 포어러너 등이 참여했습니다. 또한 세일즈포스 주식회사의 CEO 마크 베니오프와 쇼피파이 주식회사의 CEO 토비 뤼트케를 포함한 엔젤 투자자 그룹도 함께했습니다. 이 기사의 원문은 “와비, 소비자 지향형 인공지능 비서를 위해 5,500만 달러 유치”라는 제목으로 실리콘 앵글에 처음 게재되었습니다.

진행 상황 및 관련 보도

Async-RBench: LLM 에이전트에서 비동기 작업 실행 성능 벤치마킹

arXiv:2610.32429v1 발표 유형: 신규 초록: 대규모 언어 모델(LLM) 에이전트는 점점 더 비동기적으로 작업을 수행합니다. 주 에이전트는 하위 에이전트들이 실행되는 동안에도 계속 작업을 진행하며, 그 결과가 도착하기 전에 작업 상태가 변경될 수 있습니다. 이때 주 에이전트는 어떤 작업을 업데이트하거나 보존하고, 어떤 검사를 다시 수행할지 결정해야 하며, 동시에 금지된 변경 사항을 피해야 합니다. 최종 작업 성공 여부만으로는 이러한 결과가 올바르게 처리되었는지 여부를 확인하기 어렵고, 자연스러운 비동기적 도착 현상은 재현하기도 어렵습니다. 우리는 LLM 에이전트의 비동기적 작업 실행을 평가하는 벤치마크인 Async-RBench를 제안하며, 8가지 시나리오를 포괄하는 200개의 실행 가능한 작업을 제공합니다. 각 시나리오 컨트롤러는 미리 정의된 작업 상태 조건을 활용해 결과 전달을 관리하고, 이벤트 응답 계약(ERC)은 각 응답이 무엇을 의미하는지를 명시합니다.

진행 상황 및 관련 보도

버스티 워크로드 하에서 서버리스 자동 스케일링 전략의 비교 평가를 위한 통합 큐잉 기반 프레임워크

arXiv:2610.35564v1 발표 유형: 신규 초록: 서버리스 컴퓨팅 플랫폼은 매우 버스티하고 예측 불가능한 워크로드에 적응하면서도 서비스 품질(QoS)을 유지해야 합니다. QoS 요구사항과 서비스 수준 계약(SLA)을 충족시키면서 워크로드 변동에 대응하기 위해, 이러한 플랫폼들은 자동 리소스 스케일링에 의존합니다. 상용 기능형-서비스(FaaS) 플랫폼들은 활성 함수 인스턴스 수와 가용 처리 용량을 동적으로 조정하기 위해 서로 다른 자동 스케일링 전략을 채택합니다. 본 연구에서는 대표적인 세 가지 자동 스케일링 전략인 요청당 스케일링(SPR), 동시성 레벨 스케일링(CLS), 그리고 메트릭 기반 스케일링(MBS)을 모델링하고 비교합니다. 독점적인 플랫폼별 구현에 의존하지 않는 체계적인 평가를 가능하게 하기 위해, 우리는 de

진행 상황 및 관련 보도

계층적 알고리즘을 통한 버스티(Bursty) HPC 워크로드의 공정한 스케줄링을 위한 대기열 제한

arXiv:2610.32027v1 발표 유형: 신규 초록: HPC 클러스터는 여러 프로젝트 간에 공유되며, 각 프로젝트에는 노드-시간 할당량이 부여됩니다. 이러한 환경에서 공정성을 보장하는 것은 점점 더 어려워지고 있습니다. 파운데이션 모델 기반 워크플로와 자동화된 파이프라인의 등장으로 작업 제출 패턴이 급격히 변해 일부 대용량 사용자에게 집중되고 있으며, 이로 인해 가끔 사용자들은 빈번한 사용자들로 인해 발생하는 대기 지연을 감수해야 하지만, 자신의 작업이 얼마나 오래 대기할지에 대한 명확한 정보조차 얻기 어렵습니다. 기존 스케줄러들은 과거 사용량을 고려하지 않거나, 대기열 맨 앞에 있는 작업만을 우선적으로 처리하거나, 실행 중인 작업은 언제든지 선점될 수 있다고 가정합니다. 이에 우리는 모든 사용자 간의 공정성을 보장하면서도 각 작업의 대기 시간을 제한하는 하이브리드 마감일 및 순위 인식 스케줄러인 HyDRA를 제안합니다. HyDRA는 작업이 도착할 때마다 그 크기와 해당 프로젝트의 우선순위를 바탕으로 각 작업에 마감일을 부여합니다.

Bounding Queue Waits for Fair Scheduling of Bursty HPC Workloads via Hierarchical Algorithms
진행 상황 및 관련 보도

KVStream: 대규모 LLM 서비스에서의 KV 캐싱을 위한 적응형 병렬 스토리지 관리

arXiv:2610.31827v1 발표 유형: 신규 초록: 에이전트 기반, 코드 작성 및 문서 처리 워크로드를 위한 장문 컨텍스트 LLM 서비스에서는 키-값(KV) 캐시가 GPU와 호스트 메모리를 초과하여 사용되므로, 접두사 검색을 위한 추론 단계에서 스토리지 I/O가 핵심 경로로 작용하게 됩니다. 단일 노드 로컬 NVMe는 모든 검색 작업을 담당하는 반면, 노드들이 이미 마운트한 병렬 파일 시스템이나 클라우드 파일 스토어에는 거의 추론 트래픽이 발생하지 않습니다. 우리는 이러한 계층 간의 접두사 검색을 집합 대역폭 스케줄링으로 포착하고, 한 단계의 읽기 작업을 일괄 처리하며, 전방향 패스 이후에 쓰기를 지연하고, 각 청크를 모든 계층에 복제하며, 각 계층이 비워질 때 다음 미처리 청크를 적응적으로 요청하도록 하는 KVStream이라는 KV 캐시 엔진을 제안합니다. 우리의 성능 모델은 이 라우팅 방식이 집합적

KVStream: Adaptive Parallel Storage Management for KV Caching in Large-Scale LLM Serving
진행 상황 및 관련 보도