본문으로 건너뛰기
AI NEWS JOURNAL
AI, IN PERSPECTIVE

AI 뉴스 검색

제목, 요약, 본문을 검색해 흩어진 정보를 연결하세요.

발행 시간순

자체 호스팅 대규모 모델 대 클라우드 API: 요청을 어떻게 지능적으로 라우팅할 것인가

이 글에서는 자체 호스팅 대규모 언어 모델과 클라우드 API 간의 데이터 프라이버시, 비용, 지연 시간 및 성능 측면에서의 균형을 비교하고, 오픈소스 배포 가능 모델의 하드웨어 요구 사항(예: VRAM 및 양자화)과 대표적인 기술 스택을 소개합니다. 또한 n8n을 예로 들어, 작업의 민감도, 복잡성 또는 규정 준수 요구사항에 따라 로컬 및 클라우드 모델 간에 요청을 동적으로 분산하는 혼합형 라우팅 워크플로를 구축하는 방법을 설명합니다.

진행 상황 및 관련 보도

딥 인사이트: AWS 오픈소스 다중 에이전트 시스템이 5대 생산급 도전 과제를 어떻게 해결하는가

AWS 솔루션 아키텍처 팀이 선보인 오픈소스 다중 에이전트 시스템 Deep Insight는 CSV 데이터의 자동 분석과 자연어 보고서 생성을 위한 시나리오를 대상으로 하며, 생산 환경에서 흔히 발생하는 다섯 가지 주요 과제—에이전트 오케스트레이션, 역할 기반 모델 선택, 안정적인 운영, 안전한 코드 실행 및 관찰 가능성—에 대해 체계적으로 대응합니다. 또한 이 시스템은 LG전자와 re:Invent 2025 TechRecon 등 실제 환경에서 이미 검증된 바 있습니다.

진행 상황 및 관련 보도

OpenAI의 최신 GPT-6 시리즈 모델이 Google Cloud와 Antigravity 플랫폼에 도입될 예정입니다.

OpenAI의 GPT-6 및 6.1 시리즈 최첨단 모델(Astra, Sol, Luna)은 향후 수주 내에 Google Cloud Model Garden에 출시되며, Google의 에이전트 기반 프로그래밍 도구인 Antigravity에도 통합될 예정입니다. 이로써 Google은 Gemini, Claude, GPT 등 세 가지 주요 폐쇄형 대규모 언어 모델을 동시에 제공하는 최초의 주류 클라우드 서비스 제공업체가 되었습니다.

진행 상황 및 관련 보도

블랙스미스가 시리즈 C 라운드에서 6,600만 달러를 유치하며 기업 가치가 10억 달러에 도달해 유니콘 기업 반열에 올랐다.

AI 기반 지속적 통합(CI) 플랫폼인 블랙스미스는 세콰이어 캐피탈이 주도한 시리즈 C 라운드에서 6,600만 달러를 유치했으며, 회사 가치는 10억 달러로 상향 조정됐다. 설립 후 2년 만에 기업 가치가 16배 이상 증가하고, 연간 계약 매출(ARR)은 17배 늘었으며, 누적 CI 작업 실행 횟수는 9,000만 건을 넘어섰다.

진행 상황 및 관련 보도

Mistral은 NVIDIA와 협력하여 AI 네이티브 엔지니어링 워크플로를 추진하고, Mistral Large 4를 출시하며 물리 및 에이전트 기반 AI 평가 벤치마크를 공동으로 구축했습니다.

Mistral과 NVIDIA는 협력을 심화하기로 발표하고, Mistral Large 4 대형 모델, 물리 기반 모델링 파이프라인 및 NVIDIA의 가속 컴퓨팅 스택(CUDA-X, Warp, Omniverse)을 통합하여 항공우주, 자동차, 반도체 등 산업 분야를 위한 AI 네이티브 엔지니어링 워크플로를 공동으로 개발할 예정입니다. 양사는 물리 기반 AI와 CAE/EDA 시나리오에서의 에이전트 역량 평가를 포괄하는 오픈소스 데이터셋과 공개 벤치마크를 공동으로 출시할 계획입니다.

진행 상황 및 관련 보도

구글 클라우드와 엔비디아는 NVIDIA Vera Rubin 인프라의 정식 상용화를 발표했습니다: A5X 인스턴스가 출시되었으며, 대규모 강화학습과 에이전트 추론에 중점을 두고 있습니다.

구글 클라우드와 엔비디아는 베라 루빈 아키텍처 기반의 A5X 인스턴스를 내달부터 정식으로 상용화한다고 발표했으며, 초기 단계에서는 미국을 대상으로 서비스를 제공하고 이후 유럽으로 확대할 예정입니다. 이 플랫폼은 NVL72 GPU, ConnectX-9 SuperNICs, Virgo 네트워크 및 4세대 액체 냉각 기술을 통합하여, 대규모 강화 학습과 생성형 에이전트 추론 등 고밀도 컴퓨팅 환경에 특화되어 설계되었습니다.

진행 상황 및 관련 보도

Tenex의 AI 네이티브 SDLC 구축: 포춘 2000대 기업을 위한 에이전트 기반 개발 실무

설립 18개월 된 AI 원생 소프트웨어 기업 Tenex는 출력 지향 보수, MetaHarness 프레임워크 및 Opus 5.5를 기반으로 한 AI 에이전트 워크플로우를 통해 포춘 2000대 기업의 약 절반을 고객으로 두고 있습니다. 이 회사의 모델은 프로세스 표준화, 비코딩 방식의 가치 재평가, 그리고 기업 수준의 AI 도입에서 발생하는 ‘마지막 1마일’ 문제 해결에 중점을 두고 있습니다.

진행 상황 및 관련 보도

Tenex, AI 네이티브 SDLC 구축: 결과 기반 지불, 에이전트 기반 개발 및 엔터프라이즈 AI 도입의 마지막 1마일

Tenex는 설립 18개월(2026년 기준)이며 직원 수 75명 규모의 AI 원생 소프트웨어 제공 기업으로, 포춘 2000대 기업의 약 절반과 이에 상응하는 중견기업을 고객으로 두고 있습니다. 주요 실천 사례로는 스토리 포인트를 기반으로 한 동적 엔지니어 보상 체계, AI 전략가의 품질 검증 메커니즘, Git 내부에 통합된 컨텍스트 기반 MetaHarness 프레임워크, 그리고 ‘비코딩 고부가가치 작업’에 집중하는 역량 재정립이 포함됩니다. 한편, 기업의 AI 도입은 여전히 범용 LLM 배포와 엔지니어링 측 에이전트 중심으로 집중되어 있으며, 백엔드 오피스 계열의 생산용 AI 에이전트 침투율은 약 5%에 불과한 것으로 파악됩니다.

진행 상황 및 관련 보도