AWS는 2026년 10월 26일 기술 블로그를 통해 AWS Cloud Development Kit(CDK) 기반의 지능형 검색(agentic retrieval) 참조 구현을 공식 출시했으며, 이는 Amazon Bedrock의 관리형 지식 베이스(Managed Knowledge Base, 유형: MANAGED) 전용으로 설계되었습니다. 해당 솔루션은 2024년 8월에 Managed KB와 함께 출시되었으며, 기존의 단일 호출 방식의 RAG과 달리 다중 라운드, 도구 기반, 의미 기반 라우팅을 지원하는 크로스 지식 베이스 검색을 제공합니다.
이 CDK 애플리케이션은 서로 긴밀히 결합된 네 개의 CloudFormation 스택을 일관되게 배포합니다: -kb( S3와 두 개의 관리형 지식 저장소 포함), -gateway( AgenticRetrieveStream 대상을 구성하고 MCP 인증을 지원), -agent( AgentCore Runtime 기반의 Instrumented Strands 에이전트로, CodeBuild를 통해 빌드됨), -dashboards( 7개의 관찰성 계층을 포괄하는 두 세트의 CloudWatch 대시보드). 모든 스택 간 의존 관계(KB ID, Gateway ARN 등 총 7곳의 스택 간 참조)는 CDK가 자동으로 배포 순서를 파악하므로, 수동으로 추출하거나 찾아볼 필요가 없습니다.
이 솔루션은 두 가지 유형의 사전 준비된 언어 데이터를 사용합니다: 합성 금융 데이터(가상의 Octank 회사 10-K 보고서, CC0 라이선스)와 실제 미국 정부의 토네이도 보고서(IF12695, 공공 영역)입니다. 이들 모두는 호스팅된 지식 저장소에서 자동으로 파싱, 분할, 임베딩(Bedrock 호스팅 모델 사용) 및 인덱싱을 수행하므로, 사용자는 벡터 스토리지를 관리하거나 유휴 OCU 비용을 지불할 필요가 없습니다. 의미 기반 라우팅은 두 개의 독립적인 AgenticRetrieveStream 도구(각각 금융 및 기상 지식 저장소에 대응)를 명시적으로 선택하여, 도메인 간 격리된 메트릭의 관찰 가능성을 보장합니다.
관측성은 아키텍처에 내장되어 있습니다: 7계층의 텔레메트리(L1–L7)는 지식 기반의 네이티브 메트릭, 인제스트, 검색 품질(인용 없는 계산), 게이트웨이/MCP 호출, OpenTelemetry 스팬 트리, 토큰 사용량 및 평가 점수를 포괄합니다. 이 중 L1/L4/L5는 자동으로 보고되며, L3/L6/L7는 사용자 정의 CloudWatch 메트릭으로 발행됩니다. 평가는 필요에 따라(노트북 기반 LLM-as-judge) 또는 지속적으로(온라인 샘플링 세션, Correctness 등 4가지 내장형 평가기 포함) 두 가지 모드로 지원되며, 데모에서는 기본적으로 100% 샘플링이 적용되지만 생산 환경에서는 비용을 고려해 샘플링 비율을 조정해야 합니다.
배포를 위해서는 여러 가지 전제 조건을 충족해야 합니다. 대상 리전(기본값은 us-west-2)이 Managed KB, AgenticRetrieveStream 및 AgentCore Runtime/Gateway를 지원해야 하며, Bedrock, AgentCore, IAM, CloudWatch, X-Ray 등 관련 서비스에 대한 권한이 있어야 합니다. 또한 CloudWatch Transaction Search가 활성화되어 있어야 하고, CDK가 사전에 설정되어 있어야 합니다. 실행 환경으로는 Node.js 18 이상과 Python 3.13 이상이 필요하며, 로컬 Docker는 필요하지 않습니다. 정리는 cdk destroy --all 명령어로 수행되며, S3 버킷과 ECR 레지스트리의 removal_policy 설정을 통해 자동 삭제가 가능합니다. 전체 코드와 테스트 노트북은 GitHub에 오픈소스로 공개되어 있습니다.