Amazon SageMaker TTS 서비스는 측정 기반 자동 확장 및 축소를 구현합니다: Kokoro-82M 모델을 예로 들어 보겠습니다.
AWS 블로그는 텍스트 음성 변환(TTS) 모델을 SageMaker 실시간 엔드포인트에 배포할 때, 경험적 추측을 지양하고 두 가지 실제 측정 지표인 Q_max(단일 인스턴스의 최대 지속 가능한 동시 요청 수)와 T_total(계획된 확장·축소 소요 시간)을 기반으로 한 재현 가능하고 검증 가능한 확장·축소 전략을 소개합니다.