Crawl4AI로 Amazon Bedrock 지식 베이스용 웹 콘텐츠 준비
이 게시글에서는 오픈소스 웹 크롤러인 Crawl4AI를 사용하여 Amazon S3 데이터 소스에 도달하기 전에 JavaScript 렌더링 처리, 선택적 추출 및 맞춤형 메타데이터 보강을 통해 Amazon Bedrock 지식 베이스의 콘텐츠 준비 계층으로 활용하는 방법을 설명합니다.
AI NEWS JOURNAL
AI 뉴스 검색
제목, 요약, 본문을 검색해 흩어진 정보를 연결하세요.
Amazon SageMaker AI에서 지식 증류를 활용한 효율적인 에이전트 구축
최첨단 모델을 기반으로 구축된 에이전틱 어시스턴트는 다중 단계 툴 루프를 실행하며, 모든 단계마다 최첨단 가격을 지불하는 것은 프로덕션 규모에서 지속하기 어렵습니다. 이 게시글에서는 시퀀스 수준 지식 증류(SeqKD)를 사용하여 최첨단 트레이너의 에이전틱 행동을 Amazon SageMaker AI의 소규모 저비용 학생 모델로 전달하는 방법을 보여줍니다.
Circle K가 Amazon Bedrock을 활용하여 DevOps 인시던트 트리아지 시간을 15분 미만으로 단축한 방법
Circle K의 DevOps 팀은 Amazon Bedrock 기반 에이전트형 트리아지 시스템을 구축함으로써 인시던트 트리아지 시간을 45~60분에서 15분 미만으로 단축했습니다. 이 게시글에서는 아키텍처, 초기 Amazon Bedrock Flows 구현, Amazon Bedrock AgentCore로의 마이그레이션, 그리고 확장 과정에서 얻은 교훈을 자세히 설명합니다.
코딩 에이전트가 Amazon Bedrock AgentCore 런타임을 사용해 웹 애플리케이션을 구축하는 동안, 실시간으로 미리보기를 확인하세요.
Amazon Bedrock AgentCore 세션 엔드포인트는 각 런타임 세션에 인증된 URL을 제공하며, 이 URL은 사용자가 허용한 포트로 HTTP 메서드, 경로 및 WebSocket 연결을 전달합니다. 이번 글에서는 세션 내에서 Vite 기반 웹사이트를 계속 실행하는 코딩 에이전트를 배포한 뒤, 에이전트가 파일을 수정할 때마다 브라우저에서 실시간으로 사이트가 업데이트되는 모습을 확인합니다.
NVIDIA Dynamo를 위한 검증된 Kubernetes 런타임 구축
AI 애플리케이션을 개발하는 팀들은 모델 구성에서 실제 작동하는 추론 엔드포인트에 이르는 반복 가능한 경로가 필요합니다. NVIDIA Dynamo는 분산형 추론...
KORA: AI 워크로드를 위한 결정론 우선 실행 제어
arXiv:2610.35869v1 발표 유형: 신규 초록: AI 애플리케이션은 종종 추론이 필요한지 여부를 판단하기 전에 모델을 호출합니다. 이러한 기본 설정은 모호한 생성 작업에는 유용하지만, 구조화되고 결정론적이며 정책 기반, 조회 지향적이거나 직접 검증 가능한 작업에는 적합하지 않습니다. KORA는 결정론 우선 실행 제어를 도입합니다: 요청을 작업 경로로 표현하고, 먼저 결정론적 또는 구조화된 경로를 시도하며, 경로 결과를 검증하고, 텔레메트리를 기록한 뒤, 결정론적 처리로 해결되지 않을 경우에만 모델 후보 경로로 에스컬레이션하는 사전 추론 제어 계층입니다. 본 논문에서는 KORA를 결정론 우선 실행 제어 아키텍처로 소개하고, 재현 가능한 벤치마크 및 검증 워크로드에서 얻은 제한된 증거를 보고합니다. 재
SAP, 더 지능적이고 관리된 Joule 에이전트로 자율 기업 전략을 한층 더 추진합니다
SAP SE는 오늘 개발자를 위한 연례 TechEd 컨퍼런스에서 인공지능 혁신 제품군을 발표하며, Joule 어시스턴트 솔루션과 비즈니스 AI 플랫폼을 고도화했습니다. 여기에는 테이블형 데이터 기반 모델도 포함됩니다. Joule Work의 새로운 기능은 AI 에이전트가 더욱 효율적으로 작동하고 개방형 프로토콜과 상호운용성을 갖도록 지원합니다. 이와 관련해 모델 컨텍스트 프로토콜[…] SAP는 더 지능적이고 관리된 Joule 에이전트를 통해 자율적 기업 전략을 한층 더 추진하고 있습니다. 이 글은 SiliconANGLE에 처음 게재되었습니다.
리프스킬: 재귀적 LLM 에이전트를 위한 효율적인 잎 수준 행동 근거화
arXiv:2610.32412v1 발표 유형: 신규 초록: 재귀적 대규모 언어 모델(LLM) 에이전트는 분해, 실행 및 환경 피드백을 통해 장기적인 목표를 달성하는 과제를 해결한다. 그러나 원자적 하위 작업을 생성한 뒤에는, 익숙한 명령어를 실행 가능한 행동으로 변환하기 위해 다시 동일한 대규모 모델을 호출하는 경우가 많다. 우리는 고수준 계획은 과제마다 특화되어 있는 반면, 최하위 수준의 행동 구체화는 과제 간에 반복적으로 사용되며 환경에서 허용된 행동들과 비교·검증할 수 있다는 점을 관찰하였다. 이에 우리는 리프스킬(LeafSkill)을 제안한다. 이는 의미적으로 관련된 구체화 경험을 검색하고, 행동 템플릿을 현재 객체와 허용 가능한 행동에 결합하며, 경량형 1.7B 선택기를 활용해 결합된 행동을 선택하거나 변경되지 않은 하위 작업을 원래 에이전트에게 위임하는 외부 재사용 계층이다. 기술들은 외부에 남아 있다…
듀얼페이스: LLM 서비스를 위한 분리형 스케줄링 및 협력적 GPU–CPU 디코딩
arXiv:2610.33501v1 발표 유형: 신규 초록: 대규모 언어 모델(LLM) 서비스는 추론 처리량을 높이기 위해 배치 처리에 의존하지만, 키-값(KV) 캐시는 시퀀스 길이와 함께 증가하여 GPU 상주 동시성을 제한한다. CPU 오프로드를 통해 호스트 메모리를 활용하면 KV 용량을 확장할 수 있지만, 기존 시스템은 여전히 대부분 GPU 중심으로 작동한다: CPU 상주 요청은 GPU 스케줄러가 적절한 겹침 기회를 제공할 때에만 진행된다. 그 결과, 호스트 메모리와 CPU 연산은 독립적인 서비스 자원으로 작용하지 못하며, 이로 인해 부하 하에서 CPU 측 진행이 간헐적으로 발생하고 꼬리 부분의 토큰 간 지연(ITL)이 부풀어 오르게 된다. 우리는 호스트를 독립적으로 스케줄링되는 디코딩 엔진으로 전환하는 LLM 서비스 런타임인 DualPace를 제안한다. DualPace는 두 개의 엔진 간에 스케줄링 권한을 분리한다: GPU 엔진
AWS Bedrock이 캐나다 리전에서 지역 간 추론 기능을 출시하여, 명목상 GPT-5.6/GPT-6/GPT-6.1 모델 호출을 지원합니다.
아마존 웹 서비스는 캐나다 고객들이 Amazon Bedrock을 통해 ca-central-1(캐나다 중부) 및 ca-west-1(캐나다 서부/캘거리) 리전에서 OpenAI GPT-5.6, GPT-6 및 GPT-6.1 모델을 크로스리전 추론(CRIS) 방식으로 호출할 수 있다고 발표했습니다. 실제 추론은 북미 또는 전 세계 AWS 상용 리전에서 이루어지며, 데이터는 캐나다 원본 리전에 정적 상태로 저장됩니다.