본문으로 건너뛰기
AI NEWS JOURNAL
钛媒体AI NEWS / JOURNAL

징둥 광고는 화웨이 쿤펑과 협력해 생성형 광고 추론 지연을 15% 단축했으며, 618 대규모 프로모션에서 핵심 시나리오 검증을 완료했습니다.

징둥 광고는 화웨이 쿤펑과 협력하여 링취우 인터넷을 통해 300TB 규모의 공유 메모리 풀을 구축하고 RPC 통신을 재구성함으로써, 엔드투엔드 추론 지연 시간을 15% 단축하고 KV 캐시와 RPC 성능을 크게 향상시켰으며, 2026년 618 대규모 프로모션의 핵심 시나리오에서 5% 트래픽을 통해 검증을 완료했습니다. 또한 이 협력은 서치 및 추천 등 검색·추천 시나리오에 긍정적인 파급 효과를 가져왔으며, SuperCache, Agent 샌드박스 등 애지네틱 AI의 최첨단 분야에도 적극적으로 진출하고 있습니다.

AI 자동 번역

징둥 광고와 화웨이 쿤펑은 유니파이드버스(UniformBus) 상호 연결 기술을 통해 전통적인 4단계 캐시를 2단계로 압축하고, 300TB 규모의 공유 메모리 풀을 구축하며, RPC 통신 아키텍처를 재구성함으로써 생성형 광고 추천 시스템의 엔드투엔드 추론 지연 시간을 15% 단축했다고 공동 발표했다. 이 성과는 2026년 징둥 618 대규모 프로모션의 핵심 광고 시나리오에서 온라인 트래픽의 5%를 대상으로 지속적으로 검증되었으며, 시스템 안정성, 처리량 및 저지연 성능 모두 예상 목표를 달성했다.

기술적 돌파구는 세 가지 측면에 집중된다. 첫째, 링추 프로토콜을 기반으로 4K 노드 스케일업 네트워크를 구현하여, 단일 초고성능 노드가 150만 개 이상의 vCPU와 3.2Tb의 상호 연결 대역폭을 지원함으로써 계층 간 대역폭 수렴의 병목 문제를 해결한다. 둘째, KV 캐시는 온칩 메모리와 DDR의 이중 구조를 채택해 캐시 간 지연 시간을 3개 주기 감소시키며, 8MB 동시 요청 시 TP99 지연 시간이 85% 이상 줄어들고, 64MB의 시퀀스 길이에서는 TP99 지연 시간이 기존의 1/16로 낮아진다. 셋째, RPC 통신은 소켓/TCP/IP 프로토콜 스택을 건너뛰고 UB를 이용한 URMA 직결 방식으로 전환하여, 1MB 데이터 패킷의 지연 시간을 84% 감소시키고 P99 전체 성능을 40% 이상 향상시키며, 통신용 메모리를 100배 절감한다.

이번 협력은 광고 사업을 넘어 검색, 추천 등 검색·추천 시나리오로 확장되었으며, SuperCache( L2/L3 용량 확장 및 통산 지능형 컴퓨팅의 통합 연결), Agent 고밀도 샌드박스(초당 10만 수준의 동시 처리, 리소스 초과 할당 5배), 다모달 융합 검색 등 새로운 분야에 대한 탐구를 시작했습니다. 양사는 Agentic AI 시대에는 CPU 의존도가 크게 높아질 것이며, CPU와 NPU의 비율이 기존 1:4에서 더 높은 비율로 전환될 수 있다고 지적했습니다. 또한, 하부 계산 성능 기반은 운영체제, 스케줄링, 미들웨어 간의 협업을 통해 재구성되어야 한다고 강조했습니다.

보도에는 출처가 티미디어 앱(https://www.tmtpost.com/8181692.html),发布于2026-10-26T12:19:13.000Z,属时效性强、细节翔实的技术进展类新闻。文中所有技术指标、验证方式、演进路径均严格依据材料原文提取,未引入外部知识、未推测未声明的商业影响或未发生的未来事件。)으로 명확히 표기되어 있습니다.

자료 출처

钛媒体

관련 주제

← 전체 소식 이어 읽기