모델 소개
> We present **MultiTalk**, an open-source audio-driven multi-person conversational video generation model with the state-of-the-art lip synchronization accuracy. > Key features: > - 💬 Realistic Conversations - Supports single & multi-person generation > - 👥 Interactive Character Control - Direct virtual humans via prompts > - 🎤 Generalization Performances - Supports the generation of cartoon character and singing > - 📺 Resolution Flexibility: 480p & 720p output at arbitrary aspect ratios > - ⏱️ **Long Video Generation**: Support video generation up to 15 seconds This repository hosts the model weights for **MultiTalk**. For installation, usage instructions, and further documentation, please visit our GitHub repository. We propose a novel framework, MultiTalk, for audio-driven multi-person conversational video generation. We investigate several schemes for audio injection and introduce the Label Rotary Position Embedding (L-RoPE) method. By assigning identical labels to audio embeddings and video latents, it effectively activates specific regions within the audio cross-attention map, thereby resolving incorrect binding issues. To localize the region of the specified person, we introduce the adaptive person localization by computing the similarity between the features of the given region of a person in the reference image and all the features of the whole video.
주요 특징
特点摘要待依据来源补齐，不凭模型名称推断能力。
한계 및 유의 사항
구체적 한계를 판단할 출처가 부족합니다. 실제 성능, 지연, 데이터 정책, 라이선스와 버전 수명을 확인하세요.
출처별 요금 및 비용 분석
요금은 채널, 지역, 설정에 따라 다릅니다. 각 채널 요금은 개별 표시되며 제공사의 통일 공식 요금이 아닙니다.
| 출처 / 채널 | 입력 | 출력 | 과금 단위 | 수집 시간 |
|---|---|---|---|---|
| 확인된 요금이 없습니다. 출처를 확인하세요. | ||||
월간 기본 토큰 비용 추정
추정치에는 캐시 할인, 구간 요금, 멀티모달 추가 요금, 검색, 세금 및 추가 추론 출력이 포함되지 않습니다.
공개 평가 및 실행 설정
暂无已采集的可核验公开评分。模型未上榜不代表能力较低。
등록된 전체 순위 보기 →자주 묻는 질문
오픈 웨이트면 무료 상업 이용이 가능한가요?
반드시 그렇지는 않습니다. 버전별 라이선스, 상업 이용 조건과 정책을 확인하세요. 자체 배포에는 연산 및 유지 비용도 듭니다.
실시간 결제 요금인가요?
수집 시간이 기록된 요금 스냅샷입니다. 최신 버전, 지역, 할인과 과금 방식은 해당 채널에서 확인하세요.
출처 및 추적 기록
许可证：apache-2.0。模型介绍与第三方评测均以原来源的具体版本和方法为准。