Portrait animation from a single source image and a driving video is a long-standing problem. Recent approaches tend to adopt diffusion-based image/video generation models for realistic and expressive animation. However, none of these diffusion models realizes high-fidelity disentangled control between the head pose and facial expression, hindering applications like expression-only or pose-only editing and animation. To address this, we propose DeX-Portrait, a novel approach capable of generating expressive portrait animation driven by disentangled pose and expression signals. Specifically, we represent the pose as an explicit global transformation and the expression as an implicit latent code. First, we design a powerful motion trainer to learn both pose and expression encoders for extracting precise and decomposed driving signals. Then we propose to inject the pose transformation into the diffusion model through a dual-branch conditioning mechanism, and the expression latent through cross attention. Finally, we design a progressive hybrid classifier-free guidance for more faithful identity consistency. Experiments show that our method outperforms state-of-the-art baselines on both animation quality and disentangled controllability.


翻译:基于单张源图像与驱动视频的肖像动画生成是一个长期存在的难题。近期方法倾向于采用基于扩散模型的图像/视频生成技术以实现真实且富有表现力的动画效果。然而,现有扩散模型均未能实现头部姿态与面部表情的高保真解耦控制,限制了仅表情编辑、仅姿态编辑等应用场景的发展。为此,我们提出DeX-Portrait——一种能够通过解耦的姿态与表情信号驱动生成生动肖像动画的新方法。具体而言,我们将姿态建模为显式的全局变换,将表情编码为隐式的潜在表征。首先,我们设计了高效的运动训练器,通过姿态编码器与表情编码器分别学习精确解耦的驱动信号。随后,我们提出通过双分支条件机制将姿态变换注入扩散模型,同时通过交叉注意力机制融合表情潜在编码。最后,我们设计了渐进式混合无分类器引导策略以提升身份一致性保真度。实验表明,本方法在动画质量与解耦可控性方面均优于现有先进基线模型。

0
下载
关闭预览

相关内容

【CVPR2024】VidLA: 大规模视频-语言对齐
专知会员服务
20+阅读 · 2024年3月31日
Python图像处理,366页pdf,Image Operators Image Processing in Python
CVPR 2019 | 无监督领域特定单图像去模糊
PaperWeekly
14+阅读 · 2019年3月20日
LibRec 每周算法:LDA主题模型
LibRec智能推荐
29+阅读 · 2017年12月4日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
A Survey of Large Language Models
Arxiv
495+阅读 · 2023年3月31日
VIP会员
相关基金
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员