ICCV 2025 | ETH Zurich&Meta提出PHD:扩散模型先验,实现高精度个性化3D人体拟合
创始人
2025-09-05 06:31:50
0

从单张图片或视频中恢复人体的三维姿态和体型(Human Mesh Recovery, HMR)是实现虚拟化身、人机交互和行为分析的关键技术。然而,现有方法大多是“一视同仁”的通用模型,它们在拟合时常常忽略个体间的身材差异,导致为了对齐二维图像而产生“膝盖异常弯曲”等不符合三维物理现实的怪异姿态。

为了解决这一难题,来自 苏黎世联邦理工学院(ETH Zürich)Meta的研究者们提出了一种名为 PHD (Personalized 3D Human Body Fitting)的新方法。其核心思想非常直观:先认识你,再为你量身打造。PHD通过一个创新的两阶段流程,首先从视频中标定出特定用户的准确身体形状,然后利用这个“专属”形状信息作为先验知识,指导后续的3D姿态拟合。为此,他们开发了一个基于点扩散模型的强大3D姿态先验,能够显著提升姿态估计的准确性,尤其是以往工作常常忽略的绝对姿态精度。

  • 论文标题:PHD: Personalized 3D Human Body Fitting with Point Diffusion

  • 作者:Hsuan-I Ho, Chen Guo, Po-Chen Wu, Ivan Shugurov, Chengcheng Tang, Abhay Mittal, Sizhe An, Manuel Kaufmann, Linguang Zhang

  • 机构:苏黎世联邦理工学院 (ETH Zürich)、Meta Reality Labs

  • 论文地址:https://arxiv.org/abs/2508.21257

  • 项目地址:https://phd-pose.github.io/

  • 会议信息:ICCV 2025

研究背景与动机

传统的HMR方法通常采用“一步到位”的策略,即同时从图像中回归或优化求解人体的形状(shape)、姿态(pose)和位置。这种方式虽然通用,但存在固有缺陷:

  1. 形状估计不准且不稳定:由于衣物遮挡和视角限制,从单帧图像很难精确估计体型。在视频序列中,估计出的体型参数常常会随时间抖动,这显然不符合物理事实。

  2. 过度依赖2D约束:为了让3D模型在图像上看起来“对齐”,优化过程会过度拟合2D关键点。如果体型估算错误(比如腿比实际短),模型为了匹配2D投影,就会强行“掰弯”膝盖,牺牲了3D姿态的真实性。

上图直观展示了现有方法中因形状估计不准(a, b)和随时间变化(c)导致的问题。PHD的目标就是通过个性化流程来解决这些痛点。

PHD:个性化两步走流水线

PHD将复杂的HMR问题解耦为一个清晰的两阶段流水线:个性化标定个性化拟合

阶段一:个性化形状标定 (SHAPify)

在处理一段视频前,PHD首先需要“认识”视频中的主角。用户只需提供一张处于放松姿态(如T-pose或I-pose)的校准图像,PHD就能通过一个名为 SHAPify的优化模块,估算出稳定且精确的身体形状参数β。如果能额外提供身高、体重等信息,标定结果会更准确。这一步对于每个用户只需进行一次。

阶段二:基于形状先验的个性化姿态拟合

在获得用户的专属形状β后,就进入了逐帧的姿态拟合阶段。这是PHD的核心创新所在。研究者没有直接优化姿态参数,而是引入了一个强大的 形状条件下的3D姿态先验,该先验被实现为一个名为 Point Diffusion Transformer (PointDiT)的模型。

PointDiT不再像传统方法那样学习关节旋转角度的分布,而是直接学习在给定用户体型β和图像特征的条件下,生成符合人体结构的三维身体点云。相比于抽象的旋转角度,点云能更直观、更紧密地与体型和图像信息相关联。

在拟合过程中,PHD采用了一个迭代优化的循环:

  1. 使用PointDiT根据当前姿态和用户体型,生成一个“合理”的3D身体点云作为目标。

  2. 通过一个新颖的 点蒸馏采样损失 (Point Distillation Sampling loss),引导当前的姿态参数向这个“合理”的目标点云和2D图像约束共同决定的方向进行优化。

  3. 交替进行点云采样和姿态优化,确保最终结果既符合3D人体先验,又与2D图像对齐。

这种机制极大地缓解了对2D约束的过度依赖,能有效修正不合理的初始姿态,得到更鲁棒和精确的结果。

实验结果与分析

PHD在多个基准数据集上进行了验证,并取得了SOTA性能。

更高的绝对姿态精度

传统方法通常只评估骨盆对齐后的局部姿态精度(MPJPE-PA),但这忽略了人体在相机空间中的绝对位置和朝向。PHD不仅在局部精度上表现出色,更在 绝对姿态精度(C-MPJPE)这一更具挑战性、也更实用的指标上取得了显著提升。这证明了准确的体型先验对于恢复人体的真实空间状态至关重要。

强大的坏姿态修正能力

定性比较显示,即使初始姿态非常糟糕(如来自HMR2.0b的错误预测),PHD强大的点扩散先验也能将其“拉回”到正确的状态,而基线方法ScoreHMR则难以恢复。这体现了PHD作为优化模块的鲁棒性。

数据高效与即插即用

值得一提的是,PHD的训练 仅需合成数据(BEDLAM),无需任何真实世界的3D标注,大大降低了训练成本。同时,它可以作为一个通用的 即插即用(plug-and-play)模块,无缝集成到现有的3D姿态估计器(如CameraHMR)之后,进一步提升它们的性能。

论文贡献与价值

PHD的提出为3D人体网格恢复领域带来了新的思考范式,其主要贡献如下:

  1. 提出个性化HMR新范式:将HMR解耦为“形状标定”和“姿态拟合”两个阶段,有效利用用户身份信息来提升精度和鲁棒性。

  2. 创新的点扩散姿态先验:开发了PointDiT,一个基于点扩散的强大3D姿态先验模型,它以点云为媒介,比传统的基于关节角度的先验更有效、更直观。

  3. 关注并提升绝对姿态精度:强调了绝对姿态精度在实际应用中的重要性,并通过个性化方法在该指标上取得了显著进步。

  4. 实用性强:模型训练数据高效,且能作为插件模块提升现有SOTA方法的性能,具有很高的应用价值。

PHD的思路清晰且有效,它抓住了传统HMR方法中“形状”与“姿态”纠缠不清的核心痛点,并给出了一个优雅的解耦方案。这种“先个性化,再拟合”的思想,对于未来构建更真实的个人数字分身、实现更精准的人体行为理解等应用,无疑铺平了道路。

从单张图片或视频中恢复人体的三维姿态和体型(Human Mesh Recovery, HMR)是实现虚拟化身、

相关内容

OpenAI推出GPT-5...
OpenAI近日推出GPT-5.6全系列模型,首次采用天体命名体系...
2026-06-28 10:59:41
【OpenAI发布GPT-...
【OpenAI发布GPT-5.6系列模型 ,应美政府要求限量开放,...
2026-06-27 18:31:47
行业ETF风向标丨香港证券...
今日上午,科创芯片ETF嘉实(588200)再度放量大涨,半日成交...
2026-06-26 10:45:03
沃什重创"美元贬...
主导今年华尔街行情的"美元贬值交易"正急速瓦解。美联储主席凯文·沃...
2026-06-25 22:14:55
东鹏饮料:该差额29.39...
证券之星消息,东鹏饮料(605499)06月24日在投资者关系平台...
2026-06-25 09:16:48
Claude惊人真相被教授...
新智元报道 【新智元导读】当初,Anthropic推出exten...
2026-06-24 22:30:05

热门资讯

【比特币ETF创推出以来最严重... 【比特币ETF创推出以来最严重单月资金流出,净流出达40亿美元】数据显示,6月份,投资者已从13只比...
比特币ETF单月资金流出40亿... 6月29日消息,美国上市比特币交易所交易基金正迎来其面世两年来赎回规模最高的一个月。6月投资者从13...
比特币随美国股指期货小幅走高 6月29日,在美国和伊朗同意停止袭击后,随着美国股指期货小幅走高,比特币微涨。据报道,美国官员表示,...
3160亿稳定币恐致全球货币体... 据 Woofun AI 消息,国际清算银行在年度经济报告中发出严厉警告,指出规模约为 3160 亿美...
隔夜逆回购精准稳流动性,提速货... 6月29日和30日适逢月末、季末时点,受银行考核等因素影响,市场资金面通常容易趋于偏紧。对此,东方金...
国泰基金的货币ETF国泰(51... 6月29日,货币ETF国泰(511620)报收99.999元,收跌0.01%,成交金额1051.9万...
英国5月M4货币供应年率 4.... 英国5月M4货币供应年率 4.3%,前值4.50%。 来源:金融界AI电报
透明加密防泄密如何实现?单位透... 很多企业还在用手动设置文档密码、压缩包上锁的方式保护资料,这类手段极易被破解,挡不住员工拷贝、截图、...
电脑加密软件有哪些?设计院 C... 研发图纸、项目方案、财务台账、核心源代码是企业不可替代的无形资产,如今文件拷贝、外网传输、外勤离线使...
原创 特... 文|梦漫弥 编辑|梦漫弥 6月26日,美国总统特朗普在社交媒体上抛出了一枚重磅炸弹——任何对美国科技...