给一段配音配上说话画面,先用几秒短音频试一张正脸素材,再决定要不要处理完整视频。下面的样片用一张完全虚构的人像和 Mac 自带中文合成语音,通过 MuseTalk 1.5 公共演示生成,时长 3.66 秒。

虚构头像与合成语音生成的口型对齐样片,画面已标注 AI 合成示范

这个样片能看到嘴部变化,但局部边缘略柔;它只能展示生成流程,不能证明每个字都精准对齐。本例将图片和音频上传到第三方服务器,所以全程只用合成素材。

开始前准备

项目 需要什么
图片 一张正脸、嘴部无遮挡、光线均匀的照片;用本人或已取得授权的素材
音频 一段 3–5 秒配音;本例用单声道 WAV
设备 能打开 Hugging Face 网页的电脑或手机
时间 约 5–10 分钟;排队或服务端首次加载可能更久
费用 本次使用未登录的公共 ZeroGPU 演示,没有购买或扣付费积分

Hugging Face 当前文档写明,ZeroGPU 演示对未登录用户提供每日 2 分钟 GPU 配额,免费账号为 5 分钟;队列和配额会变化。此次样片约 42 秒得到结果。如果页面要求购买积分、升级或绑定付费方式,先停下,不要继续付款。ZeroGPU 配额说明

先在网页上试一段短片

本例用的是 MuseTalk 1.5 公共演示。这是社区维护的 Hugging Face Space,并非腾讯音乐实验室的官方托管服务;实验室发布的是 MuseTalk 项目和模型。公共演示可能排队、暂停或变更。

  1. 打开演示页,确认页面状态显示 “Running on ZERO”。如果已暂停,可以稍等后刷新一次;如果页面提示登录或收费,按页面当前规则决定是否继续,不要为了复现本例购买积分。
  2. 准备正面、清晰、单人入镜的图片。嘴唇、下巴和脸部边缘不要被头发、手或口罩遮住。把音频控制在几秒,避免背景音乐和多人说话。
  3. 在 “Drving Audio” 区上传 WAV 或其他常见音频文件;在 “Reference Image or Video” 区上传图片或视频。本例输入的是一张 PNG 和 3.66 秒单声道 WAV。
  4. 先保持默认参数:“BBox_shift”为 0、“Extra Margin”为 10、“Parsing Mode”为 jaw,左右脸颊宽度各为 90。点击 “2. Generate” 生成视频。
  5. 下载结果后从头到尾播放,确认音频完整、嘴部有变化、脸部边缘没有明显撕裂或重影。只看缩略图无法判断口型是否跟着声音变化。

页面还有 “1. Test Inpainting” 按钮,用来预览第一帧的人脸处理区域;它会另外调用 GPU。第一次先用短片直接生成,遇到裁切问题再考虑调试,避免把有限配额花在重复预览上。本例通过该 Space 的 generate 处理接口提交了同一组虚构输入,保留了返回视频;没有使用登录令牌,也没有运行参数扫描。

输入不合适时怎么调

如果嘴部被裁掉,先换成脸更正、嘴唇和下巴都清楚的图,再从 BBox_shift = 0 开始小幅调整。这个参数会移动模型找到的人脸区域,幅度过大可能把脸裁偏。页面参数说明也建议从 0 附近开始逐步调整。

如果结果发糊或嘴部边缘不稳,先缩短音频并使用清晰、光线均匀的正脸素材。不要反复提交同一长片:每次生成都可能占用 ZeroGPU 配额。本例输出为 1024×1024、25 fps、3.66 秒;嘴部有变化,但一段样片不足以判断不同人脸、角度和语速下的同步效果。

上传前先看清数据去向

图片和音频会离开你的设备,传到公共演示站处理。该 Space 的公开源代码会把生成帧和结果写到服务端目录,代码里清理临时结果的语句目前处于注释状态;不要把它当成私密或可随时删除的存储服务。不要上传客户未公开素材、身份证照片或未经许可的他人影像与声音。

MuseTalk 官方仓库说明,代码和模型权重采用 MIT 许可,但它依赖的其他模型和组件有各自许可,仓库中的测试素材也有非商业用途说明。公共演示的隐私、可用性和服务条款还要单独核对。若要接商业项目,确认素材授权、模型及依赖许可和服务条款,再决定部署路线。MuseTalk 官方许可说明

发布前标明 AI 合成

给真人脸或人声做编辑前,确认你有权使用相关素材。《互联网信息服务深度合成管理规定》第十四条要求提供此类编辑功能的服务提供者和技术支持者,提示使用者依法告知被编辑的个人,并取得其单独同意。《民法典》规定自然人享有肖像权,并规定对自然人声音的保护参照肖像权保护的有关规定;具体使用仍要核对适用规则。深度合成管理规定 · 民法典肖像权条款

发布 AI 合成视频时,按平台提供的功能主动声明并添加标识。《人工智能生成合成内容标识办法》已于 2025 年 9 月 1 日施行。本例视频上叠加了“AI合成示范”文字;这不替代发布平台的声明或标识功能。标识办法

练习素材和下一步

下载口型对齐练习包,里面有虚构头像、合成语音和本次生成的视频。你可以先上传练习包里的图片和音频,再换成自己有权使用的素材。

想先准备配音,可看《短剧角色配音声音库:一次整理 10 个角色声线》;生成后还要剪辑,可接着看《直播回放怎么剪成短视频?先核内容,再按停顿找切点》。

如果你需要离线部署,MuseTalk 官方仓库提供本机推理代码和权重下载脚本。权重需下载到自己的设备,本例没有下载或实测本机部署;下载前应先确认文件体积、依赖许可和显卡环境。