如果你经常做自媒体,应该知道制作一条视频有多麻烦。
写文案、准备素材、录制口播、配音、剪辑、添加字幕、制作封面……即使只有一两分钟的视频,也可能花掉几个小时。
如果不想露脸,还要寻找数字人平台,购买会员,调整人物形象和声音。
但现在,GitHub 上有一个开源项目,试图把这些工作全部交给 AI。
你只需要提供一张人物照片,再告诉 AI 想制作什么内容,它就能自动完成脚本撰写、数字人口播、字幕、配音处理、视频剪辑和封面制作。
这个项目叫 Digital Human Koubo(AI 数字人口播)。它最有意思的地方是:它不只是让照片中的人物开口说话,而是让 AI Agent 直接参与整个视频制作过程。
从一张照片到一条完整视频,AI 究竟做了什么?
假设你想制作一条 30 秒的商品推广视频。
以前,你需要自己写好口播文案,找人录制,准备商品图片,然后用剪映或者其他软件进行剪辑。
现在,你可以直接给 AI Agent 下达这样的指令:
使用我的数字人,制作一条 30 秒的课程推广视频,课程有 10 节,售价 99 元,原价 999 元。
接下来,AI 就会自动分析内容、编写口播脚本、生成数字人视频,再添加字幕、背景音乐、价格动画和封面。
项目 README 展示了一条 27 秒的直播广告,人物形象、声音、直播间背景、字幕和价格动画全部由 AI 生成。作者公布的生成成本是 482 个 Renoise 积分。
演示视频及成本来自项目 README,实际费用以服务商实时报价为准。
这套工作流并不是简单地调用一个 AI 视频模型。
它把视频生产拆成了多个环节:先写脚本,再把脚本拆成短句,生成数字人口播,检查画面和声音,最后交给剪辑引擎合成。
其中一个很重要的设计是:每段数字人口播不超过 15 秒。
为什么不直接生成一条完整的几分钟视频?
因为视频越长,人物外观、口型、声音越容易出现变化。拆成短片段后,可以单独检查和重新生成某一段,不必整条视频重新制作。
项目还使用 Whisper 语音识别,将生成视频中的语音转录出来,与原始脚本进行比对。如果发现人物说错了内容,就可以重新生成对应片段。
每段视频还会抽取 4 帧进行画面检查,避免人物变形或者模型擅自把字幕生成到画面里。
这实际上形成了一个自动质检流程:生成、检查、发现问题、重新生成。
它不只是数字人,还内置了 48 种视频包装效果
我认为这是这个项目比较有意思的设计。
很多数字人产品,只解决了一个问题:让人物对着镜头说话。
但真正的视频创作,远不止如此。
为什么有些科技博主的视频看起来很专业?除了内容本身,还有开场悬念、动态字幕、数据图表、镜头推近、背景音乐和各种视觉效果。
这个项目研究了 25 条知名创作者的视频,分析开场、剪辑节奏、字幕和音效,整理出 48 种视频包装组件。
例如:
TeaserColdOpen:悬念式开场,先抛出最吸引人的内容。
NumberSpike:数字突出动画,让价格、数据更加醒目。
EvidenceCard:证据卡片,用于展示资料和数据。
MapRoute:地图路线动画。
Danmaku:弹幕效果。
PunchInHost:人物镜头推近。
ChapterCard:章节切换动画。
TextBehind:让大字显示在人物身后。
这些效果不是每次都需要手动制作,而是可以通过配置组合。
相当于把视频特效做成了可以重复使用的组件。
项目还提供了 5 种视频风格:
风格 | 适用场景 |
A | 财经、科技解说 |
B | 竖屏博主口播、商品推荐 |
C | 新品和 AI 模型发布解析 |
D | 软件操作、技术教程 |
E | 多人物、多语言、多场景视频 |
例如,制作一条 AI 技术科普视频,可以选择 A 风格,让数字人出现在画面一侧,另一侧展示代码、图表、公式和相关资料。
如果制作商品推广视频,则可以选择 B 风格,采用竖屏口播,配合动态字幕和价格动画。
这意味着它并不是简单地把文字转换成声音,而是尝试把专业视频创作者常用的包装方式也自动化。
技术上有什么特别之处?Agent + MCP + Remotion
对于开发者来说,这个项目更值得研究的是它的整体架构。
它没有自己训练一个数字人模型,而是把现有 AI 服务和本地视频处理工具组合起来。
核心可以分为三部分:
1. Agent 负责调度。
项目提供了 SKILL.md,里面定义了完整的视频生产流程。
AI Agent 读取 Skill 后,就知道接到任务应该先分析内容、推荐视频风格、撰写脚本,然后生成视频、检查质量,最后进行剪辑。
2. MCP 负责连接 AI 服务。
项目通过 Renoise MCP 调用图像和视频生成能力,其中数字人口播主要使用 Grok Video 1.5。
其他模型,例如 Wan 3.0、OmniHuman,也在项目文档中提供了相关使用方案。
以 Codex 为例,可以通过下面的命令连接:
...Python
codex mcp add renoise \
--url https://renoise.ai/api/public/mcp
codex mcp login renoise
连接成功后,Agent 就可以通过 MCP 调用外部服务。
3. Remotion 和 Python 负责视频制作。
这里使用了几个比较重要的技术:
Remotion:基于 React 组件生成视频和动画。
FFmpeg:负责视频拼接、转码和音频处理。
Whisper.cpp:负责语音识别和字幕校验。
Python:处理视频下载、音频统一、封面生成等任务。
Playwright:自动化浏览器截图,用于封面排版。
这种架构非常值得借鉴:Agent 负责思考和调度,MCP 负责连接外部模型,本地脚本负责具体执行。
它展示了一个趋势:AI Agent 不再只是回答问题,而是可以调用不同工具,把一个复杂任务拆解成多个步骤,最终交付完整作品。
一个容易忽略的技术难题:几十段视频,如何听起来像同一个人?
假设一条视频由 30 个独立生成的口播片段组成。
即使每段视频单独听起来都不错,拼接后也可能出现问题:有的声音尖,有的声音闷,有的音量突然变大。
项目专门设计了音频统一处理流程,包括频谱匹配、去齿音、统一混响和响度标准化。
作者公布的测试数据显示,多个片段之间的齿音差异从 13.2 dB 降低到了 5.9 dB。
另外,视频拼接还可能出现口型和声音逐渐错位的问题。作者测试过一条 4 分 43 秒、由 44 个片段组成的视频,发现音频累计落后约 0.38 秒。
为了解决这个问题,项目在拼接时会根据视频长度补齐音频,并检查音视频时长是否一致。
这些看起来不起眼的细节,恰恰是 AI 视频工具从「能生成」走向「能交付」必须解决的问题。
开源不等于免费,普通人值得尝试吗?
项目采用 MIT 许可证,但生成视频需要调用外部 AI 服务,因此并不是完全免费的。
作者公布的实际测试成本:
视频内容 | 时长 | 消耗积分 |
直播广告 | 27 秒 | 482 |
技术教程 | 4分36秒 | 约3250 |
数字人升级演示 | 5分55秒 | 约3409 |
项目有一个比较实用的设计:生成前先报价,告诉用户需要多少片段、多少秒、消耗多少积分以及账户余额,得到确认后才开始生成。
部署方面,它支持 Claude Code、Codex、OpenClaw 等 Agent,但需要安装 Python、Node.js、FFmpeg、Whisper.cpp 等工具,并连接 Renoise MCP。它并不是下载后双击就能运行的软件。
另外,项目要求使用本人或获得授权的人物照片和声音,生成视频也需要标注 AI 数字人演绎,不能随意冒充他人。
我认为,这个项目最值得关注的不是数字人技术,而是它展示了 AI Agent 的另一种应用方式。
以前我们让 AI 写文案、生成图片,现在可以让 AI 自己调用工具、生成视频、检查错误、重新制作,最终交付一条完整的视频。
对于自媒体创作者来说,这意味着一个人也有机会完成过去需要文案、主播、剪辑师共同完成的工作。
当然,AI 可以替你完成拍摄和剪辑,却不一定能替你找到真正有价值的话题。内容判断力、专业知识和创意,仍然是创作者最重要的竞争力。
未来,当视频制作越来越便宜,真正稀缺的可能不再是拍摄和剪辑技术,而是你究竟有没有值得别人花时间观看的内容。
更多transformer,VIT,swin tranformer 参考头条号:人工智能研究所 v号:人工智能研究Suo, 启示AI科技动画详解transformer 在线视频教程