基于工作流引擎的AI短剧生成系统设计:6步链路拆解与实现思路
做AI短剧最折腾的不是模型能力,是工具链——剧本A、生图B、视频C、配音D、剪辑E,每个环节之间靠手动导出导入。本文记录一套把6步塞进一个工作流平台的设计思路,重点聊链路拆解和可控生成方案。
一、为什么AI短剧的工具链是断的?
先看一段典型的AI短剧制作流程:
- 打开豆包/DeepSeek,对话式生成剧本
- 复制剧本,切到即梦/可灵,逐句贴 prompt 生图
- 挑图、修图,再切到Seedance/可灵视频生成,逐张上传首帧图生视频
- 等几分钟渲染,下载视频片段
- 切到剪映/PR,把片段拼起来,加字幕、配音、BGM
- 导出成片,发现某镜头崩了——回到第2步重来
核心问题:不是AI能力不够,是工具之间的数据是割裂的,文件传来传去,改一处得重跑全部。
这套系统想解决的就是:让数据在一条工作流内流转,不用来回切工具。
二、系统整体链路设计
项目创建 → 剧本生成 → 分镜拆解 → 逐镜生图 → 逐镜生视频 → 剪辑导出 每一步都在同一个平台里完成,前一步的输出直接作为后一步的输入,数据不落地。
下面逐步拆解每一步的实现思路。
三、各环节实现思路
① 项目创建
新建项目时支持导入原著小说文本,后端调用 LLM 自动提取章节结构和事件图谱,省去手动梳理人物关系。
② 剧本生成(对话式LLM)
内置 LLM 对话面板,采用多轮迭代式生成:
- 第一轮:生成故事骨架
- 第二轮:确定改编策略
- 第三轮:输出结构化剧本
不是一次性吐全文,而是像跟编剧开会一样逐步打磨,每轮可人工修订。
③ 分镜拆解
剧本自动拆分为分镜列表,每个分镜的数据结构:
{ "shot_id": "S003", "shot_type": "中景", "scene_desc": "作为后续AI生图的prompt", "characters": ["主角A", "配角B"], "dialogue": "台词文本", "est_duration": 5 }支持人工拖拽排序、增删改——这一步很关键,因为分镜质量直接决定后面生图生视频的效果。
④ 逐镜生图(批量+单镜重试)
基于分镜的scene_desc字段调用图像模型。关键设计:
- 批量生成:选好模型,一键跑全部分镜
- 单镜重试:某镜不满意只重生成这一个,不影响其他
- 多备选对比:每镜生成 1-N 张备选,对比挑选
这一步是整个工作流里最耗时的,所以并发控制和任务队列是重点。
⑤ 逐镜生视频(首帧图→图生视频)
这里有个核心设计决策:先锁定静态画面,再生成动态。
生成方式 | 可控性 | 适用场景 |
纯文生视频 | 低,AI自由发挥 | 快速试错、灵感探索 |
首帧图→图生视频 | 高,已锁定构图/配色/主体 | 专业成片,风格统一 |
实践下来,首帧图→图生视频的可控性比纯文生视频高一个数量级。原因很简单:静态画面锁定了构图、配色、主体形状,AI只需要在这个基础上"动起来",自由度大幅降低,结果更可预测。
⑥ 剪辑导出
内置多轨道时间轴,整合:视频片段 + TTS配音 + 字幕 + BGM,支持多规格成片批量导出。
定位是"短剧前端生产线",复杂后期仍建议导出到专业剪辑软件精修。
四、几个值得单独聊的设计点
提示词工厂
把常用 prompt 模板按类型分类存储:
- 视频模板:按短剧题材分(都市重生/武侠江湖/仙侠修炼)
- 图片模板:按创作场景分(AI女模/电商广告/文旅文创/社媒内容)
一键复制后改改就能用,省去从零写 prompt 的时间。本质是个 prompt 知识库。
实时画面预览
创作过程中随时预览分镜画面,不用等全部跑完才能看。技术上是一个轻量的预览引擎,每生成一张图就推送一次到前端画布。
多人协同 + 版本管理
支持团队在线协作,单镜粒度管理——A改镜头3不影响B改镜头5。版本可追溯,能回滚到任意历史版本。
五、技术架构
┌───────────────────────────────────────┐ │ 前端层 │ │ 可视化画布 + 工作空间 + 提示词工厂 │ │ + 多轨道时间轴(剪辑台) │ ├───────────────────────────────────────┤ │ 后端层 │ │ 用户/项目管理 + AI模型调度引擎 │ │ + 任务队列(并发控制+状态推送) │ │ + 文件/版本管理 + 多人协作控制 │ ├───────────────────────────────────────┤ │ 基础设施 │ │ GPU服务器(H100/B300) │ │ + 第三方AI模型API接入 │ └───────────────────────────────────────┘
AI模型接入的三个维度
模型类型 | 用途 | 可接入供应商 |
大语言模型 (LLM) | 剧本创作、分镜拆解 | 豆包、DeepSeek、Kimi、Claude、GPT-4 |
图像生成模型 | 分镜画面生成 | Seedance、即梦、可灵 |
视频生成模型 | 图生视频片段 | Seedance、豆包视频、可灵、即梦 |
设置中心填入 API Key 即可接入,支持随时切换供应商。这层抽象的好处是:某个模型出问题或涨价,换一个就行,不用改业务代码。
六、踩坑记录
1. 并发限制
图像/视频模型API有QPS限制,批量生成时建议2~3并发,避免被限流。
2. 生成耗时
视频模型比图片模型慢很多(一个镜头30秒~几分钟),批量生成时必须有任务队列和进度推送,否则用户体验极差。
3. 分镜图存储
分镜图生成后如果不及时持久化,刷新页面会丢。这一步踩过坑,后来加了文件版本管理,每张图都关联到具体分镜版本。
4. 视频生成策略
纯文生视频质量不稳定,首帧图→图生视频是更可控的方案。建议流程:先在图生图工具里生成关键帧确认风格,再基于该图写运动提示词调视频模型。
七、总结
这套系统的核心思路就一句话:把AI短剧制作的6个环节串成一条工作流,数据在流程内流转,不落地。
关键技术决策:
- 分镜数据结构化存储,作为各环节的衔接纽带
- 首帧图→图生视频,比纯文生视频可控性高一个数量级
- AI模型接入层抽象,支持随时切换供应商
- 单镜粒度的版本管理和协同,避免互相覆盖
目前正在迭代中,后续会继续分享工作流画布的可视化实现和并发控制方案。