AI 短视频结构迁移与素材补全平台
从样例拆解、结构迁移、素材补全到视频重组,构建可解释、可调整、可部署的 AI 创作工作台。
🌐 在线体验 — 访问镜理AI平台,体验样例拆解、结构迁移、素材补全与视频生成流程。
项目介绍 | 你将看到什么 | 核心能力 | 系统架构 | 快速部署 | 评委说明文档
很多短视频真正有效的地方,不只是素材本身,而是隐藏在内容里的“结构能力”:开头如何抓人、信息如何推进、镜头节奏如何变化、字幕和标题条如何承接卖点、结尾如何形成行动引导。
VidoLog 面向“爆款结构迁移引擎”赛题,目标不是复制样例视频内容,而是把样例中的脚本、节奏和包装结构抽象出来,再迁移到新的主题、商品信息或用户素材中,生成新的短视频方案。
当前输入以本地样例视频、真实素材文件和文本信息为主;暂不支持解析抖音等平台直链。
- 📹 样例视频拆解:基础信息、关键帧、音频转写、脚本/节奏/包装结构。
- 🧩 结构迁移过程:样例结构如何映射到新主题、新商品或新素材。
- 🔍 素材缺口识别:哪些结构槽位缺少开头镜头、商品特写、对比镜头或 CTA 画面。
- 🪄 缺口补全方案:通过结构重排、字幕文案、包装建议实现补足表达。
- 🎬 结果生成路径:使用当前最新版迁移草稿进入 AI 视频生成或 Remotion 模板快剪。
- 🧑💻 可部署工程形态:Docker Compose 一次拉起前端、Flask、AI 视频服务和 Remotion 渲染服务。
| 模块 | 说明 |
|---|---|
| 核心能力 | 项目完成了哪些赛题能力 |
| 系统架构 | 前端、后端、模型服务和渲染服务如何协作 |
| 典型工作流 | 从上传样例到生成视频的完整链路 |
| 关键接口 | 前后端与视频任务协议 |
| 快速部署 | Docker Compose 服务器部署方式 |
| 安全与边界 | 密钥、网络、输入能力和模型输出边界 |
| 赛题对应关系 | 与评分项的直接对应 |
| 能力 | 当前实现 |
|---|---|
| 📼 样例视频解析 | 提取视频基础信息、关键帧、音频转写和结构化分析上下文 |
| 🧠 结构拆解 | 输出脚本结构、节奏结构、包装结构,包括 hook、中段推进、CTA、字幕、标题条、转场、封面等 |
| 🧬 结构迁移 | 基于样例结构和新内容生成迁移方案,覆盖脚本、分段、时间线草案和包装建议 |
| 🕳️ 素材缺口识别 | 按结构槽位判断现有素材是否足以支撑迁移目标,并说明缺口影响 |
| 🧰 素材缺口补全 | 支持结构重排、文案/字幕补全、包装建议等 |
| 🎛️ 多版本与人机协同 | 支持高点击版、高转化版、高节奏版、高质感版,也支持自然语言修改方案 |
| 🎞️ 双视频生成路线 | AI 模型视频生成 + 服务端 Remotion 模板快剪 |
| 🐳 工程部署 | 提供 Dockerfile、docker-compose.yml、Nginx 代理和生产环境变量模板 |
flowchart LR
U["用户"] --> N["Nginx / Dashboard"]
N --> F["Flask Backend"]
F --> A["结构分析器 / LLM / ASR / Embedding"]
F --> Q["Qdrant 本地向量库"]
F --> S["S3 兼容对象存储"]
F --> G["generate-video AI 视频服务"]
F --> R["remotion-render 模板渲染服务"]
R --> O["template-video-data 输出卷"]
N --> O
生产部署时只暴露 Nginx 的 80 端口。flask-backend、generate-video 和 remotion-render 只在 Docker 内网通信。
| 服务 | 作用 | 内部端口 |
|---|---|---|
nginx |
对外入口,托管 dashboard,代理 /api,托管模板视频输出 |
80 |
flask-backend |
样例解析、结构拆解、素材缺口、迁移方案、视频任务代理 | 5001 |
generate-video |
Markdown 到 AI 视频任务服务 | 8788 |
remotion-render |
服务端 Remotion 模板视频渲染 | 8790 |
- 上传本地样例视频。
- 后端提取视频帧、音频和基础元信息。
- 结构分析器输出脚本结构、节奏结构和包装结构。
- 用户输入新主题、商品卖点或素材。
- 系统生成迁移方案草稿,并在右侧产物栏展示。
- 素材缺口分析识别无法直接支撑的结构槽位。
- 素材补全生成补全版迁移草稿。
- 用户可用自然语言继续修改方案,或选择不同版本。
- 生成视频时默认使用当前选中的最新版迁移草稿。
- 用户选择 AI 视频生成或 Remotion 模板快剪路线。
| 接口 | 说明 |
|---|---|
POST /api/analyze-video |
上传并解析样例视频 |
POST /api/analyze-text-structure |
从文本/样例上下文抽取结构 |
POST /api/analyze-material-gap |
分析素材缺口 |
POST /api/complete-material-gap |
生成素材缺口补全方案 |
POST /api/route-user-intent |
对话意图路由 |
POST /api/generate-migration-plan |
生成迁移方案 |
POST /api/revise-migration-plan |
自然语言修改迁移方案 |
POST /api/video/md/generate |
发起 AI 视频生成任务 |
GET /api/video/md/tasks/:taskId |
查询 AI 视频任务状态 |
POST /api/video/template/generate |
发起 Remotion 模板快剪任务 |
GET /api/video/template/tasks/:taskId |
查询模板快剪任务状态 |
GET /api/health |
后端健康检查 |
cd ai-frontend/dashboard
npm install
npm run devcd ai-backend
pip install -r requirements.txt
python app.pycd remotion-render
npm install
npm run devcd "generate_video(1)/generate_video"
npm install
npm run dev:server服务器上建议直接使用 Docker Compose:
cp .env.example .env.production
# 编辑 .env.production,填入真实密钥和服务配置
docker compose build
docker compose up -d
docker compose ps部署细节见 docs/deployment.md。生产环境不要提交 .env.production。
| 分组 | 关键变量 |
|---|---|
| LLM | BASE_URL、API_KEY、LLM_MODEL |
| Embedding | EMBEDDING_TYPE、BAILIAN_API_KEY、BAILIAN_MODEL |
| ASR | ASR_TYPE、DASHSCOPE_API_KEY 或阿里云 ASR AK/SK |
| S3 | S3_AK_ID、S3_AK_SECRET、S3_BUCKET、S3_ENDPOINT |
| AI 视频 | NEWAPI_VIDEO_BASE_URL、NEWAPI_VIDEO_API_KEY、NEWAPI_VIDEO_MODEL |
| Remotion | TEMPLATE_VIDEO_*、REMOTION_CONCURRENCY |
node scripts/test-deployment-contract.mjs
cd ai-frontend/dashboard
node scripts/test-input-guidance.mjs
npm run build如果修改 Remotion 或 AI 视频服务,也应分别运行对应服务的 TypeScript 构建或测试脚本。
- 只建议公网暴露 Nginx,后端服务端口保持 Docker 内网访问。
.env.production、API Key、S3 AK/SK 等密钥不得提交到仓库。- 上传文件、Qdrant 数据、生成视频输出通过 Docker volume 持久化。
- Nginx 限制上传体积为
512M,后端按允许的图片、视频、音频扩展名处理文件。 - AI 输出是创作方案和建议,最终内容需要用户确认后再进入生成链路。
- 可直接访问的素材文件链接可按文件资源尝试处理,但不承诺平台直链解析、登录态解析或第三方内容抓取。
| 赛题能力 | 项目实现 |
|---|---|
| 样例视频输入与解析 | 本地视频上传、关键帧、音频、基础信息分析 |
| 结构拆解 | 脚本结构、节奏结构、包装结构 |
| 新内容与素材输入 | 文本、图片、视频素材和产品信息 |
| 结构迁移与结果生成 | 多版本迁移方案、分段脚本、时间线和包装建议 |
| 素材缺口识别与补全 | 槽位化缺口分析、补全版迁移草稿 |
| 可视化与可验证 | 对话流、右侧产物栏、结构/素材/方案展示、视频任务状态 |
| 进阶能力 | 包装建议、多版本、自然语言编辑、Remotion 模板快剪 |
给评委阅读的项目说明见 docs/project-explanation-for-judges.md,其中包含赛题要求的整体 AI 架构、工具协议和安全边界。