Ascent Creator 🏗️ Demo → 生产部署方案

当前硬件环境分析与 Demo / 生产两阶段部署架构建议

🏠 当前硬件拓扑

  • 云服务器 (82.156.214.59) — 2 vCPU / 2GB RAM / 40GB SSD / 无GPU
    运行：Ascent Creator 前端+后端、论坛、OpenClaw 网关
  • GPU PC (123.58.111.244) — RTX 4090（约4万元配置）
    运行：vLLM + Qwen3-Coder-30B / Qwen3-32B-Int4 大模型推理

✅ 一、Demo 阶段 — RTX 4090 个人PC方案

结论：完全够用 ✅ 当前 4090 PC 做 Demo 绰绰有余

1.1 当前能跑的服务

服务 硬件 状态 Demo 建议
LLM 推理 4090 (24GB) ✅ 已运行 Qwen3-32B-Int4 4bit 量化后约18GB显存，4090完全跑得动
SDXL 生图 4090 (24GB) ✅ 已配端口 SDXL 只需6~8GB，带 ControlNet/LoRA 也绰绰有余
FLUX 生图 4090 (24GB) ✅ 已配端口 FLUX dev fp8 约12GB，4090 可跑
CosyVoice TTS 4090 (24GB) 🟡 待部署 约 4~6GB，与 LLM 同卡需控制显存
Wan2.1 视频 4090 (24GB) ❌ 跑不动 Wan2.1 14B 需约 27GB+，4090 显存不足。Demo阶段继续用 TokenHub 混元
MusicGen 4090 (24GB) 🟡 待部署 Medium 版本约 3~4GB，可以跑
前端+后端服务 云服务器 ✅ 已运行 前端(Flask静态)+后端(Flask API)在云服务器，轻量级

1.2 Demo 架构图

┌─────────────────────────────────────┐
│ 用户浏览器                          │
│  http://82.156.214.59:5000          │
└──────────┬──────────────────────────┘
           │ HTTP/SSE
           ▼
┌─────────────────────────────────────┐
│ 云服务器 (2 vCPU / 2GB RAM)         │
│  ┌───────────┐  ┌─────────────────┐ │
│  │ Flask App │  │ 论坛 (port 5001)│ │
│  │ port 5000 │  │                 │ │
│  │ 前端Vue   │  │ forum.py       │ │
│  │ 后端API   │  │ SQLite          │ │
│  └─────┬─────┘  └─────────────────┘ │
└────────┼────────────────────────────┘
         │ API calls (REST/SSE)
         ▼
┌─────────────────────────────────────┐
│ GPU PC (RTX 4090 — 123.58.111.244)  │
│                                     │
│  ┌──────────┐ ┌──────────┐         │
│  │ vLLM     │ │ SDXL     │         │
│  │ port 3990│ │ port 7860│         │
│  │ Qwen3    │ │          │         │
│  └──────────┘ └──────────┘         │
│  ┌──────────┐ ┌──────────┐         │
│  │ FLUX     │ │ CosyVoice│         │
│  │ port 8188│ │ (待部署)  │         │
│  └──────────┘ └──────────┘         │
│  ┌──────────┐                       │
│  │ MusicGen │                       │
│  │ (待部署)  │                       │
│  └──────────┘                       │
└─────────────────────────────────────┘

🎯 Demo 阶段建议立即部署：
1. SDXL 真实推理（端口已配好 localhost:7860，只需启动 sd-webui）
2. FLUX 真实推理（端口已配好 localhost:8188，只需启动 ComfyUI）
3. CosyVoice 部署（轻量 TTS，显存需求仅 4~6GB）
4. Suno cookie 配置 或 MusicGen 部署（解决音乐工坊问题）

⚠️ Demo 阶段注意事项
• 4090 只有24GB显存，多个模型不能同时部署，需按需切换模型
• 建议优先确保 LLM + SDXL 同时在线，其他按需切
• 视频继续用 TokenHub 混元服务（云端），不占用本地显存
• 图片/音乐/语音生成均为异步任务，单卡串行没问题

❌ 二、生产阶段 — 为什么4090不够

核心瓶颈：

  1. 显存不足（24GB）：一个70B模型中量模型就占满，无法并发处理多个请求
  2. 缺乏冗余：单点故障 — 4090 挂了整个平台瘫痪
  3. 并发极低：1个用户推理时，其他人只能排队
  4. 不支持企业级特性：没有 ECC 显存、没有 NVLink、没有 MIG 分区
  5. 无法扩展：4090 不支持多卡互联，不能组成集群
  6. 功耗不稳定：消费级显卡长时间满载 450W，散热和寿命都是问题

📈 三、生产架构方案

方案 A：单机升级（入门级生产 — 约 15~20 万）

硬件 价格（约） 说明
NVIDIA RTX 6000 Ada (48GB) ~5 万 专业卡，48GB 显存，ECC 支持，可同时跑 LLM+SDXL+语音
服务器主板+CPU+RAM+SSD ~3 万 双路 Xeon / EPYC，128GB RAM，2TB NVMe
机箱/电源/散热/网卡 ~2 万 冗余电源+液冷散热
合计 约 10 万 可跑 70B 模型 + 多工坊同时在线

方案 B：多卡集群（正式生产 — 约 40~60 万）

硬件 价格（约） 说明
NVIDIA A100 (80GB) × 2 ~20 万×2 A100 80GB 为行业标准，支持 MIG 分区
NVSwitch/NVLink ~5 万 卡间高速互联（600GB/s）
服务器整机+其他 ~10 万 双路 EPYC + 256GB + 4TB NVMe RAID
合计 约 55 万 可跑 671B DeepSeek 等超大模型

方案 C：云端GPU（灵活起步 — 按需付费）

云服务 GPU 类型 价格参考 说明
腾讯云 TI-ONE A100/H800 ~30元/小时 A100-80G 单卡，开箱即用
阿里云 PAI A100/4090 ~25元/小时 支持竞价实例，可降70%成本
AutoDL / 矩池云 4090/A5000 ~4~8元/小时 弹性GPU租用，适合初期低成本起步

🏛️ 四、推荐生产架构（方案 A + 云端混合）

┌──────────────────────────────────────────────────────────┐
│ 用户 → CDN → Nginx（SSL+负载均衡）                       │
└────────────────────┬─────────────────────────────────────┘
                     │
┌────────────────────▼─────────────────────────────────────┐
│ 云服务器集群（至少 4C/8G × 2 节点）                      │
│                                                          │
│  ┌────────────┐  ┌────────────┐  ┌────────────────┐    │
│  │ Ascent API │  │ 论坛/社区  │  │ Redis 缓存     │    │
│  │ (Flask)    │  │ (Flask)    │  │ + Celery 队列  │    │
│  └─────┬──────┘  └────────────┘  └────────────────┘    │
└────────┼────────────────────────────────────────────────┘
         │
         ├───────────────────────────────────────┐
         │ 内网                                   │
         ▼                                       ▼
┌─────────────────┐                ┌──────────────────────┐
│ GPU 推理服务器    │                │ 云 GPU（弹性扩缩容）  │
│ (RTX6000/4090)   │                │ (A100/H800)          │
│                  │                │                      │
│ LLM + SDXL + TTS │                │ 视频生成（Wan2.1）   │
│ 图片 + 语音      │                │ 超大模型推理         │
│ 每日运行          │                │ 按需启动（节省成本）  │
└─────────────────┘                └──────────────────────┘

🎯 五、给团队的阶段建议

📆 第 1 阶段：Demo 完善（现在~2周）

  • 杨柳和我（虾虾）负责：完善各工坊前端逻辑 + 图片/语音/音乐后端
  • 4090 PC 上启动 SDXL + FLUX + CosyVoice
  • 目标：一个完整的工作 Demo，所有工坊能跑通

📆 第 2 阶段：生产规划（Demo完成后）

  • 评估用户量、并发需求 → 确定 GPU 配置
  • 方案推荐：先用云端 GPU（AutoDL/腾讯云）弹性起步，降低初期投入
  • 同时规划本地服务器采购（RTX6000 Ada 或 A100）

📆 第 3 阶段：上线部署（规划确认后~2周）

  • Docker 容器化 + CI/CD
  • Nginx 反向代理 + SSL + 域名
  • 云服务器扩容 + 数据库迁移
  • GPU 集群部署 + 模型网关

🔑 关键结论

✅ Demo：RTX 4090（4万）+ 云服务器（100元/月）= 完全够用
🟡 生产入门：RTX 6000 Ada 单卡（~10万 整机）或 云端GPU弹性
🔴 生产标准：双卡 A100 服务器（~55万）+ 冗余云服务器

💡 最经济路径：Demo 用现成 4090 → 上线先用云端 GPU（~5元/小时） → 业务量起来后再采购自有服务器