LumenX Studio: AlibabaオープンソースのAIショートドラマ総合制作プラットフォーム

LumenX Studio: AlibabaオープンソースのAIショートドラマ総合制作プラットフォーム 197

Alibabaがオープンソース化した、ショートアニメドラマ向けAI総合制作プラットフォーム。小説テキストを動的動画に変換し、脚本分析・キャラクター設定・絵コンテ制作から動画合成まで、制作工程を一気通貫でカバーします。

#Ai工具箱 #Ai开源项目

LumenX Studio: AlibabaオープンソースのAIショートドラマ総合制作プラットフォーム紹介

LumenX Studio 紹介

LumenX Studio は、Alibaba がオープンソース化した ai 短編コミック動画制作プラットフォームで、StarLotus(星蓮)が主導して開発・保守を行っています。小説のテキストを動的な動画に変換でき、脚本分析、キャラクターカスタマイズ、絵コンテ作成から動画合成までの完全な制作チェーンをカバーしています。ローカルデプロイに対応し、MIT ライセンスでオープンソース化されています。

LumenX Studioのインターフェーススクリーンショット

LumenX Studioのインターフェーススクリーンショット

コア機能

  • 脚本分析:LLM に基づき、キャラクター、シーン、小道具を自動で抽出し、プロフェッショナルな絵コンテスクリプトを生成

  • アートディレクション:カスタム視覚スタイルをサポートし、作品全体の画風を統一

  • ビジュアル絵コンテ:ドラッグ&ドロップ式の絵コンテエディタで、人物、背景、エフェクトを WYSIWYG で組み合わせ

  • マルチモーダル生成:Tongyi Wanx(通義万相)などのモデルを統合し、テキストから画像生成、画像から動画生成をサポート

  • スマートオーディオビジュアル合成:キャラクターのナレーション(TTS)、効果音(SFX)を自動生成し、最終動画を合成

LumenX Studio 完全制作チェーン

プラットフォームは以下の完全なプロセスを統合しています:

アセット抽出 → スタイル設定 → アセット生成 → 絵コンテスクリプト構築 → 絵コンテ画像生成 → 絵コンテ動画生成

具体的なプロセス:

  1. 脚本編集とエンティティ抽出:左側の脚本エディタで「实体を抽出」をクリックし、Qwen-Plus がキャラクター、シーン、小道具を自動で抽出

  2. スタイル設定:Qwen-Plus で脚本に適したスタイルを分析、またはプリセットスタイル(正方向/負方向のプロンプトで構成)を使用

  3. アセット生成:キャラクターには背景なしの全身図、三面図、肖像クローズアップを生成;シーンと小道具には参考画像または参考動画を生成

  4. 絵コンテ画像ストーリーボード:スクリプトから絵コンテスクリプトを抽出し、二次編集をサポート、AI プロンプトによる修飾も可能

  5. 絵コンテ動画生成:ファーストフレーム駆動(i2v)とキャラクター動作駆動(r2v)の2つのモードをサポート、複数 Batch のガチャに対応

  6. 絵コンテ動画連結:最適な絵コンテ動画を審査・選択し、ワンクリックで本編に連結

LumenX Studio 技術アーキテクチャ

  • フロントエンド:Next.js 14 + React 18 + TypeScript + Tailwind CSS

  • バックエンド:FastAPI + Python 3.11+

  • AI コア:Alibaba Cloud Qwen(論理)+ Wanx(視覚)

  • レンダリング:Three.js(Canvas)+ FFmpeg(動画処理)

モデル連携と実行モード

モデル連携のワークフローを内蔵し、新規モデルの連携、バージョン更新、パラメータ調整をサポート。ローカルファースト(local-first)のメディア保存ロジックを採用。4つの実行モードをサポート:

  • DashScope-only(OSS なし)

  • DashScope + OSS

  • DashScope + Kling 本家

  • DashScope + Vidu 本家

LumenX Studioのインターフェーススクリーンショット

LumenX Studio vs Toonflow vs 火宝短劇

比較項目LumenX StudioToonflow火宝短劇 (Drama)
開発元Alibaba / StarLotus(星蓮)HBAI-Ltdchatfire-AI
GitHubalibaba/lumenxHBAI-Ltd/Toonflow-appchatfire-AI/huobao-drama
コアポジショニングAI 短編コミック動画ワンストップ制作プラットフォーム短編動画制作向け AI ワークベンチフルスタック AI 短編動画自動制作プラットフォーム
技術スタックNext.js + FastAPI + Python + Qwen/WanxNode.js + Express + ElectronGo + Vue3 + Gin
オープンソースライセンスMITApache-2.0オープンソース
コアワークフローアセット抽出 → スタイル設定 → アセット生成 → 絵コンテスクリプト → 絵コンテ画像 → 絵コンテ動画企画 → 脚本 → 絵コンテ → 動画出力(無限キャンバス)キャラクター生成 → 絵コンテ設計 → 動画生成
キャラクター一貫性背景なし全身図、三面図、肖像クローズ執筆をアセットとしてロック章イベントグラフ + 永続化 Agent メモリAI 絵画で統一スタイルのキャラクター画像を生成
脚本/絵コンテ処理LLM による自動エンティティ抽出 + ビジュアルドラッグ式絵コンテエディタ3層 Agent 協働(意思決定/実行/監督)+ イベントグラフ駆動スマート絵コンテ設計(シーン記述、カメラ設計、関連画像)
動画生成ファーストフレーム駆動(i2v) + キャラクター動作駆動(r2v)、複数 Batch ガチャ対応GPT-4o、Sora、Doubao 動画、Nano Banana Pro などに連携テキストから動画生成 + 画像から動画生成
オーディオ処理TTS ナレーション + SFX 効果音を自動生成未明記未明記
デプロイ方法ローカルデプロイ(フロントエンド3008/バックエンド8000)、Docker サポートWindows/Linux/macOS インストーラー、Docker、クラウドDocker Compose(推奨)、開発モード、従来型デプロイ
デプロイ難易度中低低
特徴的な亮点ローカルファーストのメディア保存;リポジトリレベルのモデル連携;DashScope/Kling/Vidu のマルチモード選択可能無限キャンバス制作ワークベンチ;プログラミング可能なプロバイダシステム;Skill ファイル化設定;100話バッチ制作DDD ドメイン駆動アーキテクチャ;一言で短編動画を生成;素材ライブラリ + タスク追跡
適用シナリオAlibaba エコシステムユーザー、複数モデルの柔軟な切り替えが必要なケース、ローカルファースト保存バッチ小説推し動画d>クイックスタート、フルスタック自動化、国内対応の軽量デプロイ

オープンソース情報

GitHub リポジトリ:https://github.com/alibaba/lumenx

ライセンス:MIT License

開発ポート:フロントエンドはデフォルトで 3008、バックエンドは 8000

連絡先:GitHub Issues / Discussions、メール [email protected]

関連情報:

AI短編ドラマ創作プラットフォーム

AI漫画ドラマ制作ツール

AI漫画ドラマの制作フローとツール完全解説

LumenX Studio: AlibabaオープンソースのAIショートドラマ総合制作プラットフォーム に関連するツール