ToonComposer:Tencent推出的AI自動彩色とアニメーション生成ツール

ToonComposer:Tencent推出的AI自動彩色とアニメーション生成ツール 117

Tencent推出的AI自動彩色とアニメーション生成ツール。「中割り」と「彩色」の工程を「原画生成後」の段階に統合することで、アニメーション制作フローを簡素化します。

#Ai工具箱 #Ai开源项目

ToonComposer:Tencent推出的AI自動彩色とアニメーション生成ツール紹介

ToonComposerはテンセントが発表したアニメーション生成ツールで、アニメーション制作における「中割」と「彩色」という2つの工程を「生成後原画」段階に統合し、アニメーション制作フローをよりシンプルにします。

ToonComposer:テンセントが発表したAI自動彩色およびアニメーション生成ツール

ToonComposerの機能特徴

  • 多様な入力方法でアニメーション生成:ToonComposerはテキスト、スケッチ、画像からアニメーションを生成できます。例えば「猫が宇宙服を着て月で蝶を追いかける」と入力すれば、複数のカットを含むアニメーションスクリプトを生成できます。

  • アニメーション細部の自動補完:入力されたキーフレームスケッチとカラーリファレンスフレームに基づき、中間フレームの補完と彩色を自動で行い、最終的に一貫性のあるカートゥーン動画を生成します。

  • スタイル変換とカスタマイズ:20種類以上の一般的なカートゥーンスタイルテンプレートを内蔵し、ワンクリックで切り替え可能で、カスタムスタイルにも対応しています。

  • 動的カット編集:カットカードをドラッグ&ドロップすることで、順序の入れ替え、動作やカメラパラメータの変更が可能になり、直感的な編集を実現します。

  • 領域制御機能:空白領域を指定でき、モデルが画面の他の部分から適切な内容を生成するため、手動での描画作業を削減できます。

技術的優位性

  • スパーススケッチ注入機構:位置エンコーディングマッピングと位置認識残差技術により、スパースなキーフレームスケッチをモデルに正確に統合し、時間に対する精密な制御を実現します。

  • 空間低ランクアダプタ(SLRA):モデルの空間表現を調整してカートゥーンスタイルに適応させると同時に、時間的な一貫性を保持し、生成される動作をより自然にします。

  • 領域制御能力:空白領域を指定でき、モデルがコンテキストに応じて適切な内容を生成するため、手作業による描画量を削減します。

ToonComposerの使用方法

ハードウェアとシステム要件:NVIDIA GPU(VRAM 16GB以上)、Python 3.10、PyTorch 2.6.0が必要です。

インストール手順

git clone https://github.com/TencentARC/ToonComposer
cd ToonComposer
conda create -n tooncomposer python=3.10 -y
conda activate tooncomposer
pip install -r requirements.txt
pip install flash-attn==2.8.0.post2 --no-build-isolation

インターフェースの起動

実行コマンド:python app.py --device cuda:0 --resolution 480p を実行し、ブラウザで http://localhost:7860 を開くと、Gradioインターフェースが表示されます。

インターフェースの操作

  • テキストプロンプト:アニメーションの内容を説明するテキストを入力します。例:「A girl with long hair waves her hand.」

  • カラーリファレンスフレーム:480×480または608×608のカラー画像をアップロードし、通常は0フレーム目に配置します。

  • キーフレーム線画:タイムラインでフレーム番号を選択し、対応する線画をアップロードします。最低1枚が必要です。

  • 領域マスク(オプション):線画に黒いブラシで塗りつぶすと、モデルがその領域の内容を自動生成します。

  • 詳細設定:プロンプト強度(CFG Scale)や線画制御力(Position - aware Residual Scale)を調整できます。

  • アニメーション生成:「Generate」をクリックし、プログレスバーが完了するのを待つと、生成されたアニメーションを再生・ダウンロードできます。

ToonComposerの使用方法

優位性と効果

  • 手作業の削減:アニメーション制作における中割りと彩色工程の手作業の負担を大幅に軽減します。

  • 高品質な生成:複数のテストにおいて、ToonComposerは視覚品質、動作の一貫性、制作効率のいずれにおいても既存手法より優れた性能を発揮します。

  • 高い柔軟性:任意の時点に複数のキーフレーム線画を挿入でき、より精细な動作制御を実現します。

応用シーン

  • アニメーション制作

  • 従来型カートゥーン:中間フレームの迅速な生成と彩色完了により、手作業を削減し、制作効率を向上させます。

  • オンラインおよびライブ配信アニメーション:リアルタイム生成をサポートし、オンラインカートゥーン制作やライブ配信アニメーションのシナリオに適しています。

  • 3Dアニメーション:3Dアニメーション制作における応用の可能性を探ります。

  • 教育分野:生き生きとした教育アニメーションを作成でき、学生が複雑な概念をより直观的に理解するのに役立ちます。

  • マーケティングと広告:アニメーションのクリエイティブコンセプトを迅速に生成でき、広告制作に使用できます。

  • ゲーム開発:ゲーム開発を補助し、キャラクターやシーンアニメーションを迅速に生成してプロトタイプ設計に使用できます。

Github:https://github.com/TencentARC/ToonComposer

ToonComposer:Tencent推出的AI自動彩色とアニメーション生成ツール に関連するツール