Pusaモデル:Mochiをファインチューニングしたオープンソース動画拡散モデル、テキスト・画像・動画to動画に対応 52

小编 ·

Pusaモデル:Mochiをファインチューニングしたオープンソース動画拡散モデル、テキスト・画像・動画to動画に対応

Pusaは、Raphael Liu氏が2025年4月に公開した新しいAI動画生成モデルです。最大の特徴は、フレーム単位のノイズ制御による新しい拡散パラダイムが、動画拡散における時間モデリングを再定義する点にあります。テキスト・画像・動画to動画の多様な生成タスクに対応し、低コストで高性能、動きの忠実度とプロンプトへの追従性を維持します。

Pusaモデル:Mochiをファインチューニングしたオープンソース動画拡散モデル、テキスト・画像・動画to動画に対応

Pusaとは?

Pusaは、Raphael Liuが2025年4月に公開した最新のAI動画生成モデルです。その中核的なイノベーションは、フレームレベルのノイズ制御による新しい拡散パラダイムを通じて、動画拡散における時間モデリングを再定義する点にあります。Pusaモデルはテキスト、画像、映像から映像への生成など多様なタスクをサポートしており、运动の忠実度とプロンプトへの準拠を維持しながら、低コストで高性能を実現しています。

Pusaモデルの特徴

  • フレームレベルノイズ制御とベクトル化タイムステップ:Pusaはフレームレベルのノイズ制御とベクトル化されたタイムステップを導入しています。このイノベーションは元々FVDM論文で提案されたものです。従来の手法と比較して、Pusaのタイムステップ数は従来の1000から数千へと大幅に増加し、モデルの柔軟性と拡張性が大きく向上しました。このフレームレベルノイズ制御により、Pusaは動画生成プロセスにおいて各フレームの内容をより精细に処理することが可能となり、高品質な動画生成を実現します。

  • 非破壊的な修正:Pusaによるベースモデルへの適応は、既存のテキストから映像への生成能力を保持しています。軽微なファインチューニングのみで、多様な動画生成タスクに適応でき、ベースモデルへの大規模な変更は必要ありません。この非破壊的な修正は、開発時間とコストを節約するだけでなく、モデルの安定性と信頼性も確保します。

  • 汎用的な適用性:Pusaの手法はMochiモデルだけでなく、Hunyuan VideoやWan2.1などの他の主要な動画拡散モデルにも容易に適用できます。

methods_overview.webp

Pusaモデルのアーキテクチャ

  • フレームレベルノイズ制御:Pusaはフレームレベルノイズ制御とベクトル化タイムステップを実現し、類例のない柔軟性と拡張性を提供します。

  • 非破壊的な修正:ベースモデルへの修正は既存のテキストから映像への生成能力を保持し、軽微なファインチューニングのみが必要です。

  • 汎用的な適用性:この手法はHunyuan Video、Wan2.1などの他の主要な動画拡散モデルにも容易に適用できます。

Pusaの利用シーン

  • 映画・テレビの特殊効果制作、広告クリエイティブ生成、パーソナライズされた動画コンテンツ制作に適しています。

  • マルチモーダル入力(テキスト+画像など)と組み合わせることで複雑なシーンシミュレーションを実現し、動画生成の柔軟性を向上させます。

Pusaのインストールと使い方

インストール:

git clone https://github.com/genmoai/models
cd models
pip install uv
uv venv .venv
source .venv/bin/activate
uv pip install setuptools
uv pip install -e . --no-build-isolation

Flash Attentionをインストールする場合は、以下のコマンドを使用できます:

uv pip install -e .[flash] --no-build-isolation

重みのダウンロード:

  • Hugging Face CLIを使用する場合:

pip install huggingface_hub
huggingface-cli download RaphaelLiu/Pusa-V0.5 --local-dir

またはHugging Faceから直接ローカルにダウンロードすることもできます。

基本的な使用方法:

  • テキストから映像生成:

python ./demos/cli_test_ti2v_release.py \
  --model_dir "/path/to/Pusa-V0.5" \
  --dit_path "/path/to/Pusa-V0.5/pusa_v0_dit.safetensors" \
  --prompt "A man is playing basketball" \
  --num_steps 30
  • 画像から映像生成:

python ./demos/cli_test_ti2v_release.py \
  --model_dir "/path/to/Pusa-V0.5" \
  --dit_path "/path/to/Pusa-V0.5/pusa_v0_dit.safetensors" \
  --prompt "Your_prompt_here" \
  --image_dir "/path/to/input/image.jpg" \
  --cond_position 1 \
  --num_steps 30

トレーニング:

完全なPusaトレーニングコードと詳細情報が提供されており、オリジナルモデルのトレーニングをサポートします。

コードリポジトリ:https://github.com/Yaofang-Liu/Pusa-VidGen

HuggingFace:https://huggingface.co/RaphaelLiu/Pusa-V0.5