UniCombineフレームワーク:テキストプロンプト・空間マッピング・主体画像の任意組み合わせ生成に対応 128

小编 ·

UniCombineフレームワーク:テキストプロンプト・空間マッピング・主体画像の任意組み合わせ生成に対応

UniCombineは、復旦大学、Tencent Youtu Labなどが共同で発表した多条件制御可能な生成フレームワークで、Diffusion Transformer(DiT)アーキテクチャに基づき、テキストプロンプト・空間マッピング・主体画像などの任意の制御条件の組み合わせ生成タスクを処理できます。

UniCombineフレームワーク:テキストプロンプト・空間マッピング・主体画像の任意組み合わせ生成に対応

UniCombineとは?

UniCombineは、復旦大学やTencent Youtu Labなどの機関が共同で発表した複数条件制御可能な生成フレームワークで、拡散トランスフォーマー(Diffusion Transformer、DiT)アーキテクチャに基づき、テキストプロンプト、空間マップ、主体画像など任意の制御条件の組み合わせ生成タスクを処理できます。

UniCombineの主要機能

UniCombineは、テキストプロンプト(text prompts)、空間マップ(spatial maps)、主体画像(subject images)に限定されず、任意の条件組み合わせを処理し、生成結果がすべての入力条件と一貫性を保つことを保証します。例えば、以下のタスクを実行できます:

  • 主体挿入(Subject-Insertion):指定した主体を背景画像に挿入します。

  • 主体空間整列(Subject-Spatial):空間マップに基づいて主体のレイアウトを調整します。

  • 複数空間条件生成(Multi-Spatial):複数の空間条件を組み合わせた画像生成を行います。

UniCombineの技術アーキテクチャ

UniCombineのアーキテクチャはMMDiT(Masked Multi-Modal Diffusion Transformer)を基盤とし、以下のメカニズムを導入しています:

  • 条件付きMMDiT注意機構(Conditional MMDiT Attention):複数条件の入力シーケンスを処理し、異なる条件の特徴を効果的に融合します。

  • LoRA切り替えモジュール(LoRA Switching Module):複数の条件分岐を管理し、条件タイプに応じて事前学習済みの条件LoRAモジュールを動的に活性化します。

  • 学習可能なノイズ除去LoRAモジュール(Denoising-LoRA Module):学習バージョンでは、このモジュールを訓練することでさらに性能を向上させます。

UniCombine框架:支持文本提示、空间映射和主体图像的任意组合生成.webp

UniCombineの特徴と優位性

  • 汎用性:任意の条件組み合わせを処理でき、さまざまな生成タスクに適用可能です。

  • 柔軟性:学習不要(training-free)バージョンと学習ベース(training-based)バージョンの2種類を提供します。

  • 高性能:複数条件生成タスクで優れた性能を発揮し、最先端の性能を達成しています。

UniCombineのインストールと使用方法

UniCombineのコードはオープンソース化されており、インストール手順は以下の通りです:

conda create -n unicombine python=3.12
conda activate unicombine
pip install -r requirements.txt

また、diffusersライブラリの制限により、手動でコードを更新する必要があります。

UniCombineの応用シナリオ

  • 商品展示とコピー生成:テキストと主体画像に基づいて、複数スタイルの商品画像とマッチするコピーを生成します。

  • パーソナライズドレコメンド:ユーザーの好みを組み合わせて、カスタマイズされた商品展示ページを生成します。

  • バーチャル試着:ユーザーのバーチャルアバターと組み合わせて試着効果を生成し、ショッピング体験を向上させます。

  • 広告や種草コンテンツ:画像・動画スクリプトなどを生成し、コンテンツの充実度を高めます。

  • マルチモーダル検索:商品特徴を組み合わせて検索結果の精度を最適化します。

GitHubリポジトリ:https://github.com/Xuan-World/UniCombinearXiv 

論文:https://arxiv.org/html/2503.09277v1