HunyuanCustom:Tencent Hunyuanがオープンソースで公開した新しいマルチモーダルカスタマイズ動画生成ツール 62

小编 ·

HunyuanCustom:Tencent Hunyuanがオープンソースで公開した新しいマルチモーダルカスタマイズ動画生成ツール

HunyuanCustomは、Tencent Hunyuanが提供・オープンソース化した、マルチモーダル駆動型のカスタマイズ動画生成フレームワークです。特定の主題を持つ動画を生成でき、テキスト、画像、音声、動画など多様な入力条件をサポートします。

HunyuanCustom:Tencent Hunyuanがオープンソースで公開した新しいマルチモーダルカスタマイズ動画生成ツール

HunyuanCustomとは?

HunyuanCustomは、Tencent Hunyuanがオープンソースとして公開した、マルチモーダル駆動によるカスタマイズ動画生成フレームワークです。特定のテーマを持つ動画を生成できるほか、テキスト、画像、音声、動画などさまざまな入力条件をサポートしています。

HunyuanCustom:腾讯混元推出并开源的全新的多模态定制化视频生成工具.webp

HunyuanCustomのモデルアーキテクチャ

  • HunyuanVideoベース:HunyuanCustomはHunyuanVideoをベースに構築されており、特定の主体と一貫性のある動画生成に特化しています。

  • マルチモーダル融合:LLaVAをベースにしたテキスト-画像融合モジュールを導入し、マルチモーダル入力の理解を強化しています。さらに、音声や動画に対する特定の条件注入メカニズムを設計し、マルチモーダル条件下での動画生成を実現しています。

HunyuanCustomの中核機能

  • マルチモーダル入力による動画生成:テキスト、画像、音声、動画などのマルチモーダル入力を融合して動画を生成する能力を備えており、高い制御性と生成品質を有しています。

  • 単一主体の動画生成:ユーザーは対象の人物や物体を含む画像を1枚アップロードし、テキスト説明を1文提供するだけで、画像内の識別情報を認識し、まったく異なる動作、服装、シーンの中で一貫性のある自然な動画コンテンツを生成できます。例えば、人物写真をアップロードし、「彼が犬を散歩させている」と入力すれば、それに応じた動画が生成されます。

  • 複数主体の動画生成:ユーザーが人物の画像と物体の画像をそれぞれ1枚ずつ提供し、テキスト説明を入力することで、2つの主体を要件どおりに動画内に登場させることができます。例えば、人物とポテトチップスの袋の写真を提供し、「プールサイドにいる男性が、ポテトチップスを持って紹介している様子」と入力すれば、対応する動画が生成されます。

  • 単一主体の動画吹き替え:音声駆動(単一主体)モードでは、ユーザーが人物画像をアップロードして音声を付けると、モデルは任意の場景で話したり、歌ったり、その他の音声と映像が同期したパフォーマンスを行う動画を生成でき、デジタルヒューマンのライブ配信、バーチャルカスタマーサービス、教育デモンストレーションなど幅広いシーンに適用できます。

  • 動画の部分編集:動画駆動モードでは、画像内の人物や物体を任意の動画クリップに自然に置き換えたり挿入したりすることができ、クリエイティブな埋め込みやシーン拡張、動画の再構築やコンテンツ強化を簡単に行うことができます。

HunyuanCustomの技術的優位性

  • 高いアイデンティティ一貫性:業界をリードする主体一貫性モデリング能力により、単一人物、非人物体、複数主体インタラクションなどさまざまな場面で、動画全体を通じてアイデンティティ特徴の一貫性と連続性が保たれ、人物の「顔変わり」や物体の「ドリフト」が発生しません。

  • 強力な制御性:テキスト、参照主体画像、音声など複数のモーダル信号からの制御を含む、強力な制御信号追従能力を備えており、ユーザーが求める対象、シーン、動作を良好に生成できます。

  • 高い動画生成品質:Tencent Hunyuanの動画大規模モデルの強力な能力により、人物の細部再現、動作の滑らかさ、光と影のリアリティなど、あらゆる面で業界をリードするレベルに到達しています。

HunyuanCustomの応用シーン

  • 広告シーン:商品の背景を素早く変更したり、モデル衣装をすばやく切り替えることができます。

  • Eコマースおよびカスタマーサービスシーン:低コストで迅速に、デジタルヒューマンによる生き生きとした商品紹介動画や、特定の衣装を着用したデジタルヒューマンのカスタマーサービス動画を作成できます。

  • 映像制作シーン:短編ドラマやショートストーリーの短い動画を効率的に作成できます。

  • 教育・科学普及シーン:音声駆動による解説動画を生成できます。

HunyuanCustomの単一主体生成機能はすでにオープンソース化され、Hunyuan公式サイトで利用できます。ユーザーは「モデルスクエア - 画像から動画へ - 参考による動画生成」から体験できます。その他の機能は5月中に順次オープンソースとして公開される予定です。以下のリンクから関連情報にアクセスできます。

  • 体験ページ:https://hunyuan.tencent.com/modelSquare/home/play?modelId=192

  • プロジェクト公式サイト:https://hunyuancustom.github.io/

  • コード:https://github.com/Tencent/HunyuanCustom

  • 技術レポート:https://arxiv.org/pdf/2505.04512