TripoSG:単一画像から高精細な3Dモデルを生成するツール 141

小编 ·

TripoSG:単一画像から高精細な3Dモデルを生成するツール

TripoSGは、VAST-ai-Researchチームによって開発されたオープンソースの高精細な3D形状合成技術です。大規模な修正フローアーキテクチャとMixture-of-Experts Transformer設計に基づき、単一の入力画像から高精細な3Dモデルを生成できます。

TripoSG:単一画像から高精細な3Dモデルを生成するツール

TripoSGとは?

TripoSGは、VAST-ai-Researchチームが開発したオープンソースの高忠実度3D形状合成技術であり、大規模修正フローアーキテクチャと混合エキスパートTransformer設計に基づき、単一の入力画像から高精細な3Dモデルを生成することができます。

TripoSGとは?.webp

TripoSGの主な機能

  • 高忠実度生成:生成された3Dメッシュは、シャープな幾何学的特徴、精細な表面ディテール、複雑な構造を備えています。

  • セマンティック一貫性:生成された形状は、入力画像のセマンティクスと外観を正確に反映します。

  • 強力な汎化能力:フォトリアリスティック画像、カートゥーン、スケッチなど、さまざまな入力スタイルを処理できます。

  • 堅牢なパフォーマンス:複雑なトポロジー構造を持つ難易度の高い入力に対しても、一貫性のある形状を作成できます。

TripoSGの技術原理

  • 大規模修正フロートランスフォーマー:TripoSGは、修正フロー(Rectified Flow, RF)に基づくTransformerアーキテクチャを3D形状生成に初めて適用しました。従来の拡散モデルと比較して、RFはノイズからデータへのより簡潔な線形パスモデリングを提供し、より安定かつ効率的なトレーニングの実現に役立ちます。

  • 混合監視トレーニング戦略:符号距離関数(SDF)、法線、Eikonal損失を組み合わせることで、3D変分オートエンコーダ(VAE)の再構築性能を大幅に向上させます。

  • 高品質データ処理パイプライン:品質スコアリング、データフィルタリング、修復と拡張、SDFデータ生成などの环节を含む、完善されたデータ構築と管理パイプラインを開発しました。このパイプラインを通じて、200万組の高品質な「画像-SDF」トレーニングサンプルペアを含むデータセットを構築しました。

  • 高効率VAEアーキテクチャ:SDFを使用して幾何学的表現を行うことで、従来一般的に使用されていたボクセル占有グリッドと比較して、より高い精度を実現します。

  • MoE Transformerモデル:TripoSGは、3D分野で最初に発表されたMoE Transformerモデルです。

TripoSGの応用シナリオ

  • ゲーム・映画:ゲームアセットや3Dエフェクト要素を迅速に生成し、開発サイクルを短縮します。

  • 産業・Eコマース:スケッチや実物の写真を3Dモデルに変換し、製品のプレビューやバーチャル展示に使用します。

  • 教育・文化遺産:インタラクティブな教育モデルやデジタル化された文化財を作成し、3Dコンテンツ制作のハードルを下げます。

TripoSGの使用チュートリアル

1. インストール:

  • リポジトリをクローンしてconda環境を作成します:

git clone https://github.com/VAST-AI-Research/TripoSG.git
cd TripoSG
conda create -n tripoSG python=3.10
conda activate tripoSG
  • 依存関係をインストールします:

pip install torch torchvision --index-url https://download.pytorch.org/whl/{your-cuda-version}
pip install -r requirements.txt

2. クイックスタート:画像から3Dメッシュを生成します:

python scripts/inference_triposg.py --image-input assets/example_data/hjswed.png

関連リンク

プロジェクトホームページ:https://yg256li.github.io/TripoSG-Page/

GitHubソースコード:https://github.com/VAST-AI-Research/TripoSG

Hugging Faceモデル:https://huggingface.co/VAST-AI/TripoSG

Hugging Faceデモ:https://huggingface.co/spaces/VAST-AI/TripoSG

論文:https://arxiv.org/abs/2502.06608