CogView4:漢字生成に対応した世界初のオープンソース text-to-image モデル 184

小编 ·

CogView4:漢字生成に対応した世界初のオープンソース text-to-image モデル

CogView4は、Zhipu AIが2025年3月4日に発表したオープンソースのtext-to-image AIモデルで、中国語と英語の両方に対応したプロンプトをサポートする初のオープンソースモデルであり、画像内に漢字を生成できる世界初のオープンソースtext-to-imageモデルでもあります。中国語プロンプトの理解と遵守に特に優れており、広告やショートビデオ作成などに最適です。

CogView4:漢字生成に対応した世界初のオープンソース text-to-image モデル

CogView4とは?

CogView4は、智谱AIが2025年3月4日に発表した、中国語と英語の両方に対応したプロンプトをサポートする初のオープンソースのテキスト-to-ImageAIモデルであり、また世界初の漢字生成に対応したオープンソースのテキスト-to-Imageモデルです。特に中国語のプロンプトの理解と遵守に優れており、画像内に漢字を生成することができるため、広告制作や短動画制作などに非常に適しています。

CogView4-logo.webp

CogView4の主な特徴

  • 中国語と英語の dual-language 入力に対応:CogView4は任意の長さの中国語と英語のプロンプトを処理し、高品質な画像を生成できます。

  • 漢字生成能力:このモデルは漢字を自然に画像に溶け込ませることができ、広告や短編動画などのクリエイティブ分野に特に適しています。

  • 任意解像度の画像生成:512×512から2048×2048の範囲内の任意の解像度の画像生成をサポートします。

  • 強力なセマンティックアライメント能力:DPG-Benchベンチマークテストにおいて、CogView4の総合評価は1位を獲得し、複雑なセマンティックアライメントと指示追従における卓越した性能を示しています。

  • 技術的最適化:2次元回転位置エンコーディング(2D RoPE)と多段階学習戦略を採用しており、基本解像度学習、汎解像度学習、高品質データによるファインチューニング、そして人間の嗜好アライメント学習が含まれます。

  • VRAM最適化と高効率推論:モデルのCPUオフロードやテキストエンコーダーの量子化などの技術により、VRAM使用量を大幅に削減しています。

  • オープンソースとエコシステムサポート:Apache 2.0ライセンスに準拠しており、今後ControlNetやComfyUIなどのエコシステム統合をサポートし、完全なファインチューニングツールキットも提供予定です。

CogView4.webp

CogView4の技術

  • アーキテクチャ:拡散モデルとTransformerアーキテクチャを組み合わせたもので、60億のパラメータを使用しています。

  • テキストエンコーダー:dual-languageのGLM-4エンコーダーを採用し、中国語と英語の両方の画像とテキストのペアで学習されています。

  • VRAM最適化:モデルのCPUオフロードやテキストエンコーダーの量子化などの技術により、VRAM使用量を削減し、推論効率を向上させています。

CogView4の応用シーン

CogView4は、中国語のクリエイティブが必要な分野、例えば広告デザイン、短編動画制作、ポスター制作などに特に適しており、中国語と英語の文字を自然に画面に溶け込ませることができます。

  • 広告クリエイティブ:特定の文字を含むポスターやコピーのビジュアルなどの生成。

  • 短編動画制作:動画のスクリプトやクリエイティブの説明に基づいて、対応する映像の生成。

  • アート制作:アーティストやデザイナーが特定のスタイルや世界観を持つ画像を生成するのを支援します。

  • 教育分野:古詩や文学の世界観を表現した画像など、教育内容に関連する画像の生成。

  • ゲーム開発:ゲームのストーリーやキャラクター設定に基づいて、ゲーム画面やキャラクターイメージの生成。

  • その他のクリエイティブ分野:漫画制作、イラストデザイン、ブランドプロモーションなど。

CogView4の使い方

1. オンライン体験

  • HuggingFace:https://huggingface.co/spaces/THUDM-HF-SPACE/CogView4

  • ModelScope:https://modelscope.cn/models/ZhipuAI/CogView4-6B

2. ローカルデプロイ

ローカルでCogView4を使用する必要がある場合は、以下の手順でデプロイできます。

  • モデルコードの取得:CogView4のGitHubリポジトリにアクセスします。アドレスは:https://github.com/THUDM/CogView4 です。

  • ハードウェア要件:CogView4モデルには高いVRAMが必要で、最低でも12GBのVRAMを備えたGPUの使用を推奨します。

  • 依存関係のインストール:GitHubリポジトリの説明に従って、必要なPythonの依存関係と環境をインストールします。

  • モデルの実行:リポジトリのガイドに従ってモデルを起動し、プロンプトを入力して画像を生成します。

3. モデルのファインチューニング

智谱はCogView4のファインチューニングツールキットを提供することを計画しており、ユーザーは自分のニーズに応じてモデルをカスタマイズして学習させることができます。例えば、特定の広告スタイルやブランドニーズに応じたファインチューニングを行い、よりニーズに合った画像を生成することが可能です。

4. Hugging Face経由での使用

Hugging Faceモデルライブラリのアドレス:https://huggingface.co/THUDM/CogView4-6B。