Gemma 3の1B、4B、12B、27B 4つのモデルサイズ別特徴 193

小编 ·

Gemma 3の1B、4B、12B、27B 4つのモデルサイズ別特徴

Gemma 3は1B、4B、12B、27Bの4種類のパラメータサイズでオープンソース化されており、すべて単一のGPUまたはTPUで実行可能です。LMArenaのリーダーボードで、Gemma 3の27Bパラメータバージョンは1339 ELOという高スコアを獲得し、o1-preview、o3-mini high、DeepSeek V3を破り、DeepSeek R1に次ぐ最高のオープンソースモデルとなりました。さらに、Gemma 3シリーズの1B、4B、12B、27

Gemma 3の1B、4B、12B、27B 4つのモデルサイズ別特徴

Gemma 3 は 1B、4B、12B、27B の 4 種類のパラメータバージョンをオープンソースとして公開しており、いずれも単一の GPU または TPU 上で動作します。LMArena アリーナにおいて、Gemma 3 は 27B パラメータバージョンで 1339 という高い ELO スコアを獲得し、o1-preview、o3-mini high、DeepSeek V3 を抑えて、DeepSeek R1 に次ぐ最適なオープンソースモデルとなりました。さらに、Gemma 3 シリーズの 1B、4B、12B、27B バージョンは、それぞれ 2T、4T、12T、14T のトークンデータに基づいて学習されています。

以下にこれら 4 つの異なるサイズモデルそれぞれの特徴を示します:

Gemma 3の1B、4B、12B、27Bの4つの異なるサイズモデルの特徴.webp

1. Gemma 3 - 1B

  • パラメータ規模:10 億パラメータ。

  • 特徴:軽量で、スマートフォンやノートパソコンなどリソースが限られたデバイスでの実行に適しており、指示最適化済みで迅速なデプロイや低消費電力のシナリオに適しています。

2. Gemma 3 - 4B

  • パラメータ規模:40 億パラメータ。

  • 特徴:マルチモーダルタスク(テキスト、画像)において優れた性能を発揮し、より高い精度が求められるシナリオに適しており、高解像度画像処理や複雑なタスクの推論をサポートします。

3. Gemma 3 - 12B

  • パラメータ規模:120 億パラメータ。

  • 特徴:より強力なマルチモーダル処理能力を備え、複雑な画像や動画分析タスクに適しており、指示ファインチューニング(Instruction Fine-Tuning)が施されているため、高精度と複雑なロジックを必要とするアプリケーションに適しています。

4. Gemma 3 - 27B

  • パラメータ規模:270 億パラメータ。

  • 特徴:これは Gemma 3 シリーズ最大のモデルで、性能が最強であり、高性能コンピューティングシナリオに適しています。多くのベンチマークテストで優れた性能を発揮し、 Gemini-1.5-Pro の性能に迫ります。

Gemma 3 の 4 つのサイズモデルは、軽量から高性能までのニーズをカバーしており、開発者は具体的なハードウェア条件和タスクニーズに応じて適切なバージョンを選択できます。