Особенности четырех размеров моделей Gemma 3: 1B, 4B, 12B и 27B 194

小编 · 2025-03-12

Gemma 3 выпущена в открытый доступ в четырех размерах параметров: 1B, 4B, 12B и 27B, все запускаются на одном GPU или TPU. В лидерборде LMArena версия Gemma 3 с 27B параметрами набрала высокие 1339 ELO, обойдя o1-preview, o3-mini high и DeepSeek V3, став лучшей open-source моделью сразу после DeepSeek R1. Кроме того, серия Gemma 3 с 1B, 4B, 12B и 27

Особенности четырех размеров моделей Gemma 3: 1B, 4B, 12B и 27B

Gemma 3 выпущен с открытым исходным кодом в четырёх вариантах по количеству параметров: 1B, 4B, 12B и 27B, все из которых поддерживают работу на одном GPU или TPU. В арене LMArena модель Gemma 3 в версии с 27B параметрами набрала высокий балл 1339 ELO, обойдя o1-preview, o3-mini high и DeepSeek V3, и стала лучшей моделью с открытым исходным кодом после DeepSeek R1. Кроме того, версии Gemma 3 с 1B, 4B, 12B и 27B параметрами были обучены на массивах токенов объёмом 2T, 4T, 12T и 14T соответственно.

Ниже приведены особенности этих 4 моделей разного размера:

Особенности четырёх моделей Gemma 3 разного размера: 1B, 4B, 12B и 27B.webp

1. Gemma 3 - 1B

Количество параметров: 1 миллиард параметров.
Особенности: лёгкая модель, подходящая для работы на устройствах с ограниченными ресурсами, таких как смартфоны или ноутбуки, оптимизирована по инструкциям и подходит для быстрого развёртывания и сценариев с низким энергопотреблением.

2. Gemma 3 - 4B

Количество параметров: 4 миллиарда параметров.
Особенности: отлично справляется с мультимодальными задачами (текст, изображения), подходит для сценариев, требующих более высокой точности, поддерживает обработку изображений в высоком разрешении и логический вывод для сложных задач.

3. Gemma 3 - 12B

Количество параметров: 12 миллиардов параметров.
Особенности: обладает более мощными возможностями мультимодальной обработки, подходит для сложных задач анализа изображений и видео, прошла тонкую настройку по инструкциям (Instruction Fine-Tuning) и подходит для приложений, требующих высокой точности и сложной логики.

4. Gemma 3 - 27B

Количество параметров: 27 миллиардов параметров.
Особенности: это самая крупная модель в серии Gemma 3 с наивысшей производительностью, подходящая для высокопроизводительных вычислительных сценариев; она показывает отличные результаты в ряде бенчмарк-тестов, приближаясь к производительности Gemini-1.5-Pro.

Четыре модели Gemma 3 разного размера охватывают потребности от лёгких до высокопроизводительных, и разработчики могут выбрать подходящую версию в зависимости от конкретных аппаратных условий и требований задачи.