¿Qué mejoras tiene Gemma 3 respecto a Gemma 2? 193

Hace apenas un momento, Google lanzó Gemma 3, disponible en cuatro tamaños de parámetros: 1B, 4B, 12B y 27B, ¡ejecutable en una sola GPU/TPU! Y Gemma 3, con solo 27B, ha derrotado al modelo DeepSeek 671B, convirtiéndose en el mejor modelo de código abierto solo por detrás de DeepSeek R1. En comparación con Gemma 2, Gemma 3 ha mejorado en los siguientes aspectos:

Capacidades multimodales

Gemma 3 introduce soporte para entradas mixtas de texto, imágenes y vídeos cortos, lo que permite manejar tareas multimodales complejas, como preguntas y respuestas sobre imágenes y análisis de contenido de vídeo. Por su parte, Gemma 2 se centraba principalmente en la capacidad de procesamiento de texto.

Mejoras de rendimiento

Gemma 3 es conocido como "el modelo de un solo acelerador más potente del mundo", con un rendimiento significativamente superior al de Gemma 2 en entornos de una sola GPU o TPU, y su velocidad de inferencia aumenta un 47 % al procesar contenidos de vídeo cortos.

Soporte de idiomas mejorado

Gemma 3 admite el preentrenamiento en más de 140 idiomas y ofrece soporte directo para más de 35 idiomas. En comparación, la cobertura de idiomas de Gemma 2 es más limitada.

Ventana de contexto ampliada

La ventana de contexto de Gemma 3 se ha ampliado a 128k tokens, lo que permite procesar una cantidad mucho mayor de información, por ejemplo, 30 imágenes de alta resolución o 1 hora de contenido de vídeo. Esto supone una mejora significativa respecto a la ventana de contexto de Gemma 2.

Capacidad de procesamiento visual

Gemma 3 incorpora una técnica dinámica de partición de imágenes y un enfoque combinado de muestreo de fotogramas y análisis de flujo óptico, compatible con imágenes de alta resolución y no cuadradas, capaz de completar la extracción de fotogramas clave de 1 hora de vídeo en 20 segundos. Gemma 2, en cambio, tiene capacidades de procesamiento visual más limitadas.

Seguridad reforzada

Gemma 3 incluye el clasificador de seguridad de imágenes ShieldGemma 2, capaz de detectar y marcar contenidos peligrosos, pornográficos y violentos, lo que aumenta aún más la seguridad del modelo.

Optimización de hardware

Gemma 3 está profundamente optimizado para GPU Nvidia y TPU de Google Cloud, garantizando un funcionamiento eficiente en distintas plataformas de hardware. Además, admite múltiples opciones de despliegue, como Vertex ai, Cloud Run y entornos locales.

Mejoras en entrenamiento y ajuste fino

Gemma 3 emplea técnicas como destilación de conocimiento, aprendizaje por refuerzo (incluyendo feedback humano y de máquinas) y fusión de modelos, mejorando las capacidades del modelo en matemáticas, codificación y seguimiento de instrucciones. Al mismo tiempo, ofrece herramientas de ajuste fino más flexibles, lo que facilita a los desarrolladores personalizarlo según sus necesidades.

Expansión de la comunidad y el ecosistema

El lanzamiento de Gemma 3 enriquece aún más el ecosistema "Gemmaverse", permitiendo a los desarrolladores crear aplicaciones más innovadoras basadas en sus potentes funciones.

En resumen, Gemma 3 ha experimentado mejoras evidentes en procesamiento multimodal, rendimiento, soporte de idiomas, procesamiento visual y seguridad, lo que lo convierte en un potente modelo de IA más adecuado para su implementación y uso en una amplia variedad de dispositivos.