ZeroSearch: un innovador framework de motor de búsqueda para LLM de código abierto de Alibaba 67

El 8 de mayo de 2025, Alibaba hizo de código abierto ZeroSearch, un motor de búsqueda para modelos de lenguaje grandes (LLM). ZeroSearch es un marco innovador de motor de búsqueda para LLM de código abierto desarrollado por el laboratorio Tongyi de Alibaba. En esencia, se trata de un marco único de aprendizaje por refuerzo que no requiere interacción con motores de búsqueda reales en el sentido tradicional y, aun así, es capaz de estimular plenamente la capacidad de búsqueda latente del propio modelo de lenguaje grande.

Funciones principales de ZeroSearch

• Sin interacción con motores de búsqueda reales: simula la forma de un motor de búsqueda para estimular la capacidad de búsqueda del LLM, evitando la interacción con motores de búsqueda reales (como Google), lo que reduce costes e incertidumbre.

• Control dinámico de la calidad de los documentos: admite la generación de documentos relevantes o ruidosos. Mediante el ajuste de palabras clave en las instrucciones, permite controlar de forma flexible la calidad de los documentos generados, ofreciendo escenarios de recuperación diversificados para el entrenamiento.

• Soporte para múltiples modelos y algoritmos: es compatible con LLM de distintos parámetros (como 3B, 7B, 14B) y admite diversos algoritmos de aprendizaje por refuerzo (como PPO, GRPO).

Tecnología principal de ZeroSearch

• Sin interacción con motores de búsqueda reales: ZeroSearch, mediante un marco de aprendizaje por refuerzo,激发 la capacidad de búsqueda del LLM sin necesidad de interactuar con motores de búsqueda reales como Google. Se basa en el conocimiento acumulado por el LLM durante el preentrenamiento a gran escala y lo transforma en un módulo de recuperación que genera contenido relevante a partir de las consultas.

• Control dinámico de la calidad de los documentos: el marco puede controlar dinámicamente la calidad de los documentos generados y admite la generación de documentos relevantes o ruidosos, ofreciendo escenarios de recuperación diversificados para el entrenamiento. Mediante el ajuste de palabras clave en las plantillas de instrucciones, guía al modelo para aprender una recuperación con niveles de calidad diferenciados.

• Ajuste fino supervisado ligero: primero transforma el modelo de lenguaje grande en un módulo de recuperación, permitiéndole generar documentos de alta o baja calidad para adaptarse a distintas necesidades de entrenamiento.

• Mecanismo de aprendizaje curricular: durante el entrenamiento se incrementa gradualmente el nivel de ruido de los documentos, lo que permite al modelo comenzar con escenarios sencillos y adaptarse progresivamente a tareas más complejas, mejorando su capacidad de razonamiento.

• Mecanismo de recompensa basado en la puntuación F1: utiliza la puntuación F1 como señal de recompensa, centrándose en la precisión de la respuesta.

• Plantilla de interacción multiturbo: diseña fases explícitas de razonamiento, búsqueda y respuesta para guiar al modelo a completar la tarea paso a paso.

Ventajas en rendimiento y coste

• Rendimiento: los investigadores realizaron pruebas en siete conjuntos de datos de preguntas y respuestas, entre ellos NQ y TriviaQA. El modelo con ajuste fino supervisado de 7.000 millones de parámetros alcanzó una capacidad de búsqueda de 33,06, y el modelo de 14.000 millones de parámetros alcanzó 33,97, superando los 32,47 de la búsqueda de Google.

• Rentabilidad: entrenar con el buscador de Google realizando aproximadamente 64.000 consultas de búsqueda cuesta alrededor de 586,70 dólares, mientras que simular el entrenamiento con un LLM de 14.000 millones de parámetros en cuatro GPU A100 cuesta solo 70,80 dólares, lo que supone una reducción de costes superior al 80%.

Escenarios de aplicación de ZeroSearch

• Sistemas de preguntas y respuestas inteligentes: permite responder de forma rápida y precisa a las preguntas de los usuarios, siendo adecuado para escenarios como atención al cliente inteligente y asistentes inteligentes.

• Gestión del conocimiento interno en empresas: las empresas pueden aprovechar ZeroSearch para crear una plataforma eficiente de búsqueda de conocimiento, permitiendo a los empleados localizar rápidamente la información que necesitan y mejorando la eficiencia en el trabajo.

Direcciones del proyecto

Sitio web oficial del proyecto:https://alibaba-nlp.github.io/ZeroSearch/

Repositorio en GitHub:https://github.com/Alibaba-nlp/ZeroSearch

Colección de modelos en HuggingFace:https://huggingface.co/collections/sunhaonlp/zerosearch

Artículo técnico en arXiv:https://arxiv.org/pdf/2505.04588