ScoreFlow: método automatizado de generación y optimización de flujos de trabajo multiagente 195

小编 · 2025-03-26

ScoreFlow es un método automatizado de generación y optimización de flujos de trabajo multiagente. Mediante optimización basada en gradientes en espacio continuo combinada con Score-DPO, refina iterativamente los procesos colaborativos para mejorar el rendimiento del modelo. Supera a los métodos existentes en benchmarks de QA, programación y razonamiento matemático, y permite que modelos pequeños superen a los grandes con un menor coste de inferencia. Desarrollado por equipos de las universidades de Chicago, Princeton y Oxford.

ScoreFlow: método automatizado de generación y optimización de flujos de trabajo multiagente

¿Qué es ScoreFlow?

ScoreFlow es un método automatizado de generación y optimización de flujos de trabajo multiagente que, mediante técnicas de optimización basadas en gradientes en espacio continuo combinadas con Score-DPO, mejora continuamente los flujos de trabajo colaborativos para elevar el rendimiento del modelo. Supera a los métodos existentes en múltiples pruebas de referencia, como respuesta a preguntas, programación y razonamiento matemático, y permite que modelos pequeños superen a modelos grandes con un menor coste de inferencia. ScoreFlow ha sido creado por equipos de la Universidad de Chicago, la Universidad de Oxford y la Universidad de Princeton.

Características de ScoreFlow

Optimización eficiente: utiliza técnicas de optimización basada en gradientes en espacio continuo para mejorar el rendimiento del modelo.
Optimización por preferencias: integra Score-DPO, una variante del método de optimización directa por preferencias que tiene en cuenta la retroalimentación cuantitativa para optimizar las salidas del modelo.
Ventaja de los modelos pequeños: ayuda a que los modelos pequeños superen a los grandes en rendimiento, reduciendo el coste de inferencia.
Soporte multi-tarea: cubre diversos escenarios de aplicación como respuesta a preguntas, programación y razonamiento matemático.

Resultados experimentales

En seis pruebas de referencia diferentes (incluidas respuesta a preguntas, codificación y razonamiento matemático), ScoreFlow logra una mejora del 8,2 % en comparación con las líneas base existentes.
ScoreFlow también permite que modelos más pequeños superen a modelos más grandes con un menor coste de inferencia.

ScoreFlow: un método automatizado de generación y optimización de flujos de trabajo multiagente.webp

Escenarios de aplicación de ScoreFlow

Sistemas de preguntas y respuestas: mejora la precisión y eficiencia de los modelos de QA.
Asistencia en programación: optimiza los modelos de generación de código para aumentar la eficiencia en programación.
Razonamiento matemático: mejora el rendimiento del modelo en la resolución de problemas matemáticos.
Colaboración multiagente: optimiza los flujos de trabajo multiagente para mejorar la eficiencia global de las tareas.

Cómo usar ScoreFlow

Requisitos de hardware: se necesitan 80-90 GB de memoria de vídeo.

Configuración del entorno:

Crear un nuevo entorno virtual con conda e instalar las dependencias necesarias.
Descargar el conjunto de datos y descomprimirlo en el directorio del proyecto.

Proceso de optimización:

Mejorar el rendimiento de forma gradual mediante la optimización iterativa del modelo.
Utilizar los scripts generate.py y evaluate.py para llevar a cabo la optimización.
Es posible ajustar el proceso de optimización aumentando el número de iteraciones.

Inferencia: