ScoreFlow: automatisierte Erzeugung und Optimierung von Multi-Agenten-Workflows 192

小编 · 2025-03-26

ScoreFlow ist eine automatisierte Methode zur Erzeugung und Optimierung von Multi-Agenten-Workflows. Durch gradientenbasierte Optimierung im kontinuierlichen Raum in Kombination mit Score-DPO werden kooperative Prozesse iterativ verfeinert und die Modellleistung gesteigert. Sie übertrifft bestehende Verfahren in QA-, Coding- und Mathe-Reasoning-Benchmarks und ermöglicht kleineren Modellen, größere Modelle zu geringeren Inferenzkosten zu übertreffen. Entwickelt von Teams der University of Chicago, Princeton und Oxford.

ScoreFlow: automatisierte Erzeugung und Optimierung von Multi-Agenten-Workflows

Was ist ScoreFlow?

ScoreFlow ist eine Methode zur automatisierten Generierung und Optimierung von Multi-Agenten-Workflows. Durch gradientenbasierte Optimierung im kontinuierlichen Raum in Kombination mit Score-DPO verbessert es kontinuierlich die kollaborativen Abläufe und steigert so die Modellleistung. In mehreren Benchmarks wie Frage-Antwort-Systemen, Programmierung und mathematischem Schließen übertrifft es bestehende Methoden und ermöglicht es kleineren Modellen, größere Modelle zu geringeren Inferenzkosten zu übertreffen. ScoreFlow wurde von Teams der University of Chicago, der Princeton University und der University of Oxford entwickelt.

Funktionsmerkmale von ScoreFlow

Effiziente Optimierung: Nutzt gradientenbasierte Optimierung im kontinuierlichen Raum, um die Modellleistung zu verbessern.
Präferenzoptimierung: In Kombination mit Score-DPO integriert es Score-DPO, eine Variante der direkten Präferenzoptimierung, die quantitative Rückmeldungen berücksichtigt und die Modellausgaben optimiert.
Vorteile kleinerer Modelle: Hilft kleineren Modellen, größere Modelle in der Leistung zu übertreffen, und senkt die Inferenzkosten.
Unterstützung mehrerer Aufgaben: Deckt verschiedene Anwendungsszenarien ab, darunter Frage-Antwort-Systeme, Programmierung und mathematisches Schließen.

Experimentelle Ergebnisse

In sechs verschiedenen Benchmarks (einschließlich Frage-Antwort-Systemen, Programmierung und mathematischem Schließen) erzielt ScoreFlow im Vergleich zu bestehenden Baselines eine Verbesserung von 8,2 %.
ScoreFlow ermöglicht es außerdem, dass kleinere Modelle größere Modelle zu geringeren Inferenzkosten übertreffen.

ScoreFlow：Eine Methode zur automatisierten Generierung und Optimierung von Multi-Agenten-Workflows.webp

Anwendungsszenarien von ScoreFlow

Frage-Antwort-Systeme: Verbesserung der Genauigkeit und Effizienz von Frage-Antwort-Modellen.
Programmierunterstützung: Optimierung von Codegenerierungsmodellen zur Steigerung der Programmiereffizienz.
Mathematisches Schließen: Verbesserung der Leistung von Modellen beim Lösen mathematischer Probleme.
Multi-Agenten-Kollaboration: Optimierung von Multi-Agenten-Workflows zur Steigerung der Gesamtaufgabeneffizienz.

Verwendung von ScoreFlow

Hardware-Voraussetzungen: Es werden 80–90 GB Grafikspeicher benötigt.

Umgebungseinrichtung:

Erstellen Sie mit conda eine neue virtuelle Umgebung und installieren Sie die erforderlichen Abhängigkeiten.
Laden Sie den Datensatz herunter und entpacken Sie ihn in das Projektverzeichnis.

Optimierungsprozess:

Verbessern Sie die Leistung schrittweise durch iterative Modelloptimierung.
Verwenden Sie die Skripte generate.py und evaluate.py zur Optimierung.
Der Optimierungsprozess kann durch Erhöhen der Anzahl der Iterationen angepasst werden.

Inferenz: