ScoreFlow：マルチエージェントワークフローの自動生成と最適化手法 201

ScoreFlowとは？

ScoreFlowは、自動化されたマルチエージェントワークフローの生成と最適化手法であり、勾配ベースの連続空間最適化技術に基づき、Score-DPOと組み合わせることで、協調フローを継続的に改善し、モデル性能を向上させます。質問応答、コーディング、数学的推論など複数のベンチマークテストにおいて、既存の手法を上回る性能を発揮し、小規模モデルがより低い推論コストで大規模モデルを上回ることを可能にします。ScoreFlowは、芝加哥大学（シカゴ大学）、普林斯顿大学（プリンストン大学）、牛津大学のチームによって開発されました。

ScoreFlowの機能と特徴

• 効率的な最適化：連続空間の勾配最適化技術を利用して、モデル性能を向上させます。

• 選好最適化：Score-DPOを組み合わせ、Score-DPOを統合しています。これは直接選好最適化手法の変種であり、定量的フィードバックを考慮してモデル出力を最適化します。

• 小規模モデルの優位性：小規模モデルが大規模モデルを上回る性能を発揮できるよう支援し、推論コストを削減します。

• マルチタスクサポート：質問応答、コーディング、数学的推論など、さまざまなアプリケーションシナリオをカバーします。

実験結果

• 質問応答、コーディング、数学的推論を含む6つの異なるベンチマークテストにおいて、ScoreFlowは既存ベースラインと比較して8.2%の改善を実現しました。

• ScoreFlowはまた、低い推論コストで、小規模モデルが大型モデルを上回ることを可能にします。

ScoreFlowの応用シナリオ

• 質問応答システム：質問応答モデルの正確性と効率を向上させます。

• コーディング支援：コード生成モデルを最適化し、プログラミング効率を向上させます。

• 数学的推論：数学的問題解決におけるモデルのパフォーマンスを強化します。

• マルチエージェントコラボレーション：マルチエージェントワークフローを最適化し、タスク全体の効率を向上させます。

ScoreFlowの使用方法

ハードウェア準備：80〜90GBのビデオメモリが必要です。

環境設定：

• conda を使用して新しい仮想環境を作成し、必要な依存関係をインストールします。

• データセットをダウンロードし、プロジェクトディレクトリに展開します。

最適化プロセス：

• モデルを反復的に最適化し、性能を徐々に向上させます。

• generate.py と evaluate.py スクリプトを使用して最適化を行います。

• 反復回数を増やすことで最適化プロセスを調整することができます。

推論：

• テストセットで推論を実行し、モデルの最終的な性能を評価します。

Githubプロジェクト：https://github.com/Gen-Verse/ScoreFlow