脚本プランナー▸ 
AIアプリ 
AIニュース EasyEdit2：浙江大学チームが開発したリアルタイムLLMステアリングフレームワーク
小编 ·
EasyEdit2：浙江大学チームが開発したリアルタイムLLMステアリングフレームワーク
EasyEdit2とは？
EasyEdit2は、浙江大学チームが開発した使いやすいLLM編集誘導フレームワークです。EasyEditとは異なり、推論時に大規模言語モデルをリアルタイムで誘導することができ、プラグ可能な誘導ベクトルによりテスト時の制御を実現し、トレーニングを必要とせず、調整可能性と組み合わせ可能性を備えています。安全性、感情、パーソナリティなどさまざまなシーンに適用できます。そのアーキテクチャはデータセット、方法、ベクトルライブラリ、評価モジュールの4つのコアコンポーネントで構成され、使用時にはトレーニングデータの準備、誘導ベクトルの生成、モデルへの適用、結果の検証という4つのステップで操作します。
機能特徴
リアルタイム制御：EasyEdit2は、プラグ可能な操縦ベクトルにより、モデル推論段階でリアルタイムかつトレーニング不要の制御を実現します。
プラグアンドプレイ：ユーザーはモデルの重みを変更する必要なく、操縦方法をシームレスに適用または削除できます。
使いやすさ：ユーザーは深い技術的背景を必要とせず、わずか1つの例でモデルの応答を効果的に誘導・調整できます。
調整可能性と組み合わせ可能性：ユーザーは介入の強度と方向を正確に調整でき、複数の操縦技術を組み合わせて、きめ細かい制御を実現できます。
多様な応用シーン：安全性、感情的傾向、パーソナリティ特性、推論モード、事実の正確性、言語特性など、複数のテスト時介入機能をサポートします。
コアモジュール
操縦ベクトルジェネレーター（Steering Vector Generator）：モデルの挙動に影響を与えるための操縦ベクトルを自動生成します。
操縦ベクトルアプライヤー（Steering Vector Applier）：生成された操縦ベクトルをモデルに適用し、モデルの挙動調整を実現します。
応用シーン
安全性：ジェイルブレイク攻撃への防御、社会的偏見の軽減、プライバシー漏洩リスクの低減。
感情的傾向：モデル出力の感情を否定的から肯定的に制御します。
パーソナリティ特性：モデルのパーソナリティをカスタマイズします。
推論モード：推論プロセスに介入し、過度な思考を防止します。
事実の正確性：モデル知識を更新し、知識の時効性を維持します。
言語特性：特定のニーズに合わせて言語スタイルをカスタマイズします。
使用方法
トレーニングデータを準備します。例えば、トレーニングデータセットや生成データセットを定義します。
BaseVectorGeneratorを使用して誘導ベクトルを生成します。
BaseVectorApplierを介してベクトルをモデルに適用し、誘導後の出力を生成します。
誘導後のモデル出力結果を検証し、使用後はモデルをリセットできます。
よくある質問
問：EasyEdit2とEasyEditの主な違いは何ですか？
答：EasyEditは内部パラメータの更新や追加パラメータの導入によって知識編集を実現しますが、EasyEdit2は推論時に大規模言語モデルをリアルタイムで誘導でき、再トレーニングを必要とせず、プラグ可能な誘導ベクトルにより複数の制御機能を実現します。
問：EasyEdit2は大規模言語モデルの複数シーンへの応用をどのように実現しますか？
答：EasyEdit2はその調整可能性と組み合わせ可能性を活用し、介入強度の制御と複数の誘導技術の組み合わせにより、異なるシーンのニーズに応じてモデルを調整します。例えば、安全性シーンでは安全性を強化し、感情シーンではモデルの感情を調整するなどです。
問：EasyEdit2の使用プロセスにはどのようなコアクラスと設定ファイルが関係しますか？
答：使用プロセスには、誘導ベクトルの生成と適用のためにそれぞれ使用されるBaseVectorGeneratorとBaseVectorApplierという2つのコアクラスが関係します。また、OmegaConf.load('./hparams/Steer/config.yaml')で設定ファイルをロードするなど、設定ファイルも関係します。
関連リンク
プロジェクトホームページ：https://zjunlp.github.io/project/EasyEdit2
GitHubリポジトリ：https://github.com/zjunlp/EasyEdit
arXiv：https://arxiv.org/abs/2504.15133
Hugging Face：https://huggingface.co/papers/2504.15133
