EasyEdit2 : Framework de pilotage de LLM en temps réel par l'équipe de l'Université du Zhejiang 141

小编 · 2025-04-28

EasyEdit2 est un framework de pilotage de LLM convivial, développé par une équipe de l'Université du Zhejiang. Contrairement à EasyEdit, il permet de piloter des grands modèles de langage en temps réel pendant l'inférence via des vecteurs de pilotage enfichables — un contrôle au moment du test sans entraînement, ajustable et composable, applicable à la sécurité, aux sentiments, à la personnalité, etc. Son architecture comprend quatre modules : dataset, méthode, vector store et évaluation, utilisés en quatre étapes : préparer les données, générer les vecteurs, appliquer au modèle, vérifier les résultats.

EasyEdit2 : Framework de pilotage de LLM en temps réel par l'équipe de l'Université du Zhejiang

Qu'est-ce qu'EasyEdit2 ?

EasyEdit2 est un cadre d'orientation pour l'édition de LLM, facile à utiliser, développé par une équipe de l'Université du Zhejiang. Contrairement à EasyEdit, il permet d'orienter en temps réel les grands modèles de langage lors de l'inférence, grâce à des vecteurs d'orientation enfichables offrant un contrôle au moment du test, sans entraînement. Il est ajustable et composable, et peut être appliqué à divers scénarios tels que la sécurité, les émotions et la personnalité. Son architecture comprend quatre composants principaux : un jeu de données, une méthode, une bibliothèque de vecteurs et un module d'évaluation. L'utilisation se fait en quatre étapes : préparer les données d'entraînement, générer les vecteurs d'orientation, les appliquer au modèle et valider les résultats.

EasyEdit2：浙江大学团队开发的实时LLM编辑导向框架.webp

Fonctionnalités

Contrôle en temps réel : EasyEdit2 permet un contrôle en temps réel, sans entraînement, pendant la phase d'inférence du modèle, grâce à des vecteurs d'orientation enfichables.
Plug-and-play : les utilisateurs peuvent appliquer ou retirer de manière transparente les méthodes d'orientation sans modifier les poids du modèle.
Facilité d'utilisation : aucune expertise technique approfondie n'est requise ; un seul exemple suffit pour guider et ajuster efficacement les réponses du modèle.
Ajustabilité et composabilité : les utilisateurs peuvent ajuster avec précision l'intensité et la direction de l'intervention, et combiner plusieurs techniques d'orientation pour un contrôle à grain fin.
Scénarios d'application variés : prend en charge plusieurs fonctionnalités d'intervention au moment du test, couvrant la sécurité, les tendances émotionnelles, les traits de personnalité, les modes de raisonnement, l'exactitude factuelle et les caractéristiques linguistiques.

Modules principaux

Steering Vector Generator (Générateur de vecteurs d'orientation) : génère automatiquement des vecteurs d'orientation utilisés pour influencer le comportement du modèle.
Steering Vector Applier (Applicateur de vecteurs d'orientation) : applique les vecteurs d'orientation générés au modèle afin d'ajuster son comportement.

EasyEdit2：浙江大学团队开发的实时LLM编辑导向框架.webp

Scénarios d'application

Sécurité : résiste aux attaques par jailbreak, réduit les biais sociaux et diminue les risques de fuite de confidentialité.
Tendance émotionnelle : contrôle l'émotion des sorties du modèle, du négatif au positif.
Traits de personnalité : personnalise la personnalité du modèle.
Mode de raisonnement : intervient dans le processus de raisonnement afin d'éviter la sur-réflexion.
Exactitude factuelle : met à jour les connaissances du modèle et maintient leur actualité.
Caractéristiques linguistiques : personnalise le style de langage pour répondre à des besoins spécifiques.

Mode d'emploi

Préparez les données d'entraînement, par exemple en définissant le jeu de données d'entraînement et en générant le jeu de données.
Utilisez BaseVectorGenerator pour générer les vecteurs d'orientation.
Appliquez les vecteurs au modèle via BaseVectorApplier et générez les sorties orientées.
Validez les sorties du modèle orienté ; le modèle peut être réinitialisé une fois l'opération terminée.

EasyEdit2：浙江大学团队开发的实时LLM编辑导向框架.webp

Questions fréquentes

Q : Quelle est la principale différence entre EasyEdit2 et EasyEdit ?

R :EasyEdit modifie les paramètres internes ou introduit des paramètres supplémentaires pour éditer les connaissances, tandis qu'EasyEdit2 permet d'orienter en temps réel les grands modèles de langage lors de l'inférence, sans réentraînement, via des vecteurs d'orientation enfichables offrant plusieurs fonctions de contrôle.

Q : Comment EasyEdit2 permet-il des applications multi-scénarios sur les grands modèles de langage ?

R :EasyEdit2 exploite son ajustabilité et sa composabilité en contrôlant l'intensité de l'intervention et en combinant plusieurs techniques d'orientation pour ajuster le modèle selon les besoins de différents scénarios. Par exemple, renforcer la sécurité dans les scénarios de sécurité ou ajuster l'émotion du modèle dans les scénarios émotionnels.

Q : Quelles classes principales et fichiers de configuration sont impliqués lors de l'utilisation d'EasyEdit2 ?

R :L'utilisation implique deux classes principales, BaseVectorGenerator et BaseVectorApplier, qui servent respectivement à générer les vecteurs d'orientation et à les appliquer. Des fichiers de configuration sont également utilisés, par exemple via OmegaConf.load('./hparams/Steer/config.yaml') pour charger la configuration.