EasyEdit2: фреймворк управления LLM в реальном времени от команды Zhejiang University 140

小编 · 2025-04-28

EasyEdit2 — удобный фреймворк управления LLM, разработанный командой Zhejiang University. В отличие от EasyEdit, он позволяет управлять большими языковыми моделями в реальном времени во время инференса с помощью подключаемых векторов управления — без обучения, с регулируемым и компонуемым поведением для задач безопасности, эмоций, персонализации и др. Архитектура включает четыре модуля: набор данных, метод, векторное хранилище и оценка; рабочий процесс: подготовка данных → генерация векторов → применение к модели → проверка результатов.

EasyEdit2: фреймворк управления LLM в реальном времени от команды Zhejiang University

Что такое EasyEdit2?

EasyEdit2 — это удобный фреймворк для направленного редактирования больших языковых моделей (LLM), разработанный командой Чжэцзянского университета. В отличие от EasyEdit, он позволяет управлять большими языковыми моделями в реальном времени во время инференса с помощью подключаемых векторов управления, обеспечивая контроль во время тестирования без необходимости обучения. Фреймворк отличается настраиваемостью и композируемостью и может применяться в различных сценариях, таких как безопасность, эмоции, индивидуальные особенности и другие. Его архитектура включает четыре основных компонента: набор данных, методы, векторное хранилище и модуль оценки. При использовании выполняются четыре шага: подготовка обучающих данных, генерация векторов управления, их применение к модели и проверка результатов.

EasyEdit2：浙江大学团队开发的实时LLM编辑导向框架.webp

Функциональные особенности

Управление в реальном времени: EasyEdit2 обеспечивает управление в реальном времени без обучения на этапе инференса модели с помощью подключаемых векторов управления.
Подключение по принципу plug-and-play: пользователи могут легко применять или удалять методы управления без изменения весов модели.
Простота использования: пользователям не требуется глубокая техническая подготовка — достаточно всего одного примера для эффективного управления и корректировки ответов модели.
Настраиваемость и композируемость: пользователи могут точно регулировать интенсивность и направление вмешательства, а также комбинировать несколько методов управления для точного контроля.
Разнообразные сценарии применения: поддерживает множество функций вмешательства во время тестирования, включая безопасность, эмоциональную окраску, индивидуальные характеристики, режимы рассуждения, фактическую точность и языковые особенности.

Основные модули

Генератор векторов управления (Steering Vector Generator): автоматически генерирует векторы управления для влияния на поведение модели.
Применитель векторов управления (Steering Vector Applier): применяет сгенерированные векторы управления к модели для корректировки её поведения.

EasyEdit2：浙江大学团队开发的实时LLM编辑导向框架.webp

Сценарии применения

Безопасность: защита от атак с использованием джейлбрейка, снижение социальных предубеждений, уменьшение рисков утечки конфиденциальной информации.
Эмоциональная окраска: управление эмоциональной направленностью выходных данных модели — от негативной к позитивной.
Индивидуальные характеристики: настройка «личности» модели.
Режимы рассуждения: вмешательство в процесс рассуждения для предотвращения чрезмерного обдумывания.
Фактическая точность: обновление знаний модели и поддержание их актуальности.
Языковые особенности: настройка языкового стиля в соответствии с конкретными потребностями.

Инструкция по использованию

Подготовьте обучающие данные, например, определите обучающий набор данных и сгенерируйте набор данных.
Используйте BaseVectorGenerator для генерации векторов управления.
Примените векторы к модели с помощью BaseVectorApplier и сгенерируйте выходные данные после управления.
Проверьте выходные данные модели после управления; после использования модель можно сбросить.

EasyEdit2：浙江大学团队开发的实时LLM编辑导向框架.webp

Часто задаваемые вопросы

Вопрос: В чём основное различие между EasyEdit2 и EasyEdit?

Ответ: EasyEdit реализует редактирование знаний путём обновления внутренних параметров или введения дополнительных параметров, тогда как EasyEdit2 позволяет управлять большими языковыми моделями в реальном времени во время инференса без необходимости переобучения, обеспечивая множество функций управления с помощью подключаемых векторов управления.

Вопрос: Как EasyEdit2 обеспечивает многосценарное применение к большим языковым моделям?

Ответ: EasyEdit2 использует свою настраиваемость и композируемость, регулируя интенсивность вмешательства и комбинируя различные методы управления для адаптации модели к требованиям конкретных сценариев. Например, усиление безопасности в сценариях безопасности или корректировка эмоциональной окраски в эмоциональных сценариях.

Вопрос: Какие основные классы и конфигурационные файлы задействованы при использовании EasyEdit2?

Ответ: В процессе использования задействованы два основных класса — BaseVectorGenerator и BaseVectorApplier, которые используются соответственно для генерации и применения векторов управления; также задействованы конфигурационные файлы, например, загружаемые с помощью OmegaConf.load('./hparams/Steer/config.yaml').