LLManager: AI-инструмент для автоматизации согласований с функцией памяти 86

Что такое LLManager?

LLManager — это интеллектуальный инструмент утверждений на основе LangGraph, предназначенный для управления различными запросами на утверждение. Он учится на исторических решениях с помощью динамической генерации подсказок и механизма рефлексии, оптимизируя будущие результаты утверждений. Пользователи могут настраивать критерии утверждения и отклонения, а также поддерживается несколько моделей. Он подходит для таких сценариев, как корпоративные утверждения, модерация контента и клиентское обслуживание, например, утверждения в отделе кадров, утверждения текстового контента и т.д., а также может постоянно улучшать свои способности принятия решений посредством рефлексии и обучения.

Функциональные возможности LLManager

• Управление процессами утверждения: LLManager — это рабочий процесс на основе LangGraph, специально разработанный для управления запросами на утверждение. Он обрабатывает различные запросы на утверждение с помощью динамической композиции подсказок и механизма рефлексии, а также способен учиться и совершенствоваться со временем.

• Пользовательская конфигурация: пользователи могут настраивать процесс утверждения, задавая approvalCriteria (критерии утверждения) и rejectionCriteria (критерии отклонения). Кроме того, можно указать используемую модель (modelId), по умолчанию используется anthropic/claude-3-7-sonnet-latest.

• Обучение и совершенствование: LLManager учится на прошлых решениях по утверждению с помощью механизма рефлексии и генерирует новые подсказки для улучшения будущих результатов утверждения.

• Динамическая генерация подсказок: в процессе утверждения LLManager динамически генерирует подсказки на основе исторических данных и результатов семантического поиска, помогая модели лучше понять текущий запрос.

Принцип работы LLManager

После получения запроса сначала через подграф вывода генерируется «отчёт о выводе» о том, следует ли утвердить запрос, в сочетании с прошлыми случаями и рефлексией для извлечения динамического контекста. Затем на основе отчёта о выводе и контекста формируется окончательное заключение. После этого запрос переходит на этап ручной проверки, где человек решает, принять, изменить или отклонить запрос. Если человек изменяет заключение или объяснение, система переходит в подграф рефлексии, генерирует новую рефлексию и сохраняет её для оптимизации будущих решений по утверждению.

Сценарии применения LLManager

• Корпоративные процессы утверждения: LLManager может использоваться для различных внутренних процессов утверждения в компаниях, таких как возмещение расходов, заявки на отпуск, утверждение проектов и т.д., повышая эффективность утверждения с помощью автоматизации и интеллектуальных методов.

• Модерация контента: на платформах публикации контента LLManager может использоваться для проверки пользовательского контента, обеспечивая его соответствие правилам платформы.

• Клиентское обслуживание: в сценариях клиентского обслуживания LLManager может использоваться для обработки клиентских запросов, автоматического определения соответствия запроса стандартам обслуживания и формирования соответствующих рекомендаций по обработке.

Как использовать LLManager

1. Настройка среды:

• Клонируйте репозиторий LLManager:

git clone https://github.com/langchain-ai/llmanager.git

• Установите зависимости:

cd llmanager
yarn install

• Настройте файл .env, указав необходимые API-ключи и другую информацию.

2. Запуск сервера разработки:

• Запустите сервер разработки:

yarn start

1. Это запустит сервер LangGraph в памяти, обычно работающий по адресу http://localhost:2024.

3. Запуск оценки:

• Запустите сквозную оценку:

yarn test:single evals/e2e.int.test.ts

• Запишите UUID ассистента, сгенерированный в процессе оценки, для последующих операций.

4. Использование Agent Inbox:

• Перейдите на сайт dev.agentinbox.ai и добавьте новый почтовый ящик.

• Введите UUID ассистента, URL развёртывания (например, http://localhost:2024) и пользовательское имя.

• Просматривайте и обрабатывайте запросы на утверждение через Agent Inbox.

репозиторий на github:https://github.com/langchain-ai/llmanager