Flowise: open-source no-code инструмент для визуального создания LLM-воркфлоу 116

Flowise — это инструмент с открытым исходным кодом для визуального создания рабочих процессов LLM с использованием подхода low-code/no-code. Благодаря интерфейсу drag-and-drop пользователи могут быстро создавать приложения на основе LLM без написания сложного кода. Инструмент поддерживает несколько режимов рабочих процессов (таких как Assistant, Chatflow, Agentflow) и богатый набор компонентов (модели, шаблоны промптов, цепочки и т.д.). Кроме того, он поддерживает множество моделей LLM, расширяемые функции и развёртывание на различных платформах.

Функциональные особенности Flowise

• Работа в режиме low-code/no-code: благодаря интерфейсу drag-and-drop пользователи могут быстро создавать приложения на основе LLM без написания сложного кода.

• Визуальное создание: предоставляет интуитивно понятный графический интерфейс, поддерживающий перетаскивание и соединение различных компонентов (таких как модели LLM, шаблоны промптов, цепочки и т.д.).

• Поддержка нескольких режимов рабочих процессов:

• Assistant: подходит для начинающих, используется для создания простых чат-ботов-помощников.

• Chatflow: используется для построения систем с одним агентом и простых потоков LLM.

• Agentflow: поддерживает более сложные многоагентные системы и оркестровку рабочих процессов.

• Всесторонняя поддержка моделей: бесшовная интеграция с сотнями открытых или проприетарных LLM, включая поддержку HuggingFace, Ollama, Localai и других.

• Богатые возможности расширения: поддержка интеграции с памятью, загрузчиками данных, кэшированием, модерацией и другими компонентами.

• Удобство для разработчиков: предоставляет API, SDK и встраиваемые чат-функции, что облегчает расширение и интеграцию для разработчиков.

• Поддержка множества платформ: поддерживает запуск в локальной среде и в облачных платформах (таких как AWS, Azure, GCP).

Руководство по использованию Flowise

Установка

Установка через Docker:

• Клонируйте проект Flowise.

• Перейдите в папку docker в корневом каталоге проекта.

• Скопируйте файл .env.example и переименуйте его в .env.

• Выполните команду docker compose up -d для запуска сервиса.

• Откройте http://localhost:3000, чтобы использовать Flowise.

Установка через Node.js:

• Убедитесь, что установлен Node.js (версия >= 18.15.0).

• Используйте команду npx flowise start --FLOWISE_USERNAME=user --FLOWISE_PASSWORD=1234 для запуска Flowise.

• Откройте http://localhost:3000, чтобы использовать Flowise.

Создание рабочего процесса

• Создание нового рабочего процесса: после входа в Flowise нажмите кнопку «Add New» в правом верхнем углу страницы, чтобы добавить новый рабочий процесс.

• Добавление компонентов: выберите нужные компоненты (такие как модель LLM, цепочка, шаблон промпта и т.д.) на панели компонентов слева и перетащите их на холст.

• Соединение компонентов: соедините выходной порт одного компонента с входным портом другого, чтобы сформировать рабочий процесс.

• Настройка параметров компонентов: заполните необходимые параметры на панели конфигурации компонента, такие как API-ключ LLM, содержимое шаблона промпта и т.д.

• Сохранение и тестирование: после сохранения рабочего процесса нажмите на диалоговое окно в правом верхнем углу для тестирования.

Примеры

• Чат-бот: подключив модель OpenAI, шаблон промпта и цепочку LLM, можно быстро создать простого чат-бота.

• Система вопросов и ответов: объединив загрузчик данных и компоненты поиска, можно построить систему вопросов и ответов на основе базы знаний.

Техническая архитектура

• Фронтенд: использует React + TypeScript, визуализация реализована на базе ReactFlow.

• Бэкенд: использует Node.js + Express, поддерживает RESTful API и WebSocket.

• Схема развёртывания: поддерживает облачно-нативное развёртывание в один клик с помощью Docker + Kubernetes.

• Управление пакетами: использует pnpm workspace для управления зависимостями нескольких модулей.

• Генерация документации: API-документация автоматически генерируется через Swagger UI, что удобно для разработчиков при вызове и интеграции API.

Сценарии применения

• Интеллектуальная система обслуживания клиентов: подключение к корпоративной базе знаний для автоматического ответа на вопросы о продуктах.

• Помощник по проверке контрактов: анализ юридических документов и автоматическое формирование отчётов о рисках.

• Анализ научной литературы: пакетная обработка статей и извлечение ключевых результатов исследований.

• Интеллектуальная система подбора персонала: автоматический анализ резюме и формирование оценки кандидатов.

GitHub:https://github.com/FlowiseAI/Flowise