MaxKB: система вопросов и ответов на основе больших языковых моделей LLM 197

小编 ·

MaxKB: система вопросов и ответов на основе больших языковых моделей LLM

Команда open-source проекта 1Panel официально представила свой подпроект — MaxKB (github.com/1Panel-dev/MaxKB). MaxKB — это система вопросов и ответов на основе больших языковых моделей LLM. Готова к использованию из коробки и легко встраивается в сторонние бизнес-системы.

MaxKB: система вопросов и ответов на основе больших языковых моделей LLM

Команда open-source проекта 1Panel официально представила свой собственный подпроект с открытым исходным кодом — MaxKB (github.com/1Panel-dev/MaxKB). MaxKB — это система问答 на основе большой языковой модели LLM. Готова к использованию, поддерживает быстрое встраивание в сторонние бизнес-системы.

MaxKB:基于LLM大语言模型的知识库问答系统.jpg

Функциональные особенности MaxKB:

Готова к использованию: поддерживает прямую загрузку документов, автоматический сбор онлайн-документов, а также разделение и векторизацию текста.

Интеллектуальные问答: предоставляет высококачественные услуги问答 за счёт генерации с дополненным поиском (RAG).

Поддержка множества моделей: поддерживает интеграцию с основными большими моделями, включая локальные частные модели Ollama (такие как Meta Llama 3, qwen и др.), Tongyi Qianwen, Openai, Azure OpenAI, Kimi, Zhipu AI, iFlytek Spark и Baidu Qianfan и др.

Бесшовное встраивание и быстрая интеграция: без необходимости писать код можно встроить MaxKB в сторонние бизнес-системы, такие как CRM, ERP-системы и т. д., повышая уровень информатизации предприятия.

Технологический стек MaxKB:

  • Фронтенд: Vue.js

  • Бэкенд: Python / Django

  • Большие модели: Azure OpenAI, Baidu Qianfan, Ollama

  • Векторная база данных: PostgreSQL / pgvector

  • Цепочка языковой обработки: LangChain

Установка и использование MaxKB:

1. Вы также можете быстро развернуть MaxKB + Ollama + Llama 2 через магазин приложений 1Panel и в течение 30 минут запустить систему问答 по базе знаний на основе локальной большой модели, а затем встроить её в сторонние бизнес-системы.

2. Если используется внутрикорпоративная сеть, рекомендуется устанавливать и развёртывать с помощью автономного установочного пакета.

3. Вы также можете попробовать онлайн: DataEase 小助手 — это интеллектуальная система问答, построенная на базе MaxKB, которая уже встроена в продукт DataEase и его онлайн-документацию.

Требования к серверу:

MaxKB предъявляет определённые требования к серверу. Перед установкой рекомендуется убедиться, что ваша система соответствует следующим условиям:

  • Операционная система: Ubuntu 22.04 / CentOS 7, 64-разрядная система

  • ЦП/память: рекомендуется 2 ядра / 4 ГБ и выше;

  • Дисковое пространство: 100 ГБ;

  • Требования к браузеру: используйте современные браузеры, такие как Chrome, Firefox, Safari, Edge и т. д.;

  • Доступ к интернету.

Скачать MaxKB с открытым исходным кодом на Github:

https://github.com/1Panel-dev/MaxKB