Kotaemon: открытый инструмент для общения с вашими документами 236

Kotaemon — это инструмент с открытым исходным кодом, который позволяет вести диалог с вашими документами. Он реализует интерактивное взаимодействие с документами на основе технологии RAG, поддерживает мультимодальный поиск и способен обрабатывать различные типы данных, включая текст, графики и таблицы.

Основные особенности Kotaemon:

• Хостинг собственного веб-интерфейса для QA по документам (RAG). Поддержка многопользовательского входа, организация файлов в личных/общих коллекциях, совместная работа и возможность поделиться любимыми чатами.

• Организация ваших LLM и моделей эмбеддингов. Поддержка локальных LLM и популярных API-провайдеров (Openai, Azure, Ollama, Groq).

• Гибридный конвейер RAG. Разумный конвейер RAG по умолчанию включает гибридный (полнотекстовый и векторный) поиск + переранжирование для обеспечения наилучшего качества поиска.

• Поддержка мультимодального QA. Ответы на вопросы по нескольким документам с поддержкой графиков и таблиц. Поддержка мультимодального парсинга документов (опционально в интерфейсе).

• Предварительные ссылки в превью документов. По умолчанию система предоставляет подробные цитаты для обеспечения корректности ответов LLM. Просматривайте цитаты (включая релевантность) прямо во встроенном PDF-просмотрщике браузера с подсветкой. Предупреждение при низкой релевантности результатов поиска.

• Поддержка сложных методов рассуждения. Использование декомпозиции вопросов для ответа на сложные/многошаговые вопросы. Поддержка агентного рассуждения с использованием ReAct, ReWOO и других агентов.

• Настраиваемый интерфейс параметров. Вы можете регулировать ключевые аспекты процессов поиска и генерации (включая промпты) прямо в интерфейсе.

• Расширяемость. Построен на базе Gradio, что позволяет свободно настраивать/добавлять любые элементы интерфейса по необходимости. Кроме того, мы стремимся поддерживать множество стратегий индексации и поиска документов. В качестве примера предоставляется конвейер индексации GraphRAG.

Применение Kotaemon:

kotaemon выступает в роли функционального RAG UI как для конечных пользователей, желающих выполнять QA по своим документам, так и для разработчиков, желающих построить собственные RAG-конвейеры.

Для конечных пользователей:

• Чистый и минималистичный интерфейс для QA на базе RAG.

• Поддержка провайдеров LLM API (OpenAI, AzureOpenAI, Cohere и др.) и локальных LLM (через ollama и llama-cpp-python).

• Простой скрипт установки.

Для разработчиков:

• Фреймворк для построения собственного конвейера QA по документам на базе RAG.

• Использование предоставленного интерфейса (построенного на Gradio) для настройки и визуализации работы RAG-конвейера.

Kotaemon предоставляет понятный и удобный интерфейс, поддерживает использование как локальных LLM, так и основных API-провайдеров LLM, а также позволяет начать работу одной кнопкой установки.

Kotaemon на GitHub: https://github.com/Cinnamon/kotaemon