Kotaemon: Ein Open-Source-Tool für den Dialog mit Ihren Dokumenten 238

Kotaemon ist ein quelloffenes Werkzeug, das es Ihnen ermöglicht, mit Dokumenten in Dialog zu treten. Es basiert auf RAG-Technologie und ermöglicht interaktive Gespräche mit Dokumenten, unterstützt multimodale Suche und kann verschiedene Datentypen wie Text, Diagramme und Tabellen verarbeiten.

Hauptmerkmale von Kotaemon:

• Hosten Sie Ihre eigene Dokumenten-QA (RAG) Web-UI. Unterstützt Mehrbenutzeranmeldung, Organisation Ihrer Dateien in privaten/öffentlichen Sammlungen, Zusammenarbeit mit anderen und Teilen Ihrer Lieblings-Chats.

• Organisieren Sie Ihre LLMs und Embedding-Modelle. Unterstützt lokale LLMs und gängige API-Anbieter (Openai, Azure, Ollama, Groq).

• Hybride RAG-Pipeline. Die standardmäßige RAG-Pipeline verfügt über einen hybriden Retriever (Volltext und Vektor) + Re-Ranking, um die beste Abrufqualität zu gewährleisten.

• Multimodale QA-Unterstützung. Frage-und-Antwort-Funktionalität für mehrere Dokumente mit Diagramm- und Tabellenunterstützung. Unterstützt multimodale Dokumentenverarbeitung (optionale Option in der UI).

• Frühzeitige Quellenangabe durch Dokumentenvorschau. Standardmäßig liefert das System detaillierte Zitate, um die Korrektheit der LLM-Antworten sicherzustellen. Betrachten Sie Ihre Zitate (einschließlich Relevanzbewertungen) direkt im browserinternen PDF-Viewer mit Hervorhebung. Warnung, wenn die Abrufpipeline wenig relevante Artikel zurückgibt.

• Unterstützung für komplexe Argumentationsmethoden. Verwenden Sie Question Decomposition, um komplexe/Mehr-Hop-Fragen zu beantworten. Unterstützt agentenbasierte Argumentation mit ReAct, ReWOO und anderen Agenten.

• Konfigurierbare Einstellungs-Benutzeroberfläche. Sie können die wichtigsten Aspekte des Abruf- und Generierungsprozesses (einschließlich Prompts) in der UI anpassen.

• Erweiterbar. Aufbauend auf Gradio können Sie beliebige UI-Elemente nach Bedarf frei anpassen/hinzufügen. Darüber hinaus ist es unser Ziel, mehrere Dokumentenindizierungs- und Abrufstrategien zu unterstützen. Eine GraphRAG-Indizierungspipeline wird als Beispiel bereitgestellt.

Kotaemon Anwendung:

kotaemon dient als funktionale RAG-UI, sowohl für Endbenutzer, die QA für ihre Dokumente durchführen möchten, als auch für Entwickler, die ihre eigenen RAG-Pipelines aufbauen möchten.

Für Endbenutzer:

• Saubere und minimalistische UI für RAG-basierte QA.

• Unterstützt LLM-API-Anbieter (OpenAI, AzureOpenAI, Cohere usw.) und lokale LLMs (über ollama und llama-cpp-python).

• Einfaches Installationsskript.

Für Entwickler:

• Framework zum Aufbau Ihrer eigenen RAG-basierten Dokumenten-QA-Pipeline.

• Verwenden Sie die bereitgestellte UI (erstellt mit Gradio), um die RAG-Pipeline anzupassen und deren Ausführung zu beobachten.

Kotaemon bietet eine saubere, einfach zu bedienende Oberfläche und unterstützt die Nutzung lokaler LLMs oder gängiger LLM-API-Anbieter sowie eine Ein-Klick-Installation und -Nutzung.

Kotaemon GitHub:https://github.com/Cinnamon/kotaemon