Open WebUI_云技派,专注ai人工智能!

Open WebUI_云技派,专注ai人工智能! 104

Eine erweiterbare, funktionsreiche und benutzerfreundliche selbstgehostete WebUI für verschiedene LLM-Runner, einschließlich Ollama und OpenAI-kompatibler APIs.

#Ai工具箱 #Ai开源项目
URL ausstehend

Open WebUI_云技派,专注ai人工智能!Einführung

Open WebUI bietet eine benutzerfreundliche Oberfläche für große Modelle, unterstützt Ollama und ist kompatibel mit der OpenAI-API. Zu den Besonderheiten gehören eine intuitive Chat-Oberfläche und ein responsives Design. Es unterstützt Syntaxhervorhebung für Code, Markdown, LaTeX, RAG-Integration, Web-Browsing, voreingestellte Prompts, RLHF-Annotation, Modellverwaltung, mehrere Modelle und Multimodalität, Verlaufverwaltung, Spracheingabe, erweiterte Parametereinstellungen und mehr.

demo.gif

Funktionsmerkmale von Open WebUI:

  • Intuitive Oberfläche: Unsere Chat-Oberfläche lässt sich von ChatGPT inspirieren und sorgt für ein benutzerfreundliches Erlebnis.

  • Responsives Design: Genießen Sie ein nahtloses Erlebnis auf Desktop- und Mobilgeräten.

  • Schnelle Reaktion: Genießen Sie eine schnell reagierende Leistung.

  • Einfache Einrichtung: Installieren Sie es nahtlos mit Docker oder Kubernetes (kubectl, kustomize oder helm) für ein müheloses Erlebnis.

  • Syntaxhervorhebung für Code: Verbessern Sie die Lesbarkeit von Code mit unserer Funktion zur Syntaxhervorhebung.

  • Umfassende Unterstützung für Markdown und LaTeX: Bereichern Sie Ihr LLM-Erlebnis mit umfassenden Markdown- und LaTeX-Funktionen für reichhaltigere Interaktionen.

  • Lokale RAG-Integration: Tauchen Sie ein in die Zukunft der Chat-Interaktion mit unserer bahnbrechenden Unterstützung für Retrieval-Augmented Generation (RAG). Diese Funktion integriert die Dokumentinteraktion nahtlos in Ihr Chat-Erlebnis. Sie können Dokumente direkt in den Chat laden oder Dateien zur Dokumentbibliothek hinzufügen und sie mit Befehlen in Ihren Prompts einfach aufrufen. In der Alpha-Phase, in der wir diese Funktion aktiv verbessern und optimieren, um höchste Leistung und Zuverlässigkeit zu gewährleisten, können gelegentlich Probleme auftreten. #

  • Web-Browsing-Funktion: Integrieren Sie Websites mit dem Befehl gefolgt von einer URL nahtlos in Ihr Chat-Erlebnis. Mit dieser Funktion können Sie Webinhalte direkt in Ihre Gespräche einbinden und so den Reichtum und die Tiefe der Interaktionen erhöhen. #

  • Unterstützung für Prompt-Voreinstellungen: Greifen Sie sofort auf voreingestellte Prompts zu, indem Sie den Befehl im Chat-Eingabefeld verwenden. Laden Sie mühelos vordefinierte Gesprächsstarter und beschleunigen Sie Ihre Interaktionen. Importieren Sie Prompts ganz einfach über die Integration der Open WebUI-Community. /

  • RLHF-Annotation: Verbessern Sie Ihre Nachrichten, indem Sie sie mit "Daumen hoch" und "Daumen runter" bewerten und so die Erstellung von Datensätzen für Reinforcement Learning from Human Feedback (RLHF) fördern. Nutzen Sie Ihre Nachrichten zum Trainieren oder Feinabstimmen von Modellen und stellen Sie gleichzeitig sicher, dass die Daten lokal und vertraulich gespeichert werden.

  • Gesprächs-Tagging: Kategorisieren und finden Sie bestimmte Chats ganz einfach für schnellen Zugriff und vereinfachte Datenerfassung.

  • Modelle herunterladen/löschen: Laden Sie Modelle direkt aus der Web-UI herunter oder löschen Sie sie.

  • Modellerstellung aus Dateien: Erstellen Sie ganz einfach Ollama-Modelle, indem Sie GGUF-Dateien direkt über die Web-UI hochladen. Der Vorgang ist vereinfacht, mit der Option, GGUF-Dateien von Ihrem Computer hochzuladen oder von Hugging Face herunterzuladen.

  • Mehrere Modi: Wechseln Sie nahtlos zwischen verschiedenen Chat-Modi für vielfältige Interaktionen.

  • Multimodale Unterstützung: Interagieren Sie nahtlos mit Modellen, die multimodale Interaktionen unterstützen, einschließlich Bildern (z. B. LLava).

  • Modell-Datei-Generator: Erstellen Sie ganz einfach Ollama-Modell-Dateien über die Web-UI. Erstellen und fügen Sie Rollen/Agenten hinzu, passen Sie Chat-Elemente an und importieren Sie Modell-Dateien ganz einfach über die Integration der Open WebUI-Community.

  • Gespräche mit mehreren Modellen: Interagieren Sie mühelos gleichzeitig mit verschiedenen Modellen und nutzen Sie deren individuelle Stärken für optimale Antworten. Verbessern Sie Ihr Erlebnis durch die parallele Nutzung einer Reihe unterschiedlicher Modelle.

  • Kollaborative Chats: Nutzen Sie die kollektive Intelligenz mehrerer Modelle durch die nahtlose Orchestrierung von Gruppengesprächen. Verwenden Sie den Befehl @, um Modelle anzugeben und so dynamische und vielfältige Gespräche in der Chat-Oberfläche zu ermöglichen. Tauchen Sie ein in die kollektive Intelligenz, die in die Chat-Umgebung eingewoben ist.

  • OpenAI-API-Integration: Integrieren Sie mühelos OpenAI-kompatible APIs für vielseitige Gespräche mit Ollama-Modellen. Passen Sie die API-Basis-URL an, um eine Verbindung zu LMStudio, Mistral, OpenRouter und mehr herzustellen.

  • Zugriff auf die Regenerationshistorie: Greifen Sie jederzeit einfach auf Ihre gesamte Regenerationshistorie zu und erkunden Sie sie.

  • Chat-Verlauf: Greifen Sie einfach auf Ihre Gesprächsaufzeichnungen zu und verwalten Sie diese.

  • Import/Export von Chat-Verläufen: Verschieben Sie Ihre Chat-Daten nahtlos in die Plattform hinein und aus ihr heraus.

  • Spracheingabe-Unterstützung: Interagieren Sie per Sprache mit Ihren Modellen; genießen Sie den Komfort, direkt mit dem Modell zu sprechen. Entdecken Sie außerdem die Option, die Spracheingabe nach 3 Sekunden Stille automatisch zu senden, für ein optimiertes Erlebnis.

  • Feinabstimmungssteuerung mit erweiterten Parametern: Erhalten Sie tiefere Kontrolle durch die Anpassung von Parametern wie der Temperatur und die Definition von System-Prompts, um die Gespräche an Ihre spezifischen Vorlieben und Anforderungen anzupassen.

  • Verbindung zu externen Ollama-Servern: Stellen Sie eine nahtlose Verbindung zu externen Ollama-Servern her, die auf anderen Adressen gehostet werden, indem Sie Umgebungsvariablen konfigurieren.

  • Rollenbasierte Zugriffskontrolle (RBAC): Sorgen Sie mit eingeschränkten Berechtigungen für sicheren Zugriff; nur autorisierte Personen können auf Ihren Ollama zugreifen, und Administratoren behalten exklusive Rechte zur Modellerstellung/-extraktion.

  • Unterstützung für Backend-Reverse-Proxy: Verbessern Sie die Sicherheit durch direkte Kommunikation zwischen dem Open WebUI-Backend und Ollama. Diese entscheidende Funktion macht es überflüssig, Ollama über das LAN zugänglich zu machen. Anfragen von der Web-UI an die Route "/ollama/api" werden nahtlos vom Backend an Ollama weitergeleitet, wodurch die Gesamtsicherheit des Systems erhöht wird.

  • Laufende Updates: Wir sind bestrebt, Open WebUI durch regelmäßige Updates und neue Funktionen kontinuierlich zu verbessern.

Ähnliche Tools zu Open WebUI_云技派,专注ai人工智能!