FreeAskInternet_云技派,专注ai人工智能! 201

FreeAskInternet ist ein völlig kostenloser, privater und lokal ausgeführter Suchaggregator, der LLM zur Generierung von Antworten verwendet, ohne dass eine GPU erforderlich ist. Benutzer können Fragen stellen, und das System führt mit searxng eine Suche über mehrere Suchmaschinen durch, fasst die Suchergebnisse in einem ChatGPT3.5 LLM zusammen und generiert basierend auf den Suchergebnissen eine Antwort. Alle Prozesse laufen lokal, es werden keine GPU oder Openai- bzw. Google-API-Schlüssel benötigt.

Funktionen von FreeAskInternet:

• Völlig kostenlos (kein API-Schlüssel erforderlich)

• Völlig lokal (keine GPU erforderlich, jeder Computer kann es ausführen)

• Völlig privat (alle Inhalte laufen lokal, mit benutzerdefiniertem LLM)

• Läuft ohne LLM-Hardware (keine GPU erforderlich!)

• Verwendet kostenlose ChatGPT3.5 / Qwen / Kimi / ShipuAI(GLM) API (kein API-Schlüssel erforderlich! Danke an OpenAI)

• Unterstützt benutzerdefinierte LLMs (ollama, llama.cpp), ja, wir mögen ollama!

• Schnelle und einfache Bereitstellung mit Docker Compose

• Web- und Mobilfreundliche Oberfläche, entwickelt für KI-Chat mit Websuchen-Erweiterung, die einen einfachen Zugriff von jedem Gerät ermöglicht.

Wie funktioniert FreeAskInternet?

1. Das System empfängt die vom Benutzer eingegebene Frage in der FreeAskInternet-Benutzeroberfläche (lokal ausgeführt) und ruft searxng (lokal ausgeführt) auf, um eine Suche über mehrere Suchmaschinen durchzuführen.

2. Es scrapt die Inhalte der Suchergebnislinks und übergibt sie an ChatGPT3.5/Kimi/Qwen/ZhipuAI/ollama (mit benutzerdefiniertem LLM), wobei das LLM aufgefordert wird, die Benutzerfrage unter Verwendung dieser Inhalte als Referenz zu beantworten.

3. Die Antwort wird an die Chat-Benutzeroberfläche übertragen.

4. Wir unterstützen benutzerdefinierte LLM-Einstellungen, daher theoretisch unbegrenzte LLM-Unterstützung.