FreeAskInternet_云技派,专注ai人工智能! 204

FreeAskInternet est un agrégateur de recherche entièrement gratuit, privé et fonctionnant localement, qui utilise un LLM pour générer des réponses sans nécessiter de GPU. Les utilisateurs peuvent poser des questions, le système effectuera une recherche multi-moteurs via searxng, fusionnera les résultats dans ChatGPT3.5 LLM et générera une réponse basée sur les résultats de recherche. Tous les processus s'exécutent localement, sans besoin de GPU ni de clé API Openai ou Google.

Caractéristiques de FreeAskInternet :

• Entièrement gratuit (aucune clé API requise)

• Entièrement local (aucun GPU nécessaire, fonctionne sur n'importe quel ordinateur)

• Entièrement privé (tout fonctionne localement, avec un llm personnalisé)

• Fonctionne sans matériel LLM (pas besoin de GPU !)

• Utilise les API gratuites ChatGPT3.5 / Qwen / Kimi / ShipuAI(GLM) (aucune clé API requise ! Merci à OpenAI)

• Prise en charge des LLM personnalisés (ollama, llama.cpp), oui, nous aimons ollama !

• Déploiement rapide et facile avec Docker Compose

• Interface conviviale pour le web et le mobile, conçue pour le chat IA amélioré par la recherche web, permettant un accès facile depuis n'importe quel appareil.

Comment fonctionne FreeAskInternet ?

1. Le système récupère la question saisie par l'utilisateur dans l'interface utilisateur FreeAskInternet (exécutée localement) et appelle searxng (exécuté localement) pour effectuer une recherche sur plusieurs moteurs de recherche.

2. Le contenu des liens des résultats de recherche est extrait et transmis à ChatGPT3.5/Kimi/Qwen/ZhipuAI/ollama (avec un llm personnalisé), demandant au LLM de répondre à la question de l'utilisateur en se basant sur ce contenu comme référence.

3. La réponse est transmise à l'interface de chat.

4. Nous prenons en charge les paramètres LLM personnalisés, donc théoriquement une prise en charge illimitée de llm.