Assistant scénario▸ 
Apps AI 
Actualités AI 
Farfalle : moteur de recherche IA open source
Farfalle : moteur de recherche IA open sourceIntroduction
Farfalle.dev est un moteur de IA de réponses AI搜索 open source, positionné comme une alternative auto-hébergée à Perplexity. Il permet aux utilisateurs d'exécuter des grands modèles de langage (LLMs) locaux, tels que llama3, gemma, mistral et phi3, ou d'utiliser des LLMs personnalisés via LiteLLM. De plus, il prend en charge des modèles cloud tels que Groq/Llama3 et les GPT-4 et GPT-3.5-turbo d'OpenAI.
Principales caractéristiques de Farfalle :
Fournisseurs de recherche : Farfalle s'intègre à plusieurs fournisseurs de recherche, notamment Tavily, Searxng, Serper et Bing.
Modèles locaux et cloud : les utilisateurs peuvent utiliser des modèles locaux (llama3, mistral, gemma, phi3) ou des modèles cloud (OpenAI/gpt4-o, OpenAI/gpt3.5-turbo, Groq/Llama3) pour répondre aux questions.
LLMs personnalisés : via LiteLLM, Farfalle prend en charge les LLMs personnalisés, ce qui renforce sa flexibilité.
Stack technique : le frontend est construit avec Next.js et le backend avec FastAPI. Il utilise également Redis pour la limitation de débit et Logfire pour la journalisation.
Options de déploiement : Farfalle peut être déployé à l'aide de Docker ou sur des plateformes comme Render et Vercel.
Premiers pas avec Farfalle :
Pour commencer à utiliser Farfalle en local :
Prérequis : assurez-vous que Docker et Ollama sont installés si vous exécutez des modèles locaux.
Clés API : obtenez les clés API des services optionnels tels que Tavily, Serper, OpenAI, Bing et Groq.
Commande d'exécution :
docker run \
-p 8000:8000 -p 3000:3000 -p 8080:8080 \
--add-host=host.docker.internal:host-gateway \
ghcr.io/rashadphz/farfalle:mainAccédez à http://localhost:3000 pour ouvrir l'application.
Le code source de Farfalle est disponible sur GitHub. https://github.com/rashadphz/farfalle
