Drehbuch-Assistent▸ 
AI Apps 
AI Nachrichten 
Farfalle: Open-Source-KI-Suchmaschine
Farfalle: Open-Source-KI-SuchmaschineEinführung
Farfalle.dev ist eine Open-Source-KI-gestützte Antwort-KI-Suchmaschine, die als selbstgehostete Alternative zu Perplexity positioniert ist. Sie ermöglicht es Benutzern, lokale große Sprachmodelle (LLMs) wie llama3, gemma, mistral und phi3 auszuführen oder benutzerdefinierte LLMs über LiteLLM zu verwenden. Darüber hinaus unterstützt sie auch Cloud-Modelle wie Groq/Llama3 sowie OpenAIs GPT-4 und GPT-3.5-turbo 2 4.
Hauptmerkmale von Farfalle:
Suchanbieter: Farfalle ist in mehrere Suchanbieter integriert, darunter Tavily, Searxng, Serper und Bing 2.
Lokale und Cloud-Modelle: Benutzer können lokale Modelle (llama3, mistral, gemma, phi3) oder Cloud-Modelle (OpenAI/gpt4-o, OpenAI/gpt3.5-turbo, Groq/Llama3) zur Beantwortung von Fragen verwenden 2.
Benutzerdefinierte LLMs: Über LiteLLM unterstützt Farfalle benutzerdefinierte LLMs, was die Flexibilität erhöht 2.
Technologie-Stack: Das Frontend wird mit Next.js erstellt, das Backend mit FastAPI. Es verwendet außerdem Redis zur Ratenbegrenzung und Logfire zur Protokollierung 2.
Bereitstellungsoptionen: Farfalle kann mit Docker oder auf Plattformen wie Render und Vercel 2 4 bereitgestellt werden.
Erste Schritte mit Farfalle:
Um lokal mit Farfalle zu beginnen:
Voraussetzungen: Stellen Sie sicher, dass Docker und Ollama installiert sind, wenn Sie lokale Modelle ausführen möchten.
API-Schlüssel: Besorgen Sie sich API-Schlüssel für optionale Dienste wie Tavily, Serper, OpenAI, Bing und Groq.
Ausführungsbefehl:
docker run \
-p 8000:8000 -p 3000:3000 -p 8080:8080 \
--add-host=host.docker.internal:host-gateway \
ghcr.io/rashadphz/farfalle:mainGreifen Sie unter http://localhost:3000 auf die Anwendung zu.
Der Farfalle-Quellcode ist auf GitHub verfügbar.https://github.com/rashadphz/farfalle
