Farfalle: motor de búsqueda IA de código abierto
Farfalle: motor de búsqueda IA de código abiertoIntroducción
Farfalle.dev es un motor de búsqueda de respuestas impulsado por ai AI de código abierto, posicionado como una alternativa autohospedada a Perplexity. Permite a los usuarios ejecutar modelos de lenguaje grandes (LLMs) locales, como llama3, gemma, mistral y phi3, o utilizar LLMs personalizados a través de LiteLLM. Además, admite modelos en la nube como Groq/Llama3 y GPT-4 y GPT-3.5-turbo de OpenAI 2 4.

Características principales de Farfalle:
Proveedores de búsqueda: Farfalle se integra con varios proveedores de búsqueda, incluidos Tavily, Searxng, Serper y Bing 2.
Modelos locales y en la nube: los usuarios pueden utilizar modelos locales (llama3, mistral, gemma, phi3) o modelos en la nube (OpenAI/gpt4-o, OpenAI/gpt3.5-turbo, Groq/Llama3) para responder preguntas 2.
LLMs personalizados: a través de LiteLLM, Farfalle admite LLMs personalizados, lo que mejora su flexibilidad 2.
Stack tecnológico: el frontend está construido con Next.js y el backend con FastAPI. También utiliza Redis para la limitación de velocidad y Logfire para el registro 2.
Opciones de despliegue: Farfalle se puede desplegar con Docker o en plataformas como Render y Vercel 2 4.
Primeros pasos con Farfalle:
Para comenzar a usar Farfalle en local:
Requisitos previos: asegúrese de tener Docker y Ollama instalados si ejecuta modelos locales.
Claves de API: obtenga claves de API para servicios opcionales como Tavily, Serper, OpenAI, Bing y Groq.
Comando de ejecución:
docker run \ -p 8000:8000 -p 3000:3000 -p 8080:8080 \ --add-host=host.docker.internal:host-gateway \ ghcr.io/rashadphz/farfalle:main
Acceda a http://localhost:3000 para visitar la aplicación.
El código fuente de Farfalle está disponible en GitHub.https://github.com/rashadphz/farfalle
Asistente de guiones▸
Apps AI
Noticias AI