Farfalle: motor de búsqueda IA de código abierto

Farfalle: motor de búsqueda IA de código abierto 118

Un motor de búsqueda de respuestas impulsado por IA de código abierto, posicionado como una alternativa autoalojada a Perplexity.

#Ai工具箱 #Ai开源项目

Farfalle: motor de búsqueda IA de código abiertoIntroducción

Farfalle.dev es un motor de búsqueda de respuestas impulsado por ai AI de código abierto, posicionado como una alternativa autohospedada a Perplexity. Permite a los usuarios ejecutar modelos de lenguaje grandes (LLMs) locales, como llama3, gemma, mistral y phi3, o utilizar LLMs personalizados a través de LiteLLM. Además, admite modelos en la nube como Groq/Llama3 y GPT-4 y GPT-3.5-turbo de OpenAI 2 4.

Farfalle.jpg

Características principales de Farfalle:

  • Proveedores de búsqueda: Farfalle se integra con varios proveedores de búsqueda, incluidos Tavily, Searxng, Serper y Bing 2.

  • Modelos locales y en la nube: los usuarios pueden utilizar modelos locales (llama3, mistral, gemma, phi3) o modelos en la nube (OpenAI/gpt4-o, OpenAI/gpt3.5-turbo, Groq/Llama3) para responder preguntas 2.

  • LLMs personalizados: a través de LiteLLM, Farfalle admite LLMs personalizados, lo que mejora su flexibilidad 2.

  • Stack tecnológico: el frontend está construido con Next.js y el backend con FastAPI. También utiliza Redis para la limitación de velocidad y Logfire para el registro 2.

  • Opciones de despliegue: Farfalle se puede desplegar con Docker o en plataformas como Render y Vercel 2 4.

Primeros pasos con Farfalle:

Para comenzar a usar Farfalle en local:

Requisitos previos: asegúrese de tener Docker y Ollama instalados si ejecuta modelos locales.

Claves de API: obtenga claves de API para servicios opcionales como Tavily, Serper, OpenAI, Bing y Groq.

Comando de ejecución:

 docker run \
    -p 8000:8000 -p 3000:3000 -p 8080:8080 \
    --add-host=host.docker.internal:host-gateway \
    ghcr.io/rashadphz/farfalle:main

Acceda a http://localhost:3000 para visitar la aplicación.

El código fuente de Farfalle está disponible en GitHub.https://github.com/rashadphz/farfalle

Herramientas relacionadas con Farfalle: motor de búsqueda IA de código abierto