Помощник сценариста▸ 
AI Приложения 
AI Новости 
Farfalle: открытый ИИ-поисковик
Farfalle: открытый ИИ-поисковикОписание
Farfalle.dev — это поисковая система на базе открытого исходного кода с искусственным интеллектом, позиционируемая как альтернатива Perplexity с возможностью собственного хостинга. Она позволяет пользователям запускать локальные большие языковые модели (LLM), такие как llama3, gemma, mistral и phi3, или использовать собственные LLM через LiteLLM. Кроме того, она поддерживает облачные модели, такие как Groq/Llama3, а также OpenAI GPT-4 и GPT-3.5-turbo 2 4.
Основные характеристики Farfalle:
Поисковые провайдеры: Farfalle интегрируется с несколькими поисковыми провайдерами, включая Tavily, Searxng, Serper и Bing 2.
Локальные и облачные модели: пользователи могут использовать локальные модели (llama3, mistral, gemma, phi3) или облачные модели (OpenAI/gpt4-o, OpenAI/gpt3.5-turbo, Groq/Llama3) для ответов на вопросы 2.
Пользовательские LLM: через LiteLLM Farfalle поддерживает пользовательские LLM, что повышает её гибкость 2.
Технологический стек: фронтенд построен на Next.js, бэкенд — на FastAPI. Также используются Redis для ограничения скорости и Logfire для ведения логов 2.
Варианты развёртывания: Farfalle можно развернуть с помощью Docker или на таких платформах, как Render и Vercel 2 4.
Начало работы с Farfalle:
Чтобы начать работу с Farfalle локально:
Предварительные требования: убедитесь, что установлены Docker и Ollama, если вы запускаете локальные модели.
API-ключи: получите API-ключи для таких дополнительных сервисов, как Tavily, Serper, OpenAI, Bing и Groq.
Команда запуска:
docker run \
-p 8000:8000 -p 3000:3000 -p 8080:8080 \
--add-host=host.docker.internal:host-gateway \
ghcr.io/rashadphz/farfalle:mainПерейдите по адресу http://localhost:3000 для доступа к приложению.
Исходный код Farfalle доступен на GitHub.https://github.com/rashadphz/farfalle
