FreeAskInternet_云技派,专注ai人工智能! 200

FreeAskInternet — это полностью бесплатный, частный и работающий локально поисковый агрегатор, который использует LLM для генерации ответов без необходимости в GPU. Пользователи могут задавать вопросы, система будет выполнять мультипоиск с помощью searxng и объединять результаты поиска с ChatGPT3.5 LLM, генерируя ответ на основе результатов поиска. Все процессы выполняются локально, не требуется GPU или ключ API Openai или Google API.

Особенности FreeAskInternet:

• Полностью бесплатно (не требуется никаких ключей API)

• Полностью локально (GPU не требуется, может работать на любом компьютере)

• Полностью конфиденциально (всё работает локально, используется собственная llm)

• Нет необходимости в оборудовании для LLM (GPU не требуется!)

• Использует бесплатные API ChatGPT3.5 / Qwen / Kimi / ShipuAI(GLM) (ключ API не требуется! Спасибо OpenAI)

• Поддержка пользовательских LLM (ollama, llama.cpp), да, мы любим ollama!

• Быстрое и простое развёртывание с помощью Docker Compose

• Веб- и мобильно-дружественный интерфейс, разработанный специально для AI-чата с улучшенным веб-поиском, обеспечивающий лёгкий доступ с любого устройства.

Как работает FreeAskInternet?

1. Система получает введённый пользователем вопрос в интерфейсе FreeAskInternet UI (работает локально) и вызывает searxng (работает локально) для выполнения поиска в нескольких поисковых системах.

2. Извлекается содержимое ссылок из результатов поиска и передаётся в ChatGPT3.5/Kimi/Qwen/ZhipuAI/ollama (с использованием пользовательской llm), LLM получает запрос ответить на вопрос пользователя, опираясь на это содержимое.

3. Ответ передаётся в интерфейс чата.

4. Мы поддерживаем настройку пользовательских LLM, поэтому теоретически поддерживается неограниченное количество llm.