FreeAskInternet_云技派,专注ai人工智能! 194

FreeAskInternet es un agregador de búsqueda completamente gratuito, privado y local que utiliza LLM para generar respuestas, sin necesidad de GPU. Los usuarios pueden hacer preguntas y el sistema utilizará searxng para realizar búsquedas en múltiples motores, combinando los resultados en ChatGPT3.5 LLM para generar respuestas basadas en esos resultados. Todos los procesos corren localmente, sin necesidad de GPU ni de claves API de Openai o Google.

Características de FreeAskInternet:

• Completamente gratuito (no se necesita ninguna clave API)

• Completamente local (no se requiere GPU, cualquier computadora puede ejecutarlo)

• Completamente privado (todo se ejecuta localmente, usando llm personalizado)

• Se ejecuta sin hardware LLM (¡no se requiere GPU!)

• Utiliza las API gratuitas de ChatGPT3.5 / Qwen / Kimi / ShipuAI(GLM) (¡no se necesita clave API! Gracias a OpenAI)

• Soporte para LLM personalizado (ollama, llama.cpp), ¡sí, nos encanta ollama!

• Implementación rápida y sencilla mediante Docker Compose

• Interfaz amigable para web y dispositivos móviles, diseñada para chat con IA mejorado con búsqueda web, que permite un acceso fácil desde cualquier dispositivo.

¿Cómo funciona FreeAskInternet?

1. El sistema obtiene la pregunta ingresada por el usuario en la interfaz de FreeAskInternet (que se ejecuta localmente) y llama a searxng (ejecutado localmente) para realizar búsquedas en múltiples motores de búsqueda.

2. Se extrae el contenido de los enlaces de los resultados de búsqueda y se pasa a ChatGPT3.5/Kimi/Qwen/ZhipuAI/ollama (usando llm personalizado), pidiendo al LLM que responda la pregunta del usuario utilizando dicho contenido como referencia.

3. La respuesta se envía a la interfaz de chat.

4. Admitimos configuraciones de LLM personalizadas, por lo que, en teoría, el soporte de llm es ilimitado.