FreeAskInternet_云技派,专注ai人工智能! 198

FreeAskInternet은 완전 무료이며, 비공개이고 로컬에서 실행되는 검색 애그리케이터로, GPU 없이 LLM을 사용하여 답변을 생성합니다. 사용자는 질문을 할 수 있으며, 시스템은 searxng를 사용하여 다중 엔진 검색을 수행하고 검색 결과를 ChatGPT3.5 LLM에 통합하여 검색 결과를 바탕으로 답변을 생성합니다. 모든 프로세스는 로컬에서 실행되며 GPU나 Openai 또는 Google API 키가 필요하지 않습니다.

FreeAskInternet의 특징:

• 완전 무료 (어떠한 API 키도 필요 없음)

• 완전 로컬화 (GPU 불필요, 모든 컴퓨터에서 실행 가능)

• 완전 비공개 (모든 내용이 로컬에서 실행되며, 커스텀 llm 사용)

• LLM 하드웨어 없이도 실행 가능 (GPU 불필요!)

• 무료 ChatGPT3.5 / Qwen / Kimi / ShipuAI(GLM) API 사용 (API 키 불필요! OpenAI에 감사드립니다)

• 커스텀 LLM(ollama, llama.cpp) 지원, 우리는 ollama를 좋아합니다!

• Docker Compose를 사용하여 빠르고 쉽게 배포

• 웹 및 모바일 친화적인 인터페이스로, 웹 검색 강화 AI 채팅을 위해 설계되어 모든 기기에서 쉽게 접근할 수 있습니다.

FreeAskInternet은 어떻게 작동하나요?

1. 시스템은 FreeAskInternet UI 인터페이스(로컬 실행)에서 사용자가 입력한 질문을 가져와 searxng(로컬 실행)를 호출하여 여러 검색 엔진에서 검색을 수행합니다.

2. 검색 결과 링크의 내용을 스크랩하여 ChatGPT3.5/Kimi/Qwen/ZhipuAI/ollama(커스텀 llm 사용)에 전달하고, 이 내용을 참조로 사용하여 사용자 질문에 답변하도록 LLM에 요청합니다.

3. 답변을 채팅 UI로 전송합니다.

4. 커스텀 LLM 설정을 지원하므로 이론적으로 무제한의 llm 지원이 가능합니다.