FreeAskInternet_云技派,专注ai人工智能!

FreeAskInternet_云技派,专注ai人工智能! 203

FreeAskInternetは、完全に無料でプライベートかつローカル動作する検索アグリゲーターで、GPUを必要とせずにLLMを使って回答を生成します。ユーザーは質問を入力でき、システムはsearxngを利用して検索し、AIによる回答を提供します。

#Ai工具箱 #Ai开源项目

FreeAskInternet_云技派,专注ai人工智能!紹介

FreeAskInternet は完全無料でプライベートかつローカル動作する検索集約ツールで、LLM を使って回答を生成します。GPU は不要です。ユーザーが質問を入力すると、システムは searxng を使用して複数エンジンで検索を行い、その結果を ChatGPT3.5 LLM に統合し、検索結果に基づいて回答を生成します。すべての処理はローカルで実行され、GPU や Openai または Google の API キーは必要ありません。

index.png

FreeAskInternet の特徴:

  • 完全無料(API キーは一切不要)

  • 完全ローカル動作(GPU 不要、どんな PC でも動作可能)

  • 完全プライベート(すべての処理がローカルで動作し、カスタム llm を使用)

  • LLM 用のハードウェア不要で動作(GPU 不要!)

  • 無料の ChatGPT3.5 / Qwen / Kimi / ShipuAI(GLM) API を利用(API キー不要!OpenAI に感謝)

  • カスタム LLM(ollama、llama.cpp)サポート対応。ollama が大好きです!

  • Docker Compose を使った迅速で簡単なデプロイ

  • Web とモバイルに優しいインターフェースで、Web 検索を強化した AI チャット向けに設計されており、どのデバイスからも簡単にアクセス可能。

FreeAskInternet.jpg

FreeAskInternet はどのように動作しますか?

1、システムは FreeAskInternet の UI 画面(ローカル動作)でユーザーからの質問を取得し、searxng(ローカル動作)を呼び出して複数の検索エンジンで検索を行います。

2、検索結果のリンク内容をスクレイピングし、ChatGPT3.5/Kimi/Qwen/ZhipuAI/ollama(カスタム llm 使用)に渡し、その内容を参考にしてユーザーの質問に答えるよう LLM に要求します。

3、回答をチャット UI に送信します。

4、カスタム LLM 設定をサポートしているため、理論上は無制限の llm に対応します。

FreeAskInternet_云技派,专注ai人工智能! に関連するツール