Kotaemon: 문서와 대화할 수 있는 오픈소스 도구 235

小编 ·

Kotaemon: 문서와 대화할 수 있는 오픈소스 도구

Kotaemon은 문서와 대화할 수 있는 오픈소스 도구입니다. RAG 기술 기반으로 문서와의 인터랙티브 대화를 구현하며, 멀티모달 검색을 지원하여 텍스트, 차트, 표 등 다양한 유형의 데이터를 처리할 수 있습니다.

Kotaemon: 문서와 대화할 수 있는 오픈소스 도구

Kotaemon은 문서와 대화할 수 있게 해주는 오픈 소스 도구로, RAG 기술을 기반으로 문서와의 대화형 상호작용을 구현하며, 멀티모달 검색을 지원하여 텍스트, 차트, 표 등 다양한 유형의 데이터를 처리할 수 있습니다.

chat-tab.png

Kotaemon의 주요 특징:

  • 자체 문서 QA (RAG) Web-UI를 호스팅합니다. 다중 사용자 로그인을 지원하며, 개인/공개 컬렉션에서 파일을 구성하고, 다른 사람과 협업하며 좋아하는 채팅을 공유할 수 있습니다.

  • LLM 및 임베딩 모델을 구성합니다. 로컬 LLM과 인기 있는 API 제공업체(Openai, Azure, Ollama, Groq)를 지원합니다.

  • 하이브리드 RAG 파이프라인. 합리적인 기본 RAG 파이프라인은 하이브리드(전문 검색 및 벡터) 검색기 + 재순위를 갖추고 있어 최상의 검색 품질을 보장합니다.

  • 멀티모달 QA 지원. 차트와 표를 통해 여러 문서에 대한 질문 응답을 지원합니다. 멀티모달 문서 파싱을 지원합니다(UI에서 선택 가능).

  • 문서 미리보기를 통한 사전 인용. 기본적으로 시스템은 LLM 답변의 정확성을 보장하기 위해 상세한 인용을 제공합니다. 브라우저 내 PDF 뷰어에서 인용(관련 점수 포함)을 바로 확인하고 강조 표시할 수 있습니다. 검색 파이프라인이 관련성이 낮은 문서를 반환할 때 경고를 표시합니다.

  • 복잡한 추론 방법 지원. 복잡하거나 다중 홉(multi-hop) 질문에 답하기 위해 질문 분해(decomposition)를 사용합니다. ReAct, ReWOO 및 기타 에이전트를 사용한 에이전트 기반 추론을 지원합니다.

  • 설정 가능한 UI. UI에서 검색 및 생성 프로세스의 가장 중요한 측면(프롬프트 포함)을 조정할 수 있습니다.

  • 확장 가능. Gradio를 기반으로 구축되어 필요에 따라 UI 요소를 자유롭게 맞춤 설정하거나 추가할 수 있습니다. 또한 다양한 문서 인덱싱 및 검색 전략을 지원하는 것을 목표로 합니다. GraphRAG 인덱싱 파이프라인이 예제로 제공됩니다.

Kotaemon 활용 사례:

kotaemon은 문서에 대한 QA를 원하는 최종 사용자와 자체 RAG 파이프라인을 구축하려는 개발자 모두를 위한 기능성 RAG UI 역할을 합니다.

최종 사용자를 위한:

  • RAG 기반 QA를 위한 깔끔하고 미니멀한 UI.

  • LLM API 제공업체(OpenAI, AzureOpenAI, Cohere 등) 및 로컬 LLM(ollama 및 llama-cpp-python을 통해) 지원.

  • 간단한 설치 스크립트 제공.

개발자를 위한:

  • 자체 RAG 기반 문서 QA 파이프라인을 구축하기 위한 프레임워크.

  • 제공되는 UI(Gradio 기반)를 사용하여 RAG 파이프라인의 작동 방식을 맞춤 설정하고 확인할 수 있습니다.

Kotaemon은 깔끔하고 사용하기 쉬운 인터페이스를 제공하며, 로컬 LLM 또는 주요 LLM API 제공업체 사용을 지원하고, 원클릭 설치 및 사용도 가능합니다.

Kotaemon GitHub:https://github.com/Cinnamon/kotaemon