jan.ai: ChatGPT의 오픈소스 자체 호스팅 대체재 118

Jan.ai는 데스크톱 클라이언트로, ChatGPT의 대안으로 자신의 컴퓨터에서 실행되며 로컬 API 서버를 함께 제공합니다.

Jan은 로컬 우선, AI 네이티브, 크로스 플랫폼 확장 프레임워크를 함께 제공합니다. 본질적으로 Jan은 모든 것을 구축하는 데 사용할 수 있는 크로스 플랫폼, 로컬 우선, AI 네이티브 프레임워크입니다. 개발자는 기능부터 UI, 브랜딩까지 모든 것을 확장하고 맞춤 설정할 수 있습니다. 실제로 Jan의 현재 주요 기능 자체가 바로 이 프레임워크 위에서 확장으로 구축되어 있습니다.

Jan은 데이터를 로컬 파일 시스템에 저장합니다. 사용자의 데이터는 컴퓨터 밖으로 나가지 않습니다. 데이터를 자유롭게 삭제, 내보내기, 이전할 수 있고, 다른 플랫폼으로 이전하는 것도 가능합니다.

Jan.ai의 특징:

• 오픈소스 모델과 호환 (llama.cpp를 이용한 GGUF, TensorRT-LLM을 이용한 TensorRT, 원격 API)

• 대부분의 운영체제와 호환: Windows, Mac, Linux, llama.cpp를 통한 GPU 가속 지원

• 개방형 파일 형식으로 데이터 저장

• 로컬 API 서버 모드

• 확장을 통해 맞춤 설정 가능

그 외에도 로드맵에 더 많은 기능이 준비되어 있습니다. 저희 Discord에 참여해 어떤 기능을 보고 싶은지 알려주세요!

왜 Jan을 선택해야 할까요?

우리는 오픈소스 인공지능 생태계가 필요하다고 믿습니다. 우리는 오픈소스 AI가 독점 제품과 동등한 경쟁 환경에서 경쟁할 수 있도록 인프라, 도구 그리고 맞춤 모델 구축에 집중하고 있습니다.

Jan이 지원하는 일반 아키텍처:

• Nvidia GPU (빠름)

• Apple M 시리즈 (빠름)

• Apple Intel

• Linux Debian

• Windows x64