Lepton Search：500行代码构建您的对话式AI搜索引擎_云技派,专注ai人工智能! 59

Lepton Search — это поисковая система с открытым исходным кодом в форме диалога на основе ИИ, запущенная компанией Lepton AI, основанной бывшим техническим вице-президентом Alibaba Цзя Янцином. Основной код Lepton Search написан всего примерно на 500 строках Python и поддерживает интеграцию с большими языковыми моделями (LLM) и поисковыми системами.

Основные функции Lepton Search

• Встроенная поддержка больших языковых моделей: благодаря интеграции крупных языковых моделей, таких как Mixtral-8x7b, Lepton Search способен обеспечивать высокое качество понимания и генерации текста, что позволяет давать более точные и глубокие ответы.

• Встроенная поддержка поисковых систем: объединяет возможности поисковых систем для быстрого извлечения информации из сети; по умолчанию поддерживаются две поисковые системы: Bing и Google.

• Настраиваемый пользовательский интерфейс: настраиваемый красивый UI-интерфейс.

• Возможность совместного использования кэшированных результатов поиска: пользователи могут легко делиться результатами поиска, сохранять их и благодаря функции кэширования уменьшить необходимость повторных запросов.

• Многоязычная поддержка: поддерживается множество языков, включая китайский, английский, французский, немецкий и японский.

Технологии и реализация

• За технологической основой Lepton Search стоит использование большой модели Mixtral-8x7b на собственном облаке, а также обращение к API поисковой системы Bing для получения данных.

• Для хранения данных Lepton Search полагается на бессерверное решение хранения от Lepton AI под названием Lepton KV.

• Архитектура фронтенда и бэкенда Lepton Search позволяет разработчикам легко выполнять развёртывание и настройку.

Открытый исходный код и развёртывание

• Цзя Янцин объявил об открытии исходного кода Lepton Search в Twitter под лицензией Apache License, что обеспечивает свободное использование как для частных лиц, так и для компаний.

• Существует два способа развёртывания: локальное развёртывание и развёртывание на облаке Lepton. Локальное развёртывание простое и быстрое — выполняется несколькими командами, включая клонирование проекта, установку библиотеки Lepton AI, настройку ключа Bing API, сборку фронтенда и запуск сервера.

• Для быстрой проверки пользователи могут сразу нажать кнопку «Deploy» на странице GitHub, чтобы выполнить развёртывание, достаточно лишь задать API-ключ поисковой системы.

Как пользоваться Lepton Search

1. Скачайте исходный код Lepton Search с GitHub и выполните установку и настройку в соответствии с официальной документацией.

2. В качестве поисковой системы Lepton Search использует API поиска Bing, поэтому пользователю необходимо получить API-ключ Bing, задать его и собрать фронтенд.

3. После завершения настройки запустите серверный бэкенд Lepton Search и начните использовать функцию диалогового поиска.

Адрес проекта Lepton Search: https://github.com/leptonai/search_with_lepton