Awesome-Ollama-Server: система для мониторинга доступности и производительности сервисов Ollama в реальном времени 168

Что такое Awesome-Ollama-Server?

Awesome-Ollama-Server — это система, которая может отслеживать и проверять доступность и производительность сервисов Ollama. Она имеет современный веб-интерфейс с поддержкой китайского и английского языков, позволяющий отслеживать и отображать данные в реальном времени. Эта система помогает пользователям эффективно управлять несколькими экземплярами Ollama и своевременно обнаруживать проблемы с производительностью системы. Этот инструмент отлично подходит для пользователей или команд, которым необходимо массово проверять состояние онлайн-серверов Ollama.

Функциональные возможности

• Проверка сервисов: поддержка массовой проверки сервисов Ollama с отображением статуса и результатов проверки в реальном времени.

• Мониторинг производительности: тестирование времени отклика сервиса и TPS (количество транзакций в секунду), отображение списка доступных моделей и визуализация данных о производительности.

• Многоязычный интерфейс: предоставляет интерфейс на китайском и английском языках, пользователи могут легко переключать язык.

• Расширенная фильтрация: позволяет пользователям фильтровать по моделям и сортировать по TPS или времени обновления, что удобно для быстрого поиска и управления данными.

Технологический стек

• Next.js: фреймворк React для создания пользовательских интерфейсов.

• TypeScript: используется для обеспечения типобезопасности кода.

• Tailwind CSS: используется для быстрого создания стилей.

• next-intl: используется для интернационализации.

• Адаптивный дизайн: обеспечивает корректное отображение на различных устройствах.

Шаги по установке Awesome-Ollama-Server

1. Клонирование репозитория:

git clone [email protected]:forrany/Awesome-Ollama-Server.git
cd Awesome-Ollama-Server

2. Установка зависимостей:

npm install

3. Запуск сервера разработки:

npm run dev

4. Затем перейдите по адресу http://localhost:3000, чтобы просмотреть приложение.

Как пользоваться Awesome-Ollama-Server

Проверка сервисов:

• После открытия приложения нажмите кнопку «检测服务» (Проверить сервисы) и введите адреса сервисов Ollama в появившемся диалоговом окне (по одному на строку).

• Нажмите кнопку «开始检测» (Начать проверку), дождитесь её завершения, затем просмотрите результаты и при необходимости скачайте их.

Фильтрация и сортировка:

• Используйте фильтр моделей для выбора конкретных моделей, нажимайте на TPS или время обновления для сортировки, либо используйте поле поиска для быстрого поиска моделей.

Переключение языка:

• Нажмите кнопку переключения языка в правом верхнем углу и выберите нужный язык для смены интерфейса.

Связанные материалы:

Как установить DeepSeek с помощью Ollama?