Kiln AI: ИИ-инструмент для тонкой настройки больших языковых моделей, генерации синтетических данных и совместной работы с наборами данных 184

Kiln ai — это开源-инструмент с открытым исходным кодом для тонкой настройки больших языковых моделей (LLM), генерации синтетических данных и совместной работы над наборами данных. Он предоставляет интуитивно понятный интерфейс, поддерживает системы Windows, MacOS и Linux, и позволяет пользователям выполнять тонкую настройку различных моделей и автоматическое развёртывание без написания кода.

Kiln AI также поддерживает deepseek (я локально развернул deepseek-r1:14b через ollama) и провёл небольшой тест. Для таких людей, как я, которым нужна локальная дистилляция больших языковых моделей для разработки и исследований, Kiln AI — это просто «чудо-инструмент».

Функциональные особенности Kiln AI:

• Тонкая настройка без кода: Kiln AI позволяет пользователям выполнять тонкую настройку моделей через простой интерфейс. Можно выбрать подходящую модель, такую как GPT-4o, серия Llama и другие, и настроить параметры для тонкой настройки.

• Создание наборов данных: Kiln AI поддерживает создание и итерацию наборов данных. Пользователи могут вводить свои собственные источники данных, и инструмент помогает повысить качество и разнообразие данных, оптимизируя результаты обучения.

• Генерация синтетических данных: инструмент может автоматически генерировать синтетические данные для поддержки обучения модели, снижая затраты на разметку данных, что особенно полезно в условиях нехватки данных.

• Командная работа: контроль версий наборов данных AI на основе Git. Интуитивно понятный пользовательский интерфейс позволяет легко сотрудничать с QA, PM и отраслевыми экспертами над структурированными данными.

• Генерация промптов: автоматическая генерация промптов из ваших данных, включая цепочки рассуждений, few-shot и много примеров.

• Широкая поддержка моделей и провайдеров: поддержка Ollama, OpenAI, OpenRouter, Fireworks, Groq, AWS и других.

Поддерживаемые модели и провайдеры

• Поддержка любых API, совместимых с OpenAI, включая Ollama, OpenAI, OpenRouter, Fireworks, Groq и AWS.

• Обширная библиотека моделей: поддерживаются модели GPT, Llama, Claude, Gemini, Mistral, Gemma и Phi.

Как использовать Kiln AI для создания наборов данных и оптимизации модели?

1. Скачайте и установите Kiln AI:

• Перейдите на страницу Kiln AI на GitHub и скачайте установочный пакет для вашей операционной системы.

• Следуйте инструкциям мастера установки для завершения процесса установки.

2. Запустите приложение Kiln AI:

• После завершения установки запустите приложение Kiln AI. Вы увидите интуитивно понятный пользовательский интерфейс.

3. Создайте новую задачу:

• В интерфейсе Kiln AI нажмите кнопку «Создать новую задачу». Это приведёт вас на этап определения задачи и постановки целей.

• Введите название задачи, описание и любые особые требования к вводу и выводу.

4. Сгенерируйте обучающие данные:

• Используйте предоставленные Kiln AI интерактивные инструменты визуализации для генерации обучающих данных. Вы можете создавать высококачественные синтетические данные с помощью деревьев тем, много примерных промптов и цепочек рассуждений.

• При генерации данных обеспечьте их разнообразие и точность.

5. Выберите и тонко настройте модель:

• В Kiln AI вы можете выбрать множество предварительно обученных моделей для тонкой настройки, включая Llama, GPT-4o, Mixtral и другие.

• Настройте параметры тонкой настройки, такие как разделение обучающего и валидационного наборов, и запустите задачу тонкой настройки.

6. Развёртывание и использование модели:

• После завершения тонкой настройки Kiln AI автоматически развернёт модель. Вы можете напрямую тестировать и вызывать настроенную модель в интерфейсе.

• При необходимости вы также можете интегрировать модель в другие системы или приложения через API.

7. Командная работа и контроль версий:

• Kiln AI поддерживает контроль версий на основе Git, что упрощает совместную работу участников команды над наборами данных и моделями.

• Вы можете использовать интерфейс Kiln AI или инструменты командной строки для управления версиями и совместной работы.

Адрес репозитория на GitHub: https://github.com/Kiln-AI/Kiln