Kiln AI: KI-Tool für LLM-Feinabstimmung, Generierung synthetischer Daten und Dataset-Zusammenarbeit 179

Kiln ai ist ein Open-Source-Tool, das das Fine-Tuning von Large Language Models (LLM), die Erzeugung synthetischer Daten sowie die Zusammenarbeit an Datensätzen ermöglicht. Es bietet eine intuitive Benutzeroberfläche, unterstützt Windows, macOS und Linux, und ermöglicht es den Nutzern, ohne Code verschiedene Modelle feinzujustieren und automatisch bereitzustellen.

Kiln AI unterstützt auch deepseek (ich habe lokal über ollama ein deepseek-r1:14b bereitgestellt) und habe einen kleinen Test durchgeführt. Für jemanden wie mich, der lokal destillierte Large Language Models für Entwicklung und Forschung benötigt, ist Kiln AI schlichtweg ein „Wunderwerkzeug“.

Funktionsmerkmale von Kiln AI:

• Fine-Tuning ohne Code: Kiln AI ermöglicht es Nutzern, Modelle über eine einfache Benutzeroberfläche feinzujustieren. Nutzer können passende Modelle wie GPT-4o, die Llama-Serie usw. auswählen und Parameter für das Fine-Tuning konfigurieren.

• Aufbau von Datensätzen: Kiln AI unterstützt Nutzer beim Aufbau und der iterativen Verbesserung von Datensätzen. Nutzer können ihre eigenen Datenquellen einbinden, das Tool hilft dabei, Datenqualität und -vielfalt zu erhöhen, um die Trainingsergebnisse zu optimieren.

• Erzeugung synthetischer Daten: Das Tool kann automatisch synthetische Daten für das Modelltraining erzeugen, reduziert die Kosten der Datenannotation und eignet sich besonders für Situationen mit knappen Daten.

• Team-Zusammenarbeit: Git-basierte Versionskontrolle für KI-Datensätze. Die intuitive Benutzeroberfläche ermöglicht eine einfache Zusammenarbeit mit QA, PM und Fachexperten an strukturierten Daten.

• Prompt-Generierung: Automatische Generierung von Prompts aus Ihren Daten, einschließlich Chain-of-Thought, Few-Shot und Multi-Shot.

• Breite Unterstützung von Modellen und Anbietern: Unterstützt Ollama, OpenAI, OpenRouter, Fireworks, Groq, AWS usw.

Unterstützte Modelle und Anbieter

• Unterstützt jede OpenAI-kompatible API, einschließlich Ollama, OpenAI, OpenRouter, Fireworks, Groq und AWS.

• Umfangreiche Modellbibliothek: Unterstützte Modelle sind GPT, Llama, Claude, Gemini, Mistral, Gemma und Phi.

Wie verwendet man Kiln AI zum Aufbau von Datensätzen und zur Modelloptimierung?

1. Kiln AI herunterladen und installieren:

• Rufen Sie die GitHub-Seite von Kiln AI auf und laden Sie das für Ihr Betriebssystem passende Installationspaket herunter.

• Befolgen Sie die Anweisungen des Installationsassistenten, um den Installationsvorgang abzuschließen.

2. Starten der Kiln AI-App:

• Starten Sie nach Abschluss der Installation die Kiln AI-Anwendung. Sie werden eine intuitive Benutzeroberfläche sehen.

3. Neue Aufgabe erstellen:

• Klicken Sie in der Benutzeroberfläche von Kiln AI auf die Schaltfläche „Neue Aufgabe erstellen“. Dadurch gelangen Sie zur Aufgabendefinition und Zielsetzung.

• Geben Sie den Namen, die Beschreibung sowie alle spezifischen Eingabe- und Ausgabeanforderungen der Aufgabe ein.

4. Trainingsdaten erzeugen:

• Verwenden Sie die interaktiven Visualisierungstools von Kiln AI, um Trainingsdaten zu erzeugen. Mithilfe von Themenbäumen, Multi-Shot-Prompts und Chain-of-Thought können Sie qualitativ hochwertige synthetische Daten generieren.

• Stellen Sie bei der Datenerzeugung sicher, dass die Daten vielfältig und genau sind.

5. Modell auswählen und feinjustieren:

• In Kiln AI können Sie verschiedene vortrainierte Modelle für das Fine-Tuning auswählen, darunter Llama, GPT-4o, Mixtral usw.

• Konfigurieren Sie die Fine-Tuning-Parameter, wie etwa die Aufteilung von Trainings- und Validierungsdaten, und starten Sie die Fine-Tuning-Aufgabe.

6. Modell bereitstellen und verwenden:

• Nach Abschluss des Fine-Tunings stellt Kiln AI das Modell automatisch bereit. Sie können das feinjustierte Modell direkt in der Benutzeroberfläche testen und aufrufen.

• Bei Bedarf können Sie das Modell auch über eine API in andere Systeme oder Anwendungen integrieren.

7. Team-Zusammenarbeit und Versionskontrolle:

• Kiln AI unterstützt Git-basierte Versionskontrolle, die die Zusammenarbeit von Teammitgliedern an Datensätzen und Modellen erleichtert.

• Sie können die Benutzeroberfläche oder die Befehlszeilen-Tools von Kiln AI für Versionsverwaltung und Zusammenarbeit verwenden.

GitHub-Repository: https://github.com/Kiln-AI/Kiln