Wie installiert man DeepSeek mit Ollama? 268

Ollama ist ein Tool zur lokalen Bereitstellung und Verwaltung von KI-Großmodellen. DeepSeek ist ein großes Sprachmodell, das vom KI-Unternehmen DeepSeek (深度求索) selbst entwickelt wurde. Im Folgenden wird Schritt für Schritt erklärt, wie du DeepSeek mit Ollama installieren kannst.

Schritt 1: Ollama installieren (für alle Betriebssysteme)

Öffne das Kommandozeilen-Tool deines Computers (Windows-Benutzer verwenden PowerShell, Mac/Linux verwenden das Terminal), und dann:

1. Ollama mit einem einzigen Befehl installieren

Windows (PowerShell als Administrator ausführen):

winget install ollama

Mac/Linux:

curl -fsSL https://ollama.com/install.sh | sh

Nach Abschluss der Installation führe den folgenden Befehl aus, um zu testen, ob die Installation erfolgreich war:

ollama --version

Wenn du eine Versionsnummer siehst (z. B. ollama version 0.1.23), war die Installation erfolgreich!

Schritt 2: Das DeepSeek-Modell installieren

Fall 1: Offiziell unterstützt (empfohlen!)

1. Öffne die Modellbibliothek-Website von Ollama: https://ollama.ai/library

2. Gib deepseek in das Suchfeld ein und prüfe, ob ein offizielles Modell vorhanden ist (z. B. deepseek-7b-chat)

3. Wenn ja, führe direkt den folgenden Befehl aus (am Beispiel von deepseek-7b-chat):

ollama run deepseek-7b-chat

Ollama lädt das Modell automatisch herunter und startet es. Nach Abschluss wird die Eingabeaufforderung >>> angezeigt. Gib einfach deine Frage ein!

Fall 2: Nicht offiziell unterstützt (manuelle Installation)

Wenn es kein offizielles DeepSeek-Modell gibt, musst du manuell vorgehen:

1. Modelldatei herunterladen

Besuche die Hugging-Face-Modellseite: https://huggingface.co

Suche nach deepseek-7b-chat-gguf und wähle eine quantisierte Version (z. B. Q4_K_M.gguf)

Lade die Modelldatei im .gguf-Format herunter (möglicherweise ist ein Hugging-Face-Konto erforderlich)

2. Konfigurationsdatei erstellen

Erstelle eine neue Textdatei mit dem Namen Modelfile (ohne Dateiendung) mit folgendem Inhalt:

FROM /dein-pfad/deepseek-7b-chat.Q4_K_M.gguf  # Ersetze dies durch deinen tatsächlichen Dateipfad
PARAMETER temperature 0.7  # Steuert die Zufälligkeit der Antworten (0=konservativ, 1=kreativ)

3. Benutzerdefiniertes Modell installieren

Führe den folgenden Befehl in der Kommandozeile aus (achte auf den Dateipfad):

ollama create deepseek -f /dein-pfad/Modelfile  # Ersetze dies durch den tatsächlichen Pfad zur Modelfile

4. Modell ausführen

ollama run deepseek

Schritt 3: Modell testen

Nach Abschluss der Installation kannst du direkt in der Kommandozeile eine Frage eingeben, um das Modell zu testen:

>>> Schreibe eine Python-Funktion zur Berechnung der Fibonacci-Folge

Warte einen Moment, dann generiert das Modell den Code!

Häufige Probleme und Lösungen

1. Modelldatei wird nicht gefunden

• Überprüfe, ob der Dateipfad korrekt ist (es wird empfohlen, die Datei auf dem Desktop abzulegen; der Pfad könnte z. B. /Users/dein-benutzername/Desktop/deepseek-7b-chat.Q4_K_M.gguf lauten)

• Wenn ein Berechtigungsfehler angezeigt wird, versuche, dem Befehl sudo voranzustellen (Mac/Linux)

2. Langsame Ausführung

• Stelle sicher, dass dein Computer über mindestens 8 GB RAM verfügt

• Versuche eine kleinere quantisierte Version (z. B. Q2_K oder Q3_K)

3. Modell reagiert nicht

• Überprüfe, ob die Netzwerkverbindung funktioniert (beim ersten Ausführen ist eine Internetverbindung erforderlich)

Ollama-Dienst neu starten:

ollama serve  # Lasse dieses Fenster geöffnet und öffne ein weiteres Fenster, um das Modell auszuführen

Nützliche Tipps

• Mit 【Ctrl+C】 kannst du die Generierung des Modells abbrechen

• Gib【 /bye】 ein, um das Modell zu beenden

• Weitere Befehle findest du über ollama --help

Mit den oben beschriebenen Schritten solltest du das DeepSeek-Großmodell erfolgreich installieren und ausführen können. Wenn bei der Installation weitere Probleme auftreten, kannst du die offizielle Dokumentation von Ollama oder die Unterstützung der entsprechenden Community zu Rate ziehen.