¿Cómo instalar DeepSeek con Ollama? 269

小编 ·

¿Cómo instalar DeepSeek con Ollama?

Ollama es una herramienta para desplegar y gestionar grandes modelos de IA en local. DeepSeek es un gran modelo de lenguaje desarrollado de forma independiente por la empresa de IA DeepSeek. A continuación encontrarás una guía paso a paso para instalar DeepSeek usando Ollama.

¿Cómo instalar DeepSeek con Ollama?

Ollama es una herramienta para implementar y gestionar localmente modelos grandes de IA, y DeepSeek es el modelo de lenguaje grande desarrollado de forma independiente por la empresa de inteligencia artificial DeepSeek. A continuación, te guiaremos paso a paso sobre cómo instalar DeepSeek con Ollama.

Paso 1: Instalar Ollama (compatible con todos los sistemas)

Abre la herramienta de línea de comandos de tu ordenador (los usuarios de Windows pueden usar PowerShell, los de Mac/Linux pueden usar Terminal), y luego:

1. Instalación de Ollama con un solo clic

Windows (haz clic derecho y ejecuta PowerShell como administrador):

winget install ollama

Mac/Linux:

curl -fsSL https://ollama.com/install.sh | sh

Una vez completada la instalación, introduce el siguiente comando para comprobar si se ha realizado correctamente:

ollama --version

Si aparece un número de versión (por ejemplo, ollama version 0.1.23), ¡la instalación se ha realizado correctamente!

Paso 2: Instalar el modelo DeepSeek

Situación 1: Compatibilidad oficial disponible (¡recomendado!)

1. Abre la página de la biblioteca de modelos de Ollama: https://ollama.ai/library

2. Escribe deepseek en el cuadro de búsqueda para ver si hay modelos oficiales (por ejemplo, deepseek-7b-chat)

3. Si lo hay, ejecuta directamente el siguiente comando (tomando como ejemplo deepseek-7b-chat):

ollama run deepseek-7b-chat

Ollama descargará e iniciará el modelo automáticamente. Una vez finalizado, aparecerá el indicador de entrada >>>. ¡Solo tienes que escribir tu pregunta!

Situación 2: Sin compatibilidad oficial (instalación manual)

Si no hay un modelo DeepSeek oficial, es necesario hacerlo manualmente:

1. Descargar el archivo del modelo

Visita el sitio de modelos de Hugging Face: https://huggingface.co

Busca deepseek-7b-chat-gguf y elige una versión cuantificada (por ejemplo, Q4_K_M.gguf)

Descarga el archivo del modelo en formato .gguf (es posible que necesites registrar una cuenta en Hugging Face)

2. Crear el archivo de configuración

Crea un nuevo archivo de texto llamado Modelfile (sin extensión) con el siguiente contenido:

FROM /tu_ruta/deepseek-7b-chat.Q4_K_M.gguf  # Sustitúyelo por la ruta real de tu archivo
PARAMETER temperature 0.7  # Controla la aleatoriedad de las respuestas (0=conservador, 1=creativo)

3. Instalar el modelo personalizado

Ejecuta en la línea de comandos (fíjate en la ruta del archivo):

ollama create deepseek -f /tu_ruta/Modelfile  # Sustitúyelo por la ruta real del archivo Modelfile

4. Ejecutar el modelo

ollama run deepseek

Paso 3: Probar el modelo

Una vez finalizada la instalación, escribe directamente una pregunta en la línea de comandos para probarlo:

>>> Escribe una función en Python que calcule la serie de Fibonacci

¡Espera un momento y el modelo generará el código!

Solución de problemas habituales

1. No se encuentra el archivo del modelo

  • Comprueba que la ruta del archivo sea correcta (se recomienda colocar el archivo en el escritorio; la ruta será similar a /Users/tu_usuario/Desktop/deepseek-7b-chat.Q4_K_M.gguf)

  • Si aparece un error de permisos, prueba a añadir sudo delante del comando (Mac/Linux)

2. La ejecución es lenta

  • Asegúrate de que el ordenador tenga al menos 8 GB de memoria

  • Prueba con una versión cuantificada más pequeña (por ejemplo, Q2_K o Q3_K)

3. El modelo no responde

  • Comprueba que la conexión a internet funcione correctamente (la primera ejecución necesita acceso a la red)

Reiniciar el servicio de Ollama:

ollama serve  # Mantén esta ventana abierta y abre otra para ejecutar el modelo

Consejos útiles

  • Pulsa 【Ctrl+C】 para interrumpir la generación del modelo

  • Introduce 【 /bye】 para salir del modelo

  • Puedes consultar más comandos ejecutando ollama --help

Siguiendo estos pasos, deberías poder instalar y ejecutar el modelo grande DeepSeek sin problemas. Si encuentras cualquier otra dificultad durante la instalación, puedes consultar la documentación oficial de Ollama o buscar ayuda en las comunidades relacionadas.