Cómo ejecutar Unsloth Studio en local: guía paso a paso

Probablemente ya hayas oído hablar de Unsloth. Son conocidos por publicar con rapidez versiones cuantizadas de nuevos modelos abiertos, lo que facilita descargarlos, cargarlos y ejecutarlos en entornos de inferencia locales. También se han ganado una buena reputación por sus guías prácticas para ejecutar y ajustar los últimos modelos abiertos sin convertir la configuración en un dolor de cabeza. 

Más recientemente, Unsloth Studio reúne gran parte de ese flujo de trabajo en un solo lugar: una interfaz web local para ejecutar y entrenar modelos, con compatibilidad con GGUF y Safetensors, comparación de modelos en paralelo, ajuste automático de parámetros de inferencia, tool calling y una API compatible con OpenAI.

En este tutorial, te guiaré por la configuración del entorno necesario para Unsloth Studio, su instalación en local, el lanzamiento de la interfaz y la prueba de un modelo directamente desde el propio UI. Sin canalizaciones manuales engorrosas, sin saltar entre cinco herramientas distintas y sin necesidad de escribir código de inferencia adicional para empezar. 

También puedes consultar nuestra guía de fine-tuning con Unsloth Studio y nuestra guía original de Unsloth para saber más. 

¿Qué es Unsloth Studio?

Unsloth Studio es la nueva interfaz web local y open-source de Unsloth para ejecutar, entrenar y exportar modelos abiertos desde un único lugar. En vez de lidiar con herramientas separadas para inferencia, fine-tuning y pruebas, concentra todo en una única configuración que puedes ejecutar en tu propia máquina. 

Unsloth Studio es compatible con modelos GGUF y Safetensors, funciona en Mac, Windows y Linux, y está diseñado para facilitar al máximo la experimentación local con modelos a quienes prefieren un flujo de trabajo visual en lugar de enlazar scripts a mano.

Funciones clave de Unsloth Studio

Hay varias funciones destacadas que lo convierten en una herramienta muy interesante, entre ellas:

• Buscar, descargar y ejecutar modelos en local desde una única interfaz
• Comparar dos modelos en paralelo
• Usar tool calling con autocorrección y búsqueda web integrada
• Ajuste automático de los parámetros de inferencia
• Editar plantillas de chat fácilmente
• Acceso a APIs compatibles con OpenAI
• Fine-tuning de modelos con un flujo de trabajo sin código
• Crear datasets automáticamente a partir de archivos como PDF, CSV, JSON, DOCX y TXT
• Exportar modelos a formatos como GGUF y Safetensors de 16 bits

Requisitos previos para Unsloth Studio

Antes de empezar con la instalación, asegúrate de que tu sistema cuenta con las herramientas básicas para ejecutar Unsloth Studio en local. La configuración es bastante asumible, pero si quieres hacer fine-tuning de modelos y no solo usar el chat, necesitarás un entorno más completo con GPU preparada.

• Python: versión 3.11 a 3.13
• Git: necesario para clonar y gestionar el repositorio
• CMake: requerido para compilar componentes locales durante la configuración
• Herramientas de macOS: Homebrew y OpenSSL pueden ser necesarios en macOS
• GPU NVIDIA: imprescindible si quieres hacer fine-tuning de modelos en local
• Drivers NVIDIA actualizados: recomendados para evitar problemas de configuración, CUDA o entrenamiento

En resumen, el chat local básico es más fácil de poner en marcha en CPU, pero el fine-tuning requiere el hardware NVIDIA adecuado y drivers actualizados, además de las herramientas estándar de configuración.

Configura tu entorno en RunPod

Para este tutorial, usaremos una máquina A40 de RunPod. Podría haber ejecutado todo en mi portátil, pero no tengo suficiente espacio de almacenamiento y mi conexión es demasiado lenta para descargar modelos y dependencias grandes con comodidad. 

Así que, en lugar de lidiar con descargas eternas, compilaciones lentas y el riesgo de llenar mi sistema local, uso RunPod como opción en la nube sencilla y mucho más rápida de configurar para este flujo de trabajo.

• Empieza creando un pod A40 y selecciona la plantilla más reciente de PyTorch 2.8.0. 
• Antes de desplegarlo, edita los ajustes del pod y establece el disco del contenedor en 50 GB y el disco de volumen en 100 GB para tener espacio suficiente para la instalación y las descargas de modelos. 
• También deberías exponer el puerto HTTP 8888 para Jupyter Notebook y el puerto 8910 para Unsloth Studio. 
• Añadir tu token de Hugging Face como variable de entorno es opcional, pero puede ayudar a acelerar las descargas de modelos y facilitar el acceso a modelos con control de acceso.

Cuando todo esté correcto, guarda los cambios, revisa el resumen del pod y despliega el pod.

Instala Unsloth Studio

En un minuto aproximadamente, verás un enlace en el panel de RunPod para acceder a JupyterLab. Ábrelo y lanza un terminal. También puedes usar SSH y hacer port forwarding a tu equipo, o usar el terminal web, pero el terminal de JupyterLab me resulta mucho más cómodo para este tipo de configuración. Es rápido de acceder, fácil de gestionar y te permite mantener varios terminales abiertos a la vez sin problema.

Primero, actualiza pip e instala uv. 

pip install --upgrade pip && pip install uv

Después, crea una carpeta nueva para el proyecto y entra en ella.

mkdir Unsloth-Studio && cd Unsloth-Studio

A continuación, crea un entorno virtual usando uv.

uv venv

Deberías ver una salida similar a esta, indicando que el entorno virtual se ha creado correctamente.

Using CPython 3.12.3 interpreter at: /usr/local/bin/python
Creating virtual environment at: .venv
Activate with: source .venv/bin/activate

Ahora, activa el entorno virtual.

source .venv/bin/activate

Con el entorno activo, instala Unsloth usando uv.

uv pip install unsloth --torch-backend=auto

Por último, ejecuta el comando de configuración de Studio. Este paso se encarga de la parte más pesada de la instalación por ti, incluyendo la instalación de Node.js, npm, la compilación de llama.cpp y la instalación de los paquetes extra de Python necesarios para esta ejecución.

unsloth studio setup

Cuando termine la configuración, verás el comando necesario para lanzar Unsloth Studio en local.

Lanza Unsloth Studio en local

Recuerda que al principio expusimos el puerto 8910 al editar la plantilla de RunPod. 

Ahora lanzaremos Unsloth Studio en ese puerto para poder acceder directamente desde el enlace de RunPod en lugar de usar solo localhost dentro de la máquina.

Ejecuta el siguiente comando en el terminal para iniciar la inferencia web de Unsloth Studio.

unsloth studio -H 0.0.0.0 -p 8910

Cuando arranque, verás que ha detectado la GPU A40, junto con las credenciales de administrador por defecto y el modelo predeterminado ya descargado y listo para usar. En la mayoría de los casos, hay disponible por defecto un modelo cuantizado Qwen3.5 4B, así que puedes empezar a probar el Studio al momento sin descargar otro modelo primero.

En lugar de hacer clic en el enlace de localhost que aparece en el terminal, vuelve al panel de RunPod y abre la pestaña Connect. Desde ahí, haz clic en el enlace del puerto 8910 para abrir la interfaz web de Unsloth Studio.

La primera vez que lo abras, Studio te pedirá crear una contraseña nueva. Establécela para que la instancia quede protegida y no esté expuesta a cualquiera que tenga ese enlace público.

Después entrarás en el flujo de onboarding, que puedes omitir si quieres. Es útil para un repaso rápido de la interfaz, botones y secciones principales, pero no es obligatorio para empezar.

Una vez dentro, llegarás al panel de Unsloth Studio. La interfaz está organizada en cuatro pestañas principales. 

Studio es donde gestionas el fine-tuning, Recipes te permite crear datasets a partir de archivos como PDF y CSV, Export te ayuda a guardar modelos ajustados en formatos como GGUF o Safetensors de 16 bits, y Chat es donde interactúas directamente con el modelo.

Prueba la interfaz de chat de Unsloth Studio

Haz clic en la pestaña Chat y luego en el botón Select model en la esquina superior izquierda. Como ves en la captura, el modelo Qwen3.5 4B ya está descargado. Haz clic en él, selecciona la versión cuantizada instalada y listo. Tardará unos segundos en cargar el modelo en la memoria de la GPU.

Para probarlo, le planteamos un problema de matemáticas y la respuesta fue sorprendentemente rápida, fluida y coherente.

También puedes activar la búsqueda web y preguntar por temas recientes. Al activarla, Unsloth Studio primero realiza una búsqueda en la web y luego pasa la información recuperada al modelo para generar una respuesta más fundamentada.

Como ves, devolvió los cinco principales resultados de noticias de grandes medios sobre el mercado bursátil.

También puedes buscar cualquier modelo que te interese en Hugging Face y descargarlo directamente desde la interfaz. En este ejemplo, descargamos Qwen3.5 9B cuantizado a 4 bits.

Al hacer clic en el modelo, comienza la descarga. Según el tamaño del modelo y la velocidad de tu conexión, puede tardar un rato en completarse.

Cuando termine la descarga, puedes cargar el nuevo modelo. En cuestión de segundos, Unsloth Studio cambia del modelo anterior al nuevo, dándote acceso a un modelo más capaz.

Luego le pedimos al nuevo modelo que generase arte SVG de un perezoso.

Primero razonó la petición, luego generó el código SVG y, por último, mostró el dibujo del perezoso directamente en la interfaz.

Desde luego parecía un perezoso, aunque no especialmente impresionante. Con un modelo más grande y potente, normalmente obtendrás resultados mucho mejores, sobre todo si tu sistema tiene una GPU más capaz y suficiente RAM.

La interfaz de chat de Unsloth Studio también incluye varias opciones de configuración. Puedes ajustar los parámetros de generación, añadir un system prompt, modificar la plantilla de chat y experimentar con más libertad con el comportamiento del modelo.

Reflexiones finales

En general, me ha gustado mucho usar Unsloth Studio. La configuración no fue tan fluida como esperaba y hubo un par de puntos dolorosos por el camino, pero una vez que todo estuvo funcionando, la experiencia cambió por completo para mí. 

El mayor problema fue el paso de unsloth studio setup. Sobre el papel suena sencillo, pero en la práctica tardó casi 15 a 20 minutos solo en instalarlo todo. Probablemente podría haber hecho algunas partes por mi cuenta en bastante menos tiempo. 

Incluso la documentación menciona algo más cercano a 5 a 10 minutos, pero en mi caso tardó claramente más.

El segundo punto doloroso fue el almacenamiento. Al principio pensé que necesitaría un espacio moderado, pero la configuración completa acabó ocupando casi 100 GB, mucho más de lo que esperaba. No tengo del todo claro a qué se debe todo ese tamaño. 

Puede ser por el entorno virtual, dependencias descargadas, archivos de modelos, artefactos de compilación o por algunas herramientas que se instalan de forma más global durante la configuración. Esa parte no fue muy transparente. 

Pero, a pesar de esos inconvenientes, cuando Unsloth Studio arrancó de verdad, me encantó. La interfaz se siente pulida, rápida y sorprendentemente fácil de usar. 

Todo está en un solo lugar, el flujo de trabajo es fluido y hace que la experimentación con modelos en local sea mucho más accesible. Así que, aunque la configuración pueda poner a prueba tu paciencia, la experiencia de producto compensa.