Curso
Ajuste Fino com Llama 3
2 h
4K
Você provavelmente já ouviu falar do Unsloth. A marca ficou conhecida por lançar rapidamente versões quantizadas de novos modelos open source, facilitando o download, o carregamento e a execução em ambientes locais de inferência. Eles também ganharam destaque por publicar guias práticos para rodar e ajustar os modelos mais recentes sem transformar a configuração em dor de cabeça.
Mais recentemente, o Unsloth Studio reuniu muito desse fluxo em um só lugar: uma interface web local para rodar e treinar modelos, com suporte a GGUF e Safetensors, comparação lado a lado, ajuste automático de parâmetros de inferência, tool calling e uma API compatível com OpenAI.
Neste tutorial, vou mostrar como preparar o ambiente necessário para o Unsloth Studio, instalá-lo localmente, iniciar a interface e testar um modelo direto pela UI. Nada de pipelines manuais confusos, nem pular entre cinco ferramentas diferentes, e sem precisar escrever código extra de inferência só para começar.
Você também pode conferir nosso guia de fine-tuning com o Unsloth Studio e nosso guia original do Unsloth para saber mais.
O que é o Unsloth Studio?
O Unsloth Studio é a nova interface web local e open source do Unsloth para rodar, treinar e exportar modelos abertos em um só lugar. Em vez de alternar entre ferramentas separadas para inferência, fine-tuning e testes, você concentra tudo em uma única configuração que roda na sua própria máquina.
O Unsloth Studio é compatível com modelos GGUF e Safetensors, funciona em Mac, Windows e Linux, e foi feito para simplificar a experimentação local de modelos para quem prefere um fluxo visual em vez de costurar scripts manualmente.
Principais recursos do Unsloth Studio
Alguns recursos se destacam e tornam a ferramenta bem interessante, incluindo:
- Pesquisar, baixar e rodar modelos localmente a partir de uma única interface
- Comparar dois modelos lado a lado
- Usar tool calling com autorrecuperação e busca na web integrada
- Ajustar automaticamente as configurações de inferência
- Editar templates de chat com facilidade
- Acessar APIs compatíveis com OpenAI
- Fazer fine-tuning de modelos com um fluxo no-code
- Criar datasets automaticamente a partir de arquivos como PDF, CSV, JSON, DOCX e TXT
- Exportar modelos para formatos como GGUF e Safetensors em 16 bits
Pré-requisitos para o Unsloth Studio
Antes de começar a instalação, garanta que o seu sistema tem as ferramentas básicas para rodar o Unsloth Studio localmente. A configuração é bem administrável, mas, se você quiser fazer fine-tuning (e não só usar o chat), vai precisar de um ambiente com GPU preparado.
- Python: versão 3.11 a 3.13
- Git: necessário para clonar e gerenciar o repositório
- CMake: necessário para compilar componentes locais durante a configuração
- Ferramentas no macOS: Homebrew e OpenSSL podem ser necessários no macOS
- GPU NVIDIA: obrigatória se você quiser fazer fine-tuning local
- Drivers NVIDIA atualizados: recomendados para evitar problemas de setup, CUDA ou treino
Em resumo, o chat local básico é mais fácil de colocar para rodar em CPU, mas o fine-tuning exige o hardware certo da NVIDIA e drivers atualizados, além das ferramentas padrão.
Configure seu ambiente no RunPod
Para este tutorial, vamos usar uma máquina RunPod A40. Eu poderia rodar tudo no meu notebook, mas não tenho espaço de armazenamento suficiente e a minha internet é lenta demais para baixar modelos grandes e dependências com tranquilidade.
Então, em vez de lidar com downloads demorados, builds lentos e o risco de bagunçar meu sistema local, estou usando o RunPod como uma opção simples em nuvem, muito mais rápida de configurar para esse fluxo.
- Comece criando um novo pod A40 e selecionando o template PyTorch 2.8.0 mais recente.
- Antes de fazer o deploy, edite as configurações do pod e defina o disco do container como 50 GB e o volume como 100 GB, para ter espaço suficiente para a instalação e os downloads de modelos.
- Você também deve expor a porta HTTP 8888 para o Jupyter Notebook e a porta 8910 para o Unsloth Studio.
- Adicionar seu token do Hugging Face como variável de ambiente é opcional, mas pode acelerar os downloads e facilitar o acesso a modelos com controle de acesso.
Quando estiver tudo certo, salve as alterações, revise o resumo do pod e faça o deploy.
Instale o Unsloth Studio
Em um minuto, aproximadamente, você verá um link no painel do RunPod para acessar o JupyterLab. Abra-o e inicie um terminal. Você também pode usar SSH e fazer port forwarding local ou usar o terminal web, mas acho o terminal do JupyterLab bem mais prático para esse tipo de setup. É rápido de acessar, simples de gerenciar e permite manter vários terminais abertos ao mesmo tempo sem problema.
Primeiro, atualize o pip e instale o uv.
pip install --upgrade pip && pip install uv
Em seguida, crie uma nova pasta para o projeto e acesse-a.
mkdir Unsloth-Studio && cd Unsloth-StudioDepois, crie um ambiente virtual usando o uv.
uv venvVocê deve ver uma saída semelhante a esta, indicando que o ambiente virtual foi criado com sucesso.
Using CPython 3.12.3 interpreter at: /usr/local/bin/python
Creating virtual environment at: .venv
Activate with: source .venv/bin/activateAgora, ative o ambiente virtual.
source .venv/bin/activateCom o ambiente ativo, instale o Unsloth usando o uv.
uv pip install unsloth --torch-backend=auto
Por fim, rode o comando de setup do Studio. Essa etapa faz a parte mais pesada para você, incluindo instalar Node.js, npm, compilar o llama.cpp e instalar os pacotes Python extras necessários para esta execução.
unsloth studio setup
Quando o setup terminar, você verá o comando necessário para iniciar o Unsloth Studio localmente.
Inicie o Unsloth Studio localmente
Lembra que, no começo, expusemos a porta 8910 ao editar o template do RunPod?
Agora vamos iniciar o Unsloth Studio nessa porta para acessá-lo diretamente pelo link do RunPod, em vez de usar apenas o localhost dentro da máquina.
Execute o seguinte comando no terminal para iniciar a inferência web do Unsloth Studio.
unsloth studio -H 0.0.0.0 -p 8910Quando iniciar, você deverá ver que a GPU A40 foi detectada, junto com as credenciais de admin padrão e o modelo padrão que já está baixado e pronto para uso. Na maioria dos casos, um modelo Qwen3.5 4B quantizado fica disponível por padrão, então você pode começar a testar o Studio na hora, sem precisar baixar outro modelo primeiro.
Em vez de clicar no link de localhost exibido no terminal, volte ao painel do RunPod e abra a aba Connect. De lá, clique no link da porta 8910 para abrir a interface web do Unsloth Studio.
Na primeira abertura, o Studio vai pedir para você criar uma nova senha. Defina uma para proteger a instância e evitar exposição para qualquer pessoa com o link público.
Depois disso, você será levado ao onboarding, que pode pular se preferir. Ele é útil para um tour rápido pela interface, botões e seções principais, mas não é obrigatório para começar.
Ao entrar, você chega no dashboard do Unsloth Studio. A interface é organizada em quatro abas principais.
Studio é onde você cuida do fine-tuning, Recipes permite criar datasets a partir de arquivos como PDFs e CSVs, Export ajuda a salvar modelos ajustados em formatos como GGUF ou Safetensors em 16 bits, e Chat é onde você interage diretamente com o modelo.
Teste a interface de chat do Unsloth Studio
Clique na aba Chat e, em seguida, no botão Select model no canto superior esquerdo. Como mostra a captura, o modelo Qwen3.5 4B já está baixado. Clique nele, selecione a versão quantizada instalada e pronto: é só usar. Leva alguns segundos para carregar o modelo na memória da GPU.
Para testar, passamos um problema de matemática e a resposta saiu surpreendentemente rápida, fluida e coerente.
Você também pode ativar a busca na web e perguntar sobre temas recentes. Com essa opção ligada, o Unsloth Studio primeiro faz uma busca na web e depois passa as informações recuperadas para o modelo, para gerar uma resposta mais fundamentada.
Como você pode ver, ele retornou os cinco principais resultados de notícias de grandes publicações sobre o mercado de ações.
Você também pode pesquisar qualquer modelo do Hugging Face e baixá-lo diretamente pela interface. No exemplo, baixamos o Qwen3.5 9B quantizado em 4 bits.
Ao clicar no modelo, o download começa. Dependendo do tamanho e da sua velocidade de internet, pode levar um tempo até concluir.
Depois que o download terminar, você pode carregar o novo modelo. Em poucos segundos, o Unsloth Studio troca do modelo anterior para o novo, oferecendo acesso a um modelo mais potente.
Em seguida, pedimos ao novo modelo para gerar uma arte em SVG de um bicho-preguiça.
Ele primeiro raciocinou sobre o pedido, depois gerou o código SVG e, por fim, exibiu a arte do preguiça diretamente na interface.
Ficou com cara de bicho-preguiça, embora não muito impressionante. Com um modelo maior e mais robusto, geralmente dá para conseguir resultados bem melhores, especialmente se o seu sistema tiver uma GPU mais potente e RAM suficiente.
A interface de chat do Unsloth Studio também inclui várias opções de configuração. Dá para ajustar parâmetros de geração, adicionar um prompt de sistema, modificar o template de chat e experimentar com mais liberdade o comportamento do modelo.
Considerações finais
No geral, curti bastante usar o Unsloth Studio. A configuração não foi tão suave quanto eu esperava e tive alguns percalços pelo caminho, mas, quando finalmente tudo rodou, a experiência mudou completamente para melhor.
O maior ponto de atrito foi a etapa unsloth studio setup. No papel, parece simples, mas, na prática, levou cerca de 15 a 20 minutos só para instalar tudo. Provavelmente eu conseguiria fazer algumas partes manualmente em bem menos tempo.
Até a documentação menciona algo mais perto de 5 a 10 minutos, mas, no meu caso, demorou mais.
O segundo ponto foi o armazenamento. Eu imaginei que precisaria de um espaço moderado, mas o setup completo chegou a quase 100 GB, muito mais do que eu esperava. Não tenho total certeza de onde foi parar todo esse espaço.
Pode ter sido por causa do ambiente virtual, dependências baixadas, arquivos de modelo, artefatos de build ou algumas ferramentas instaladas de forma mais global durante o setup. Essa parte não foi muito transparente.
Mas, apesar desses pontos, quando o Unsloth Studio finalmente abriu, eu realmente gostei. A interface é polida, rápida e surpreendentemente fácil de usar.
Está tudo em um só lugar, o fluxo é fluido e a experimentação local de modelos fica muito mais acessível. Então, embora o setup possa testar um pouco a sua paciência, a experiência de uso compensa.
