Fine-Tuning z Llama 3

ŚredniozaawansowanyPoziom umiejętności

Zaktualizowano 03.2026

Dostosuj Llama do własnych zadań za pomocą TorchTune i poznaj techniki efektywnego fine-tuningu, takie jak kwantyzacja.

Opis kursu

Dostrajanie modelu Llama

Ten kurs stanowi kompleksowy przewodnik po przygotowywaniu i pracy z modelami Llama. Dzięki praktycznym przykładom i ćwiczeniom nauczysz się konfigurować różne zadania dostrajania modeli Llama.

Przygotuj zbiory danych do fine-tuningu

Zacznij od poznania technik przygotowywania zbiorów danych, w tym wczytywania, dzielenia i zapisywania danych za pomocą biblioteki Hugging Face Datasets, aby zapewnić wysoką jakość danych dla swoich projektów Llama.

Pracuj z frameworkami do fine-tuningu

Poznaj procesy fine-tuningu z wykorzystaniem nowoczesnych bibliotek, takich jak TorchTune i SFTTrainer od Hugging Face. Nauczysz się, jak konfigurować przepisy fine-tuningu, ustawiać argumenty treningowe oraz wykorzystywać wydajne techniki, takie jak LoRA (Low-Rank Adaptation) i kwantyzacja z użyciem BitsAndBytes, aby zoptymalizować wykorzystanie zasobów. Łącząc techniki poznane w trakcie kursu, będziesz w stanie dostosować modele Llama do potrzeb swoich projektów w efektywny sposób.

Wymagania wstępne

Working with Llama 3

Preparing for Llama fine-tuning

Explore options for fine-tuning Llama 3 models and dive into TorchTune, a library built to simplify fine-tuning. This chapter guides you through data preparation, TorchTune's recipe-based system, and efficient task configuration, providing the key steps to launch your first fine-tuning task.

The Llama fine-tuning libraries

50 XP

Listing TorchTune recipes

50 XP

Running a TorchTune task

50 XP

Preprocessing data for fine-tuning

50 XP

Filtering datasets for evaluation

100 XP

Creating training samples

100 XP

Saving preprocessed datasets

100 XP

Fine-tuning with TorchTune

50 XP

Defining custom recipes

100 XP

Saving custom recipes

100 XP

Running custom fine-tuning

50 XP

Zacznij rozdział

Fine-tuning with SFTTrainer on Hugging Face

Learn how fine-tuning can significantly improve the performance of smaller models for specific tasks. Start with fine-tuning smaller Llama models to enhance their task-specific capabilities. Next, discover parameter-efficient fine-tuning techniques such as LoRA, and explore quantization to load and use even larger models.

Model fine-tuning with Hugging Face

50 XP

Setting up Llama training arguments

100 XP

Fine-tuning Llama for customer service QA

100 XP

Evaluate generated text using ROUGE

100 XP

Efficient fine-tuning with LoRA

50 XP

Using LoRA adapters

100 XP

LoRA fine-tuning Llama for customer service

100 XP

Making models smaller with quantization

50 XP

Loading 8-bit models

100 XP

Speeding up inference in quantized models

100 XP

Congratulations!

50 XP

Zacznij rozdział

Fine-Tuning z Llama 3

Kurs
ukończony

Zdobądź zaświadczenie o ukończeniu

Dodaj to poświadczenie do swojego profilu LinkedIn, CV lub życiorysu
Udostępnij to w mediach społecznościowych i podczas oceny wyników pracyZapisz się teraz

Fine-Tuning z Llama 3

Szkolisz zespół?

Opis kursu

Dostrajanie modelu Llama

Przygotuj zbiory danych do fine-tuningu

Pracuj z frameworkami do fine-tuningu

Wymagania wstępne

Preparing for Llama fine-tuning

Fine-tuning with SFTTrainer on Hugging Face

Zdobądź zaświadczenie o ukończeniu

Dołącz do ponad 19 milionów kursantów i zacznij Fine-Tuning z Llama 3 już dziś!

Rozwijaj swoje umiejętności w zakresie danych dzięki DataCamp dla urządzeń mobilnych

Opis kursu

Dostrajanie modelu Llama

Przygotuj zbiory danych do fine-tuningu

Pracuj z frameworkami do fine-tuningu

Zdobądź zaświadczenie o ukończeniu

Dołącz do ponad .css-nklxlk{color:var(--wf-brand--main, #03EF62);}19 milionów kursantów i zacznij Fine-Tuning z Llama 3 już dziś!

Utwórz bezpłatne konto

Rozwijaj swoje umiejętności w zakresie danych dzięki DataCamp dla urządzeń mobilnych

Dołącz do ponad 19 milionów kursantów i zacznij Fine-Tuning z Llama 3 już dziś!