Fine-Tuning with Llama 3

ระดับกลางระดับทักษะ

อัปเดตแล้ว 03/2569

Fine-tune Llama for custom tasks using TorchTune, and learn techniques for efficient fine-tuning such as quantization.

สร้างบัญชีฟรีของคุณ

หรือ

เมื่อดำเนินการต่อ คุณยอมรับข้อกำหนดการใช้งานของเรา นโยบายความเป็นส่วนตัวของเรา และยอมรับว่าข้อมูลของคุณจะถูกจัดเก็บไว้ในสหรัฐอเมริกา

คำอธิบายรายวิชา

Fine-tuning the Llama model

This course provides a comprehensive guide to preparing and working with Llama models. Through hands-on examples and practical exercises, you'll learn how to configure various Llama fine-tuning tasks.

Prepare datasets for fine-tuning

Start by exploring dataset preparation techniques, including loading, splitting, and saving datasets using the Hugging Face Datasets library, ensuring high-quality data for your Llama projects.

Work with fine-tuning frameworks

Explore fine-tuning workflows using cutting-edge libraries such TorchTune and Hugging Face’s SFTTrainer. You'll learn how to configure fine-tuning recipes, set up training arguments, and utilize efficient techniques like LoRA (Low-Rank Adaptation) and quantization using BitsAndBytes to optimize resource usage. By combining techniques learned throughout the course, you’ll be able to customize Llama models to suit your projects' needs in an efficient way.

ข้อกำหนดเบื้องต้น

Working with Llama 3

Preparing for Llama fine-tuning

Explore options for fine-tuning Llama 3 models and dive into TorchTune, a library built to simplify fine-tuning. This chapter guides you through data preparation, TorchTune's recipe-based system, and efficient task configuration, providing the key steps to launch your first fine-tuning task.

The Llama fine-tuning libraries

50 เอ็กซ์พี

Listing TorchTune recipes

50 เอ็กซ์พี

Running a TorchTune task

50 เอ็กซ์พี

Preprocessing data for fine-tuning

50 เอ็กซ์พี

Filtering datasets for evaluation

100 เอ็กซ์พี

Creating training samples

100 เอ็กซ์พี

Saving preprocessed datasets

100 เอ็กซ์พี

Fine-tuning with TorchTune

50 เอ็กซ์พี

Defining custom recipes

100 เอ็กซ์พี

Saving custom recipes

100 เอ็กซ์พี

Running custom fine-tuning

50 เอ็กซ์พี

เริ่มบท

Fine-tuning with SFTTrainer on Hugging Face

Learn how fine-tuning can significantly improve the performance of smaller models for specific tasks. Start with fine-tuning smaller Llama models to enhance their task-specific capabilities. Next, discover parameter-efficient fine-tuning techniques such as LoRA, and explore quantization to load and use even larger models.

Model fine-tuning with Hugging Face

50 เอ็กซ์พี

Setting up Llama training arguments

100 เอ็กซ์พี

Fine-tuning Llama for customer service QA

100 เอ็กซ์พี

Evaluate generated text using ROUGE

100 เอ็กซ์พี

Efficient fine-tuning with LoRA

50 เอ็กซ์พี

Using LoRA adapters

100 เอ็กซ์พี