Efter att ha gått de här kurserna känner jag mig trygg med att skapa professionella visualiseringar och dashboards
Shoebur RahmanInköpsspecialist, Giz Bangladesh
Kursbeskrivning
Finjustera Llama-modellen
Den här kursen ger en komplett guide till hur du förbereder och arbetar med Llama-modeller. Genom praktiska exempel och övningar lär du dig hur du konfigurerar olika Llama fine-tuning-uppgifter.Förbered dataset för finjustering
Börja med att utforska tekniker för att förbereda dataset, inklusive att ladda, dela upp och spara dataset med Hugging Face Datasets-biblioteket, så att du får högkvalitativ data till dina Llama-projekt.Arbeta med finjusteringsramverk
Utforska finjusteringsarbetsflöden med hjälp av toppmoderna bibliotek som TorchTune och Hugging Face’s SFTTrainer. Du kommer att lära dig hur du konfigurerar fine-tuning-recept, ställer in träningsparametrar och använder effektiva tekniker som LoRA (Low-Rank Adaptation) och kvantisering med BitsAndBytes för att optimera resursanvändningen. Genom att kombinera teknikerna du lärt dig under kursen kan du anpassa Llama-modeller för att effektivt passa dina projekts behov.Förkunskapskrav
Kursplan
Kursöversikt
1
Förberedelser för finjustering av Llama
Utforska alternativ för finjustering av Llama 3-modeller och fördjupa dig i TorchTune, ett bibliotek byggt för att förenkla finjustering. Det här kapitlet guidar dig genom dataförberedelse, TorchTunes receptbaserade system och effektiv uppgiftskonfiguration – och ger dig de viktigaste stegen för att starta din första finjusteringsuppgift.
- Bibliotek för finjustering av Llama50 XP
- Lista TorchTune-recept50 XP
- Köra en TorchTune-uppgift50 XP
- Förbehandling av data för finjustering50 XP
- Filtrera datamängder för utvärdering100 XP
- Skapa träningsexempel100 XP
- Spara förbehandlade datamängder100 XP
- Finjustering med TorchTune50 XP
- Definiera anpassade recept100 XP
- Spara anpassade recept100 XP
- Köra anpassad finjustering50 XP
2
Finjustering med SFTTrainer på Hugging Face
Lär dig hur finjustering kan förbättra prestandan hos mindre modeller avsevärt för specifika uppgifter. Börja med att finjustera mindre Llama-modeller för att stärka deras uppgiftsspecifika förmågor. Utforska sedan parametereffektiva finjusteringstekniker som LoRA, och bekanta dig med kvantering för att läsa in och använda även större modeller.
Finjustering med Llama 3
Kurs
slutförd
