Build your ultimate AI agent
कोर्स विवरण
Llama मॉडल का फाइन-ट्यूनिंग
यह पाठ्यक्रम Llama मॉडल्स को तैयार करने और उनके साथ काम करने के लिए एक व्यापक मार्गदर्शिका प्रदान करता है। व्यावहारिक उदाहरणों और अभ्यासों के माध्यम से, आप विभिन्न Llama फाइन-ट्यूनिंग कार्यों को कॉन्फ़िगर करना सीखेंगे।फाइन-ट्यूनिंग के लिए डेटासेट तैयार करें
शुरुआत करें डेटासेट तैयारी तकनीकों की खोज से, जिसमें Hugging Face Datasets लाइब्रेरी का उपयोग करके डेटासेट लोड करना, विभाजित करना और सहेजना शामिल है, ताकि आपके Llama प्रोजेक्ट्स के लिए उच्च-गुणवत्ता वाला डेटा सुनिश्चित हो सके।फाइन-ट्यूनिंग फ्रेमवर्क्स के साथ काम करें
TorchTune और Hugging Face के SFTTrainer जैसी अत्याधुनिक लाइब्रेरीज़ का उपयोग करके फाइन-ट्यूनिंग वर्कफ़्लो का अन्वेषण करें। आप सीखेंगे कि फाइन-ट्यूनिंग रेसिपी कैसे कॉन्फ़िगर करें, ट्रेनिंग आर्ग्युमेंट्स कैसे सेट अप करें, और संसाधन उपयोग को अनुकूलित करने के लिए LoRA (Low-Rank Adaptation) तथा BitsAndBytes का उपयोग करके क्वांटाइज़ेशन जैसी कुशल तकनीकों का लाभ कैसे उठाएँ। पाठ्यक्रम में सीखी गई तकनीकों को मिलाकर, आप Llama मॉडलों को अपने प्रोजेक्ट्स की ज़रूरतों के अनुसार कुशलतापूर्वक अनुकूलित कर सकेंगे।पूर्वापेक्षाएँ
पाठ्यक्रम
कोर्स रूपरेखा
1
Llama फाइन-ट्यूनिंग की तैयारी
Llama 3 मॉडलों को फाइन-ट्यून करने के विकल्पों का अन्वेषण करें और TorchTune में गहराई से जाएँ, जो फाइन-ट्यूनिंग को सरल बनाने के लिए बनी एक लाइब्रेरी है। यह अध्याय आपको डेटा तैयारी, TorchTune के रेसिपी-आधारित सिस्टम, और कुशल टास्क कॉन्फ़िगरेशन से गुज़ारते हुए आपका पहला फाइन-ट्यूनिंग टास्क लॉन्च करने के प्रमुख चरण प्रदान करता है।
- Llama फाइन-ट्यूनिंग लाइब्रेरीज़50 XP
- TorchTune रेसिपीज़ सूचीबद्ध करना50 XP
- TorchTune टास्क चलाना50 XP
- फाइन-ट्यूनिंग के लिए डेटा का प्रीप्रोसेसिंग50 XP
- इवैल्युएशन के लिए डेटासेट फ़िल्टर करना100 XP
- Training samples बनाना100 XP
- प्रीप्रोसेस किए हुए डेटासेट सेव करना100 XP
- TorchTune के साथ फाइन-ट्यूनिंग50 XP
- कस्टम रेसिपी परिभाषित करना100 XP
- कस्टम रेसिपी सेव करना100 XP
- कस्टम फाइन-ट्यूनिंग चलाना50 XP
2
Hugging Face पर SFTTrainer के साथ फाइन-ट्यूनिंग
जानें कि फाइन-ट्यूनिंग कैसे छोटे मॉडलों की परफॉर्मेंस को विशेष टास्क के लिए काफ़ी बेहतर बना सकती है। छोटे Llama मॉडलों से फाइन-ट्यूनिंग शुरू करें ताकि उनकी टास्क-विशिष्ट क्षमताएँ बढ़ें। इसके बाद, LoRA जैसी पैरामीटर-इफिशिएंट फाइन-ट्यूनिंग तकनीकों को समझें, और इससे भी बड़े मॉडलों को लोड व उपयोग करने के लिए क्वांटाइज़ेशन को एक्सप्लोर करें।
Llama 3 के साथ फाइन-ट्यूनिंग
कोर्स
पूरा
