फ्यू-शॉट प्रॉम्प्टिंग: उदाहरण, सिद्धांत, उपयोग के मामले

फ्यू-शॉट प्रॉम्प्टिंग क्या है?

फ्यू-शॉट प्रॉम्प्टिंग एक तकनीक है जिसमें किसी भाषा मॉडल को किसी विशिष्ट कार्य के उत्तर को मार्गदर्शित करने के लिए बहुत कम संख्या में उदाहरण दिए जाते हैं। यह तरीका ज़ीरो-शॉट लर्निंग (जहाँ कोई उदाहरण नहीं दिया जाता) और पूर्णत: सुपरवाइज़्ड फाइन-ट्यूनिंग (जिसमें बड़े पैमाने पर लेबल्ड डेटा चाहिए) के बीच बैठता है। फ्यू-शॉट लर्निंग पर ब्लॉग पोस्ट इस मशीन लर्निंग तकनीक को विस्तार से समझाता है।

दूसरे शब्दों में, फ्यू-शॉट प्रॉम्प्टिंग में प्रॉम्प्ट के भीतर ही भाषा मॉडल को कुछ डेमोंस्ट्रेशन या उदाहरण दिए जाते हैं। ये उदाहरण मार्गदर्शक की तरह काम करते हैं, मॉडल को दिखाते हैं कि किसी विशेष प्रकार के कार्य या प्रश्न का सामना कैसे करना है और कैसे उत्तर देना है। जब आप ये उदाहरण देते हैं, तो आप मूल रूप से मॉडल से कहते हैं, "ऐसी ही स्थितियों में आपको ऐसे ही जवाब देना चाहिए।"

आइए एक उदाहरण देखें।

मान लीजिए हम चाहते हैं कि मॉडल मूवी समीक्षाओं की भाव-विश्लेषण श्रेणीकरण करे। एक फ्यू-शॉट प्रॉम्प्ट ऐसा दिख सकता है:

प्रॉम्प्ट:

Classify the sentiment of the third movie review. Use the information from the first two examples:Review: "This movie was a waste of time."Sentiment: NegativeReview: "I couldn't stop laughing throughout the film!"Sentiment: PositiveReview: "The special effects were amazing, but the plot was confusing."Sentiment:```markdownIf we input this prompt to the LLM, and if it understands the task correctly, it will output:```markdownSentiment: Mixed

इस उदाहरण में, LLM प्रॉम्प्ट में दिए गए उदाहरणों का उपयोग करके समझता है कि तीसरी समीक्षा के भाव को कैसे वर्गीकृत करना है और उसके अनुसार आउटपुट जनरेट करता है।

फ्यू-शॉट प्रॉम्प्टिंग महत्वपूर्ण है क्योंकि यह LLMs को अधिक उपयोगी और सुलभ बनाती है। पहला, यह समय और मेहनत बचाती है क्योंकि आपको मॉडल को पूरी तरह से फिर से प्रशिक्षित करने या भारी मात्रा में डेटा इकट्ठा करने की आवश्यकता नहीं होती।

दूसरा, यह बेहद लचीली है—आप केवल दिए गए उदाहरण बदलकर मॉडल को अलग-अलग कार्यों के लिए जल्दी अनुकूलित कर सकते हैं। तीसरा, यह अक्सर LLM को बिना किसी मार्गदर्शन के कुछ करने के बजाय, विशिष्ट या जटिल कार्यों पर बेहतर प्रदर्शन करने में मदद करती है। यह तरीका शक्तिशाली AI टूल्स को अधिक लोगों तक पहुँचाता है, सिर्फ उन तकनीकी विशेषज्ञों तक नहीं जिनके पास ढेर सारे संसाधन हैं।

फ्यू-शॉट प्रॉम्प्टिंग कैसे काम करती है

फ्यू-शॉट प्रॉम्प्टिंग का मूल प्रॉम्प्ट के भीतर ही LLM को प्रासंगिक उदाहरणों या डेमोंस्ट्रेशन का छोटा सेट देना है। ये उदाहरण मॉडल का मार्गदर्शन करते हैं, यह दर्शाते हुए कि किसी विशेष प्रकार के कार्य या प्रश्न का सामना कैसे करना है और कैसे उत्तर देना है। डेमोंस्ट्रेशन आम तौर पर इस प्रकार संरचित होते हैं:

• इनपुट-आउटपुट युग्म: प्रत्येक डेमोंस्ट्रेशन में आम तौर पर एक इनपुट (जैसे कोई प्रश्न या पाठ) और उसका संबंधित आउटपुट (वांछित उत्तर या समाधान) होता है।
• फ़ॉर्मैट में स्थिरता: डेमोंस्ट्रेशन एक समान फ़ॉर्मैट बनाए रखते हैं, जिससे मॉडल उस पैटर्न को पहचान पाता है जिसका उसे पालन करना है।
• कार्य-संबद्धता: दिए गए उदाहरण सीधे हाथ के कार्य से जुड़े होते हैं, और आवश्यक विशिष्ट कौशल या ज्ञान को दिखाते हैं।

उदाहरण के लिए, यदि हम चाहते कि मॉडल तुकांत दोहे बनाए, तो एक फ्यू-शॉट प्रॉम्प्ट ऐसा दिख सकता है:

Generate a rhyming couplet about a tree:Input: "cat"Output: The curious cat, so sleek and fat,         Curled up cozy on the welcome mat.Input: "sky"Output: Look up high into the endless sky,         Where birds and clouds go drifting by.Input: "tree"Output:

इन डेमोंस्ट्रेशन के साथ, भाषा मॉडल एक प्रक्रिया में संलग्न होता है जिसे अक्सर "इन-कॉन्टेक्स्ट लर्निंग" या "उदाहरण से सीखना" कहा जाता है। यह इस तरह काम करती है:

1. पैटर्न की पहचान: मॉडल दिए गए उदाहरणों का विश्लेषण करता है, यह पहचानते हुए कि इनपुट्स को आउटपुट्स में कैसे बदला गया है।
2. कार्य का अनुमान: इन पैटर्न से, मॉडल उस कार्य की प्रकृति का अनुमान लगाता है जो उससे कराया जा रहा है।
3. सामान्यीकरण: इसके बाद मॉडल दिए गए उदाहरणों से नए, अनदेखे इनपुट्स के लिए सामान्यीकरण करने का प्रयास करता है।
4. अनुप्रयोग: अंततः, मॉडल प्रॉम्प्ट के अंत में दिए गए नए इनपुट पर सीखे हुए पैटर्न को लागू करता है।

यह प्रक्रिया मॉडल को उसके अंतर्निहित पैरामीटर्स बदले बिना किसी विशिष्ट कार्य के लिए अपने ज्ञान और क्षमताओं को अनुकूलित करने देती है।

ध्यान देने योग्य है कि फ्यू-शॉट प्रॉम्प्टिंग की प्रभावशीलता कार्य की जटिलता, दिए गए उदाहरणों की गुणवत्ता और प्रासंगिकता, और आधारभूत भाषा मॉडल की क्षमताओं जैसे कारकों पर निर्भर कर सकती है। फिर भी, सही ढंग से उपयोग करने पर, फ्यू-शॉट प्रॉम्प्टिंग भाषा मॉडलों को कई तरह के कार्यों में प्रभावशाली सटीकता और लचीलापन प्रदान कर सकती है।

फ्यू-शॉट प्रॉम्प्टिंग के फायदे

फ्यू-शॉट प्रॉम्प्टिंग के कई लाभ हैं। आइए देखें यह तरीका इतना उपयोगी क्यों है।

बेहतर प्रदर्शन

फ्यू-शॉट प्रॉम्प्टिंग का सबसे उल्लेखनीय लाभ ज़ीरो-शॉट तरीकों की तुलना में प्रदर्शन में ठोस सुधार है।

• बेहतर सटीकता: प्रासंगिक उदाहरण देकर, फ्यू-शॉट प्रॉम्प्टिंग मॉडल को विशिष्ट कार्य बेहतर समझने में मदद करती है, जिससे अधिक सटीक आउटपुट मिलते हैं।
• अधिक प्रासंगिकता: उदाहरण मॉडल को वांछित परिणाम के साथ अधिक निकटता से संरेखित उत्तर देने के लिए मार्गदर्शन करते हैं।
• कार्य-विशेष अनुकूलन: फ्यू-शॉट प्रॉम्प्टिंग LLM को अपने मौजूदा ज्ञान का उपयोग करके नए, विशिष्ट कार्यों को समझने और करने में मदद करती है।

उदाहरण के लिए, मान लीजिए हम चाहते हैं कि मॉडल एक विशेष टोन और फ़ॉर्मैट में उत्पाद विवरण जनरेट करे।

Generate product descriptions:Product: Wireless EarbudsDescription: Immerse yourself in crystal-clear audio with our sleek wireless earbuds. Featuring noise-cancellation technology and a comfortable fit, these earbuds are perfect for music lovers on the go.Product: Smart WatchDescription: Stay connected and track your fitness with our advanced smart watch. With heart rate monitoring, GPS, and a vibrant touch screen, it's your perfect companion for an active lifestyle.Product: Ergonomic Office ChairDescription:

इन उदाहरणों के साथ, मॉडल के ऑफिस चेयर के लिए प्रासंगिक और उपयुक्त शैली वाला विवरण बनाने की संभावना अधिक होती है, जबकि ज़ीरो-शॉट तरीके में वह अधिक सामान्य या कम केंद्रित विवरण दे सकता है।

संभावित आउटपुट कुछ इस तरह हो सकता है:```markdown

Description: Transform your workspace with our state-of-the-art ergonomic office chair. Designed for ultimate comfort and support, this chair features adjustable lumbar support, breathable mesh backrest, and customizable armrests. Whether you're working from home or in a corporate setting, this chair is the perfect blend of style and functionality for the modern professional.

Faster adaptationFew-shot prompting helps the LLM to quickly learn new tasks or topics, making it fast and easy to switch between different jobs.Quick task learning: Models can quickly grasp new tasks with just a handful of examples, allowing for rapid prototyping and testing of new applications.Domain adaptation: It's easy to shift the model's focus to different domains or styles by simply changing the examples in the prompt.Iterative refinement: Users can quickly iterate and refine their prompts based on initial results, leading to a more agile development process.For example, if we wanted to adapt the model to generate different types of poetry, we could quickly switch between haikus, limericks, or sonnets just by changing the examples in our prompt:```markdownGenerate poetry based on the given theme and format.Theme: SpringHaiku:	Cherry blossoms bloom	Soft petals dance in the breeze	Nature awakensTheme: SummerHaiku:Theme: A funny catLimerick:	There once was a cat named Lou	Who always knew just what to do	He'd climb up a tree	Then meow with glee	And slide down as if on a chuteTheme: A clumsy dogLimerick:

संभावित आउटपुट होगा:

Haiku:Scorching sun aboveCicadas sing endlesslyBeach waves cool bare feetLimerick:There once was a dog quite unsteadyHis paws were not quite readyHe'd trip on his tailKnock over the mailBut his smile kept his owner steady

कम डेटा की आवश्यकता

फ्यू-शॉट प्रॉम्प्टिंग पारंपरिक फाइन-ट्यूनिंग तरीकों की तुलना में बड़े पैमाने पर लेबल्ड डेटा की ज़रूरत को काफी घटा देती है।

• न्यूनतम उदाहरण पर्याप्त: अक्सर, केवल 2-5 उदाहरण कई कार्यों के लिए मॉडल का प्रभावी रूप से मार्गदर्शन करने के लिए पर्याप्त होते हैं।
• फाइन-ट्यूनिंग की आवश्यकता नहीं: पारंपरिक मशीन लर्निंग तरीकों के विपरीत, फ्यू-शॉट प्रॉम्प्टिंग में मॉडल के पैरामीटर्स अपडेट करने की ज़रूरत नहीं होती, जिससे संगणनात्मक संसाधन और समय बचता है।
• सुलभता: यह तरीका उन्नत NLP क्षमताओं को उन उपयोगकर्ताओं तक भी ले आता है जिनके पास बड़े डेटासेट या व्यापक मॉडल प्रशिक्षण के संसाधन नहीं हैं।

फ्यू-शॉट प्रॉम्प्टिंग के अनुप्रयोग

फ्यू-शॉट प्रॉम्प्टिंग का उपयोग कई क्षेत्रों में किया जा सकता है। इसकी लचीलापन और दक्षता इसे उन कार्यों के लिए विशेष रूप से उपयोगी बनाती है जिनमें विशिष्ट ज्ञान या रचनात्मक आउटपुट की आवश्यकता होती है। आइए कुछ प्रमुख अनुप्रयोग देखें:

जटिल तर्क संबंधी कार्य

फ्यू-शॉट प्रॉम्प्टिंग LLM की बहु-चरणीय तर्क, तार्किक निष्कर्ष या डोमेन-विशिष्ट ज्ञान वाले कार्यों को सँभालने की क्षमता को काफी बढ़ा सकती है।

देखते हैं कि मेडिकल डायग्नोसिस कार्य के लिए फ्यू-शॉट प्रॉम्प्टिंग कैसे उपयोग कर सकते हैं:

Provide a possible diagnosis and explain your reasoning:Symptoms: Fever, cough, fatigueDiagnosis: Common coldExplanation: The combination of fever, cough, and fatigue is typical of a common cold. No severe symptoms are present, suggesting a mild viral infection.Symptoms: Chest pain, shortness of breath, dizzinessDiagnosis: Possible heart attackExplanation: The combination of chest pain, shortness of breath, and dizziness are warning signs of a possible heart attack. Immediate medical attention is required.Symptoms: Headache, sensitivity to light, nauseaDiagnosis:Explanation: 

यह प्रॉम्प्ट मॉडल को न केवल निदान देने बल्कि उसके पीछे का तर्क समझाने के लिए भी मार्गदर्शन करता है, जो जटिल चिकित्सा तर्क दिखाता है।

LLM यह आउटपुट देगा:```markdown

Diagnosis: Migraine

Explanation: These symptoms together are typical of a migraine. The headache combined with light sensitivity (photophobia) is a strong indicator of migraine, and nausea often accompanies this condition. While other causes are possible, this combination strongly suggests a migraine headache.

Creative writingFew-shot prompting is particularly effective in guiding LLMs to generate text in specific styles, formats, or genres.Let’s see how to generate movie synopsis in different genres using few-shot prompting:```markdownGenerate movie synopsis:Genre: Sci-FiSynopsis: In a world where dreams can be shared, a skilled "dream thief" is tasked with the impossible: planting an idea in someone's mind. As he delves deeper into the target's subconscious, the lines between reality and dreams blur, threatening to trap him forever.Genre: RomanceSynopsis: A chance encounter on a rainy day in Paris leads two strangers on a whirlwind 24-hour adventure. As they explore the city and each other's hearts, they must decide if their connection is strong enough to overcome the ocean that will separate them come morning.Genre: HorrorSynopsis: 

यह प्रॉम्प्ट मॉडल को उस शैली के मुख्य तत्वों और टोन को पकड़ते हुए सिनॉप्सिस बनाने में मार्गदर्शन करता है।

आउटपुट:

Synopsis: A remote mountain town is plagued by a series of mysterious disappearances. As a skeptical detective investigates, she uncovers an ancient cult that awakens every hundred years to feed on the town's inhabitants. With time running out and the cult's power growing, she must confront her own dark past to save the remaining townspeople and herself from a terrifying fate.

कोड जनरेशन

फ्यू-शॉट प्रॉम्प्टिंग LLMs को ऐसा कोड जनरेट करने में बेहद उपयोगी हो सकती है जो विशिष्ट परंपराओं का पालन करे, सर्वोत्तम प्रथाओं के अनुरूप हो, या खास आवश्यकताओं को पूरा करे। उदाहरण किसी विशेष प्रोग्रामिंग भाषा के लिए सही सिंटैक्स और संरचना दिखा सकते हैं।

आइए देखें कि डॉकस्ट्रिंग्स और टाइप हिंट्स के साथ Python फ़ंक्शंस जनरेट करने के लिए फ्यू-शॉट प्रॉम्प्टिंग कैसे उपयोग करें:

def calculate_area(length: float, width: float) -> float:    """    Calculate the area of a rectangle.    Args:        length (float): The length of the rectangle.        width (float): The width of the rectangle.    Returns:        float: The area of the rectangle.    """    return length * widthdef celsius_to_fahrenheit(celsius: float) -> float:    """    Convert temperature from Celsius to Fahrenheit.    Args:        celsius (float): Temperature in Celsius.    Returns:        float: Temperature in Fahrenheit.    """    return (celsius * 9/5) + 32def calculate_bmi(weight: float, height: float) -> float:    """    [Generate a docstring for this function]    """    # [Generate the function body]

यह प्रॉम्प्ट मॉडल को उचित टाइप हिंट्स और विस्तृत डॉकस्ट्रिंग के साथ फ़ंक्शन बनाने का मार्ग दिखाता है, तय पैटर्न का पालन करते हुए।

आउटपुट होगा:

def calculate_bmi(weight: float, height: float) -> float:    """    Calculate the Body Mass Index (BMI) of a person.    Args:        weight (float): The weight of the person in kilograms.        height (float): The height of the person in meters.    Returns:        float: The calculated BMI value.    Note:        BMI is calculated as weight (kg) divided by height squared (m^2).        This function assumes weight is in kilograms and height is in meters.    """    return weight / (height ** 2)

फ्यू-शॉट प्रॉम्प्टिंग: चुनौतियाँ और सर्वोत्तम प्रथाएँ

हालाँकि फ्यू-शॉट प्रॉम्प्टिंग कई मामलों में अच्छा काम करती है, इसकी अपनी चुनौतियाँ हैं। इन चुनौतियों को समझना और सर्वोत्तम प्रथाओं का पालन करना हमारे प्रॉम्प्ट्स की प्रभावशीलता अधिकतम करने और बेहतर परिणाम पाने में मदद कर सकता है।

प्रभावी उदाहरणों का चयन

आपके चुने गए उदाहरणों की गुणवत्ता और प्रासंगिकता सफल फ्यू-शॉट प्रॉम्प्टिंग के लिए बेहद महत्वपूर्ण है। कुछ सुझाव:

• सुनिश्चित करें कि उदाहरण सीधे उस कार्य से जुड़े हों जो आप मॉडल से कराना चाहते हैं। अप्रासंगिक उदाहरण मॉडल को भ्रमित कर सकते हैं और प्रदर्शन खराब कर सकते हैं।
• ऐसे विविध उदाहरणों का उपयोग करें जो कार्य के अलग-अलग पहलुओं को कवर करें। इससे मॉडल नए इनपुट्स पर बेहतर सामान्यीकरण कर पाता है।
• उदाहरण स्पष्ट और निर्विवाद होने चाहिए। जटिल या उलझे हुए उदाहरणों से बचें जो मॉडल को भ्रमित कर सकते हैं।

प्रॉम्प्ट डिज़ाइन

प्रभावी प्रॉम्प्ट बनाना एक कला है, जिसमें यह सावधानी से सोचना होता है कि उदाहरण कैसे प्रस्तुत किए जाएँ और कार्य को कैसे फ्रेम किया जाए। आप निम्न रणनीतियाँ अपना सकते हैं:

• सभी उदाहरणों के लिए एक समान फ़ॉर्मैट बनाए रखें। इससे मॉडल उस पैटर्न को पहचान पाता है जिसका उसे पालन करना है।
• प्रॉम्प्ट में पर्याप्त संदर्भ दें ताकि कार्य स्पष्ट हो। कभी-कभी संक्षिप्त निर्देश या विवरण उदाहरणों के लिए परिप्रेक्ष्य सेट करने में मदद करता है।
• प्रॉम्प्ट को यथासंभव सरल रखें, जबकि आवश्यक जानकारी अवश्य दें। अत्यधिक जटिल प्रॉम्प्ट भ्रम पैदा कर सकते हैं।

ओवरफिटिंग से बचना

फ्यू-शॉट प्रॉम्प्टिंग का एक जोखिम यह है कि मॉडल दिए गए उदाहरणों पर ही ओवरफिट हो जाए, जिससे आउटपुट बहुत अधिक उन्हीं उदाहरणों जैसा हो या नए इनपुट्स पर सही ढंग से सामान्यीकृत न हो। इससे बचने के लिए:

• ऐसे विविध उदाहरणों का उपयोग करें जो अलग-अलग परिस्थितियाँ और किनारी मामले कवर करें। इससे मॉडल उदाहरणों की नकल भर नहीं करता, बल्कि सामान्यीकरण सीखता है।
• बहुत अधिक उदाहरणों का उपयोग करने से बचें, क्योंकि इससे ओवरफिटिंग हो सकती है। कुछ अच्छे से चुने हुए उदाहरण अक्सर बड़ी संख्या में समान उदाहरणों से अधिक प्रभावी होते हैं।
• नए इनपुट्स की एक श्रृंखला पर मॉडल का प्रदर्शन जाँचें ताकि सुनिश्चित हो कि वह अच्छा सामान्यीकरण कर रहा है। इन परीक्षणों के आधार पर उदाहरणों और प्रॉम्प्ट में आवश्यकतानुसार संशोधन करें।

इन सर्वोत्तम प्रथाओं का पालन करने से आप अधिक प्रभावी फ्यू-शॉट प्रॉम्प्ट बना पाएँगे जो मॉडल को वांछित कार्य को सटीक और दक्षता से करने में मार्गदर्शन करें। 

निष्कर्ष

फ्यू-शॉट प्रॉम्प्टिंग एक तकनीक है जो LLMs को अपने ज्ञान को विशिष्ट कार्यों पर लागू करने में मदद करती है।

यह व्यापक रीट्रेनिंग के बिना नए कार्यों के लिए त्वरित अनुकूलन की अनुमति देती है। यह प्रासंगिक उदाहरण देकर जटिल कार्यों पर सटीकता बढ़ाती है। यह तर्क से लेकर रचनात्मक लेखन और कोडिंग तक विभिन्न डोमेनों में उपयोगी है और उन्नत भाषा मॉडलों को अधिक सुलभ और अनुकूलनीय बनाती है।

हालाँकि, इसकी प्रभावशीलता सावधानीपूर्वक उदाहरण चयन और प्रॉम्प्ट डिज़ाइन पर निर्भर करती है। सर्वोत्तम प्रदर्शन के लिए उदाहरणों की गुणवत्ता और प्रासंगिकता अत्यंत महत्वपूर्ण है।

आगे देखते हुए, मैं इसके संभावित दिशा-निर्देशों को लेकर उत्साहित हूँ। सोचिए, ऐसी प्रणालियाँ जो स्वतः सर्वश्रेष्ठ उदाहरण चुन सकें या अपने प्रदर्शन के आधार पर तुरंत अनुकूलित हो जाएँ। 

तो बस, फ्यू-शॉट प्रॉम्प्टिंग का सार यही है। प्रयोग करते रहें, सीखते रहें, और अगली बार फिर मिलेंगे!