GPT-4o Mini क्या है? यह कैसे काम करता है, उपयोग के मामले, API और अधिक

GPT-4o Mini क्या है?

GPT-4o mini, बड़े GPT-4o मॉडल से डिस्टिलेशन प्रक्रिया के माध्यम से तैयार किया गया है। इस प्रक्रिया में एक छोटे मॉडल को बड़े और अधिक जटिल मॉडल के व्यवहार और प्रदर्शन की नकल करने के लिए प्रशिक्षित किया जाता है, जिसके परिणामस्वरूप मूल का एक किफायती लेकिन अत्यधिक सक्षम संस्करण मिलता है।

मुख्य विशेषताएं

• बड़ा संदर्भ विंडो: GPT-4o mini, GPT-4o की 128k टोकन संदर्भ विंडो बनाए रखता है, जिससे यह लंबे पाठ को प्रभावी ढंग से संभाल सकता है। यह बड़े दस्तावेजों का विश्लेषण करने या बातचीत के इतिहास को बनाए रखने जैसे व्यापक संदर्भ वाली एप्लिकेशनों के लिए आदर्श है।
• मल्टीमॉडल क्षमताएं: मॉडल टेक्स्ट और इमेज इनपुट दोनों प्रोसेस करता है, और भविष्य में वीडियो व ऑडियो इनपुट और आउटपुट के लिए सपोर्ट की योजना है। यह बहुमुखी प्रतिभा इसे टेक्स्ट विश्लेषण से लेकर इमेज रिकग्निशन तक विभिन्न अनुप्रयोगों के लिए उपयुक्त बनाती है।
• घटी हुई लागत: GPT-4o mini अपने पूर्ववर्तियों की तुलना में कहीं अधिक किफायती है। इसकी कीमत प्रति मिलियन इनपुट टोकन $0.15 और प्रति मिलियन आउटपुट टोकन $0.60 है, जो GPT-4o मॉडल की तुलना में काफी सस्ता है, जिसकी कीमत क्रमशः $5.00 और $15.00 है। GPT-3.5 Turbo की तुलना में, GPT-4o mini 60% से अधिक सस्ता है।
• उन्नत सुरक्षा: मॉडल में GPT-4o जैसी ही सुरक्षा विशेषताएं शामिल हैं और यह API में निर्देश पदानुक्रम विधि का उपयोग करने वाला पहला मॉडल है। इससे यह जेलब्रेक, प्रॉम्प्ट इंजेक्शन, और सिस्टम प्रॉम्प्ट एक्सट्रैक्शन के खिलाफ अधिक सक्षम बनता है, जिससे इसे विभिन्न अनुप्रयोगों में सुरक्षित रूप से उपयोग किया जा सकता है।

GPT-4o mini का प्रतिस्पर्धी परिदृश्य

GPT-4o mini, Llama 3 8B, Gemini 1.5 Flash, और Claude Haiku के साथ-साथ OpenAI के अपने GPT-3.5 Turbo जैसे मॉडलों से प्रतिस्पर्धा करता है। ये मॉडल समान कार्यक्षमताएँ प्रदान करते हैं, लेकिन अक्सर अधिक लागत या कम उन्नत प्रदर्शन मेट्रिक्स के साथ आते हैं।

• Gemini 1.5 Flash: यद्यपि Gemini 1.5 Flash का आउटपुट स्पीड थोड़ा अधिक है, GPT-4o mini गुणवत्ता में उत्कृष्ट है, जिससे यह उन अनुप्रयोगों के लिए अधिक संतुलित विकल्प बनता है जिन्हें गति और उच्च शुद्धता दोनों चाहिए।
• Claude 3 Haiku और Llama 3 (8B): GPT-4o mini गुणवत्ता और आउटपुट स्पीड दोनों में इन मॉडलों से बेहतर प्रदर्शन करता है, जो इसकी दक्षता और प्रभावशीलता दर्शाता है।
• GPT-3.5 Turbo: GPT-4o mini आउटपुट स्पीड और समग्र गुणवत्ता में GPT-3.5 Turbo से बेहतर है और इसमें विज़न क्षमताएँ भी हैं जो GPT-3.5 Turbo में नहीं हैं।

स्रोत: Artificial Analysis

GPT-4o Mini कैसे काम करता है: डिस्टिलेशन की प्रक्रिया

GPT-4o mini प्रदर्शन और दक्षता का संतुलन एक प्रक्रिया, जिसे मॉडल डिस्टिलेशन कहते हैं, के माध्यम से प्राप्त करता है। मूल रूप से, इसमें एक छोटे, अधिक सुव्यवस्थित मॉडल ("छात्र") को बड़े, अधिक जटिल मॉडल ("शिक्षक") के व्यवहार और ज्ञान की नकल करने के लिए प्रशिक्षित किया जाता है।

बड़ा मॉडल, यानी GPT-4o, विशाल डेटा पर प्री-ट्रेंड है और भाषा पैटर्न, सिमेंटिक्स, यहाँ तक कि तर्क क्षमताओं की गहरी समझ रखता है। हालांकि, इसका बड़ा आकार इसे कम्प्यूटेशनल रूप से महंगा बनाता है और कुछ अनुप्रयोगों के लिए कम उपयुक्त।

मॉडल डिस्टिलेशन, बड़े GPT-4o मॉडल के ज्ञान और क्षमताओं को छोटे GPT-4o mini में स्थानांतरित करके इस समस्या का समाधान करता है। आमतौर पर, छोटे मॉडल को विविध इनपुट डेटा पर बड़े मॉडल के आउटपुट की भविष्यवाणी करना सीखाया जाता है। इस प्रक्रिया के माध्यम से, GPT-4o mini अपने बड़े समकक्ष से सबसे महत्वपूर्ण ज्ञान और कौशल को प्रभावी रूप से "डिस्टिल" कर लेता है।

नतीजा एक ऐसा मॉडल होता है जो छोटा और अधिक दक्ष होने के बावजूद मूल के अधिकांश प्रदर्शन और क्षमताओं को बनाए रखता है। GPT-4o mini जटिल भाषा कार्यों को संभाल सकता है, संदर्भ समझ सकता है, और उच्च-गुणवत्ता वाले उत्तर उत्पन्न कर सकता है—वह भी कम कम्प्यूटेशनल संसाधनों के साथ। इससे यह उन व्यापक उपयोग मामलों के लिए व्यावहारिक और किफायती समाधान बन जाता है जहाँ गति और लागत-प्रभावशीलता महत्वपूर्ण हैं।

GPT-4o Mini का प्रदर्शन

GPT-4o mini विभिन्न बेंचमार्क पर प्रभावशाली प्रदर्शन दिखाता है। मैंने प्रत्येक बेंचमार्क के लिए Claude Artifacts बनाए हैं ताकि बताया जा सके कि हर LLM बेंचमार्क क्या है और वह क्या मापता है।

तर्क/विचार संबंधी कार्य

तर्क संबंधी कार्यों के लिए, हमने GPT-4o mini का निम्नलिखित पर मूल्यांकन किया:

MMLU (Massive Multitask Language Understanding) एक बेंचमार्क है जो 57 विभिन्न विषयों—STEM, मानविकी, और सामाजिक विज्ञान सहित—में बहुविकल्पीय प्रश्नों से मॉडलों का परीक्षण करता है। प्रश्नों की कठिनाई बुनियादी से उन्नत तक होती है। यह मापता है कि कितने उत्तर सही हैं और जहाँ सटीक मिलान आवश्यक है। GPT-4o Mini ने 82.0% अंक प्राप्त किए, जो Gemini Flash (77.9%) और Claude Haiku (73.8%) जैसे प्रतिस्पर्धियों से अधिक है।

GPQA (Google-Proof Q&A Benchmark) एक कठिन डेटासेट है, जिसमें विशेषज्ञों द्वारा ऐसे प्रश्न तैयार किए गए हैं जो गैर-विशेषज्ञों के लिए चुनौतीपूर्ण हों लेकिन विशेषज्ञों के लिए प्रबंधनीय। प्रश्नों की कठिनाई और सटीकता दोनों के लिए कई चरणों में सावधानीपूर्वक पुष्टि की जाती है ताकि संदूषण जोखिम कम हो।

DROP (Discrete Reasoning Over Paragraphs) यह परीक्षण करता है कि मॉडल पैराग्राफ़ों से प्रासंगिक जानकारी कितनी अच्छी तरह निकाल सकता है और सॉर्टिंग या काउंटिंग जैसे तर्क कार्य कर सकता है। प्रदर्शन का मूल्यांकन कस्टम F1 और सटीक मिलान स्कोर से किया जाता है।

गणित और कोडिंग दक्षता

MGSM बेंचमार्क में 10 भाषाओं में अनूदित 250 प्राथमिक-स्तर के गणित प्रश्न शामिल हैं, जो बहुभाषी तर्क क्षमताओं का परीक्षण करता है।

Heuristics का Mathematics Aptitude Test (MATH) हाई-स्कूल-स्तरीय प्रतियोगी समस्याएँ प्रस्तुत करता है। यह मॉडलों का मूल्यांकन जटिल गणितीय समस्याएँ हल करने की उनकी क्षमता पर करता है, जो Latex और Asymptote में तैयार होती हैं, और सबसे चुनौतीपूर्ण प्रश्नों पर ध्यान केंद्रित करता है।

HumanEval बेंचमार्क कोड जनरेशन प्रदर्शन को मापता है, यह देखते हुए कि जनरेट किया गया कोड विशिष्ट यूनिट टेस्ट पास करता है या नहीं। यह pass@k मेट्रिक का उपयोग करता है ताकि यह निर्धारित किया जा सके कि किसी कोडिंग समस्या के लिए k समाधानों में से कम से कम एक टेस्ट पास करता है या नहीं।

मल्टीमॉडल तर्क

Massive Multitask Language Understanding (MMLU) बेंचमार्क किसी मॉडल के ज्ञान की व्यापकता, प्राकृतिक भाषा की गहराई से समझ, और समस्या-समाधान क्षमता का परीक्षण करता है। इसमें 57 विषयों में 15,000 से अधिक बहुविकल्पीय प्रश्न शामिल हैं, जो सामान्य ज्ञान से लेकर विशेष क्षेत्रों तक फैले हैं। MMLU मॉडलों का कुछ-उदाहरण और शून्य-उदाहरण सेटिंग्स में मूल्यांकन करता है, विषयों में शुद्धता मापता है और औसत लेकर अंतिम स्कोर देता है।

MathVista बेंचमार्क गणितीय और दृश्य कार्यों को संयोजित करता है, जिसमें 28 मौजूदा मल्टीमॉडल डेटासेट और 3 नए बने डेटासेट (IQTest, FunctionQA, और PaperQA) से लिए गए 6,141 उदाहरण शामिल हैं। यह उन्नत दृश्य समझ और जटिल संयोजी तर्क की आवश्यकता वाले कार्यों से मॉडलों को चुनौती देता है।

GPT-4o Mini के उपयोग के मामले

GPT-4o mini का छोटा आकार, कम लागत, और मजबूत प्रदर्शन इसे व्यक्तिगत डिवाइसों पर उपयोग, त्वरित प्रोटोटाइपिंग, और सीमित संसाधनों वाले वातावरण के लिए उपयुक्त बनाते हैं। साथ ही, इसकी रियल-टाइम प्रतिक्रिया क्षमता इंटरैक्टिव अनुप्रयोगों को बेहतर करती है। यहाँ बताया गया है कि GPT-4o mini का प्रभावी उपयोग कैसे किया जा सकता है:

GPT-4o Mini तक पहुंच

आप OpenAI API के माध्यम से GPT-4o Mini का उपयोग कर सकते हैं, जिसमें Assistants API, Chat Completions API, और Batch API जैसे विकल्प शामिल हैं। यहाँ OpenAI API के साथ GPT-4o Mini का उपयोग करने की एक सरल गाइड दी गई है।

पहले, आपको अपनी API कुंजी का उपयोग करके प्रमाणीकरण करना होगा—your_api_key_here को अपनी वास्तविक API कुंजी से बदलें। सेटअप होने के बाद, आप GPT-4o Mini के साथ टेक्स्ट जनरेट करना शुरू कर सकते हैं:

from openai import OpenAI 
MODEL="gpt-4o-mini"
## Set the API key
client = OpenAI(api_key="your_api_key_here")
completion = client.chat.completions.create(
  model=MODEL,
  messages=[
    {"role": "system", "content": "You are a helpful assistant that helps me with my math homework!"},
    {"role": "user", "content": "Hello! Could you solve 20 x 5?"}
  ]
)संचालित द्वारा

OpenAI API सेटअप और उपयोग पर अधिक विवरण के लिए, GPT-4o API ट्यूटोरियल देखें।

निष्कर्ष

GPT-4o mini एक शक्तिशाली और किफायती AI मॉडल के रूप में उभरता है, जो प्रदर्शन और वहनीयता के बीच उल्लेखनीय संतुलन स्थापित करता है।

बड़े GPT-4o मॉडल से इसका डिस्टिलेशन, बड़े संदर्भ विंडो, मल्टीमॉडल क्षमताओं, और उन्नत सुरक्षा विशेषताओं के साथ मिलकर, इसे अनुप्रयोगों की एक व्यापक श्रृंखला के लिए बहुमुखी और सुलभ विकल्प बनाता है।

जैसे-जैसे कुशल और किफायती AI समाधानों की मांग बढ़ती जा रही है, GPT-4o mini, AI तकनीक के लोकतंत्रीकरण में महत्वपूर्ण भूमिका निभाने के लिए अच्छी तरह से तैयार है।