GitHub Models: व्यावहारिक उदाहरणों के साथ एक मार्गदर्शिका

GitHub Models क्या हैं?

GitHub Models ऐसे AI मॉडल हैं जो सीधे GitHub प्लेटफ़ॉर्म में निर्मित हैं ताकि आप कोड, रिपॉज़िटरीज़ और डॉक्स के साथ और अधिक स्मार्ट व तेज़ी से काम कर सकें। GitHub Models आपको यह करने देता है:

• प्रॉम्प्ट विकसित करें एक संरचित एडिटर में, जो सिस्टम निर्देश, टेस्ट इनपुट और पैरामीटर कॉन्फ़िगरेशन सपोर्ट करता है।
• मॉडलों की साथ‑साथ तुलना करें, समान प्रॉम्प्ट्स को अलग‑अलग मॉडलों पर आज़माते हुए।
• आउटपुट का मूल्यांकन करें समानता, प्रासंगिकता या कस्टम मूल्यांकक जैसी मीट्रिक्स से प्रदर्शन ट्रैक करने के लिए।
• प्रॉम्प्ट कॉन्फ़िगरेशन स्टोर करें .prompt.yml फ़ाइलों के रूप में वर्ज़न कंट्रोल और पुनरुत्पादन के लिए।
• मॉडलों को इंटीग्रेट करें प्रोडक्शन में SDKs या REST API के ज़रिए।

वर्ज़न कंट्रोल आपको प्रॉम्प्ट्स पर उसी तरह सहयोग करने देता है जैसे आप कोड पर करते हैं। जब आप कोई प्रॉम्प्ट फ़ाइल कमिट करते हैं, तो वह उसी पुल रिक्वेस्ट फ्लो से गुज़रती है, जिससे आपकी टीम जान पाती है कि बदलाव किसने किए, क्या बदला और क्यों।

GitHub Models उन सॉफ़्टवेयर टीमों के लिए एक उपयोगी प्लेटफ़ॉर्म है जो AI का उपयोग करना चाहती हैं और उसे अपने मौजूदा वर्कफ़्लो के साथ क़रीबी रूप से एकीकृत रखना चाहती हैं।

GitHub Models की मुख्य विशेषताएँ

GitHub Models का उपयोग कैसे करें, इस पर गहराई में जाने से पहले, संक्षेप में मुख्य फीचर्स पर नज़र डालते हैं:

1. GitHub द्वारा होस्टेड: आपको सर्वर या GPU प्रबंधित नहीं करने पड़ते। मॉडल GitHub के इन्फ्रास्ट्रक्चर पर चलते हैं, जिससे डिफ़ॉल्ट रूप से एंटरप्राइज़‑ग्रेड सुरक्षा और प्रदर्शन मिलता है।
2. स्ट्रक्चर्ड प्रॉम्प्ट्स और स्कीमा: आप JSON स्कीमा के माध्यम से सटीक इनपुट और आउटपुट संरचना परिभाषित कर सकते हैं। इससे प्रतिक्रियाएँ पूर्वानुमेय और एकीकृत करना आसान हो जाता है।
3. मल्टी‑मॉडल तुलना: Playground आपको एक साथ कई मॉडलों पर प्रॉम्प्ट्स टेस्ट करने देता है। इससे आप लागत और प्रदर्शन के आधार पर तुलना करके अपनी ज़रूरत के अनुसार सर्वोत्तम विकल्प चुन सकते हैं।
4. मूल्यांकन उपकरण: बिल्ट‑इन इवैलुएटर्स प्रासंगिकता या ग्राउंडेडनेस जैसी मात्रात्मक मीट्रिक्स देते हैं। आप डोमेन‑विशिष्ट जाँचों के लिए कस्टम इवैलुएटर्स भी लिख सकते हैं।
5. इंटीग्रेशन पाथ्स: तेज़ प्रयोगों के लिए Playground, ऑटोमेशन के लिए REST API, CI/CD के लिए GitHub Actions, और संवादात्मक उपयोग के लिए CLI या Copilot Chat का उपयोग करें।
6. प्रीसेट्स और प्रॉम्प्ट एडिटर: अपने Playground स्टेट—पैरामीटर, चैट हिस्ट्री आदि सहित—का एक प्रीसेट सेव करें ताकि आप बाद में उसे शेयर या उस पर पुनरावृत्ति कर सकें। प्रॉम्प्ट एडिटर आपको अपने प्रॉम्प्ट्स डिज़ाइन करने की सुविधा देता है।

संक्षेप में, GitHub Models आपके विचार को कॉन्सेप्ट से प्रोडक्शन तक ले जाने के लिए बना है। आप प्रयोग से शुरू कर सकते हैं, उनका मूल्यांकन कर सकते हैं, और फिर डिप्लॉय कर सकते हैं—वह भी सब कुछ एक ही जगह पर। 

GitHub Models का उपयोग कैसे करें

आप GitHub Models के साथ कई तरीकों से इंटरैक्ट कर सकते हैं। सही तरीका इस पर निर्भर करता है कि आप प्रयोग कर रहे हैं, कोई वर्कफ़्लो ऑटोमेट कर रहे हैं, या किसी एप्लिकेशन में AI इंटीग्रेट कर रहे हैं।

आगे के सेक्शनों में इन विभिन्न तरीकों की विस्तृत व्याख्या और संबंधित उदाहरण दिए गए हैं।

Playground में GitHub Models का उपयोग

Playground शुरुआत करने का मेरा पसंदीदा तरीका है। यह एक सैंडबॉक्स है जहाँ आप प्रॉम्प्ट्स के साथ प्रयोग कर सकते हैं, पैरामीटर्स समायोजित कर सकते हैं और मॉडलों की साथ‑साथ तुलना कर सकते हैं। 

आप इसे GitHub Marketplace या सीधे किसी रिपॉज़िटरी से एक्सेस कर सकते हैं।

चलें, पहले कोई मॉडल चुनते हैं। Playground में कोई मॉडल खोलने के लिए GitHub Marketplace पर जाएँ और ड्रॉपडाउन मेनू से कोई मॉडल चुनें। आप कैटलॉग ब्राउज़ करने के लिए “View all models” पर क्लिक कर सकते हैं, फिर किसी भी मॉडल पर “Playground” चुनें।

Playground में आने के बाद, आप temperature, अधिकतम tokens, और presence या frequency penalties जैसे पैरामीटर्स समायोजित कर सकते हैं। 

सिस्टम प्रॉम्प्ट और किसी बग के विवरण वाला यूज़र प्रॉम्प्ट दर्शाने वाला स्क्रीनशॉट।

“Code” टैब पर स्विच करने से आपकी चुनी हुई प्रोग्रामिंग भाषा के SDK का उपयोग करके संबंधित API कॉल दिखती है, जिससे आप इसे अपने स्क्रिप्ट्स में दोहरा सकते हैं। 

और यदि आप अपने मॉडल के बगल में "Compare" पर क्लिक करते हैं, तो तुलना के लिए दूसरा मॉडल चुन सकते हैं। Playground तब आपके प्रॉम्प्ट को दोनों मॉडलों पर मिरर करेगा और प्रतिक्रियाएँ साथ‑साथ दिखाएगा। यह फीचर विशिष्ट कार्यों के लिए मॉडल्स की तुलना करने में बेहतरीन है।

फिर भी, आप मुख्यतः दो मॉडलों की तुलना केवल अंतर्ज्ञान से नहीं, बल्कि वस्तुनिष्ठ मीट्रिक्स से करना चाहेंगे। यहीं इवैलुएटर्स काम आते हैं। आप प्रत्येक आउटपुट पर similarity या groundedness जैसे इवैलुएटर्स लागू कर सकते हैं, या डोमेन‑विशिष्ट मीट्रिक्स के लिए कस्टम इवैलुएटर्स लिख सकते हैं। 

और यदि आपको कोई पसंदीदा प्रॉम्प्ट‑पैरामीटर संयोजन मिल जाए, तो उसे प्रीसेट के रूप में सेव करें। प्रीसेट्स आपका स्टेट, पैरामीटर्स और वैकल्पिक चैट हिस्ट्री स्टोर करते हैं। आप बाद में प्रीसेट लोड कर सकते हैं या URL के ज़रिए साझा कर सकते हैं, जो आपकी टीम के साथ सहयोग के लिए बिल्कुल उपयुक्त है।

एक नया प्रीसेट बनाना जिसे वर्ज़न किया जा सकता है और टीम के साथ साझा किया जा सकता है।

अपने निजी प्रोजेक्ट्स में, मैंने Playground का उपयोग यूनिट टेस्ट बनाने, कमिट समरी बनाने, और एरर संदेशों पर विचार‑मंथन करने तक के लिए किया है। यह देखने का सबसे तेज़ तरीका है कि आपका मॉडल आपकी रिपॉज़िटरी के संदर्भ के साथ क्या कर सकता है।

API के ज़रिए GitHub Models का उपयोग

Playground मॉडलों को समझने, उनकी विशेषताएँ एक्सप्लोर करने और उनके साथ खेलने के लिए बढ़िया है।

लेकिन मैं सुझाव दूँगा कि आप एक कदम आगे बढ़ें और GitHub Models का उपयोग अपने वर्कफ़्लो ऑटोमेट करने या उन्हें अपनी एप्लिकेशनों में इंटीग्रेट करने के लिए करें। उस स्थिति में, आपको GitHub Models API का उपयोग करना होगा।

कच्चे API का उपयोग कैसे करें, इसका एक ओवरव्यू यहाँ है:

• एंडपॉइंट: POST /inference/chat/completions या संगठन‑स्कोप्ड रिक्वेस्ट्स के लिए /orgs/{org}/inference/chat/completions।
• ऑथेंटिकेशन: टोकन में models: read permission होना चाहिए (फाइन‑ग्रेन PAT या GitHub App टोकन)। Authorization: Bearer <TOKEN> हेडर आवश्यक है।
• रिक्वेस्ट बॉडी: model ID (जैसे openai/gpt‑4.1) और संदेशों की एक array दें, जिनमें प्रत्येक का role (system, user, assistant, या developer) और content हो। आप max_tokens, temperature, frequency_penalty, presence_penalty, और response_format जैसे पैरामीटर्स भी सेट कर सकते हैं।
• रिस्पॉन्स: API एक JSON ऑब्जेक्ट लौटाता है जिसमें choices array में मॉडल की प्रतिक्रिया होती है।

नीचे requests का उपयोग करता एक सरल Python उदाहरण है (मानकर कि आपके पास models: read स्कोप वाला पर्सनल एक्सेस टोकन है)।

आप यह टोकन अपनी GitHub settings में बना सकते हैं।

import osimport requests# Replace with your fine-grained PATtoken = os.getenv('GITHUB_PAT')url = "https://models.github.ai/inference/chat/completions"payload = {    "model": "openai/gpt-4.1",    "messages": [        {"role": "system", "content": "You are a helpful coding assistant."},        {"role": "user", "content": "Explain the concept of recursion."}    ],    "max_tokens": 150,    "temperature": 0.3}headers = {    "Content-Type": "application/json",    "Accept": "application/vnd.github+json",    "Authorization": f"Bearer {token}"}response = requests.post(url, json=payload, headers=headers)print(response.json())

यह स्क्रिप्ट GPT‑4.1 मॉडल को एक चैट प्रॉम्प्ट भेजती है और सहायक का उत्तर प्रिंट करती है। व्यवहार में, आप इस कॉल को किसी बॉट, CI वर्कफ़्लो या कस्टम टूल में एम्बेड करेंगे।

आप GitHub Models Playground UI के अंदर “Code” टैब भी देख सकते हैं, यदि आप अपने GitHub मॉडल से संवाद करने के लिए किसी हाई‑लेवल Python लाइब्रेरी का उपयोग करना चाहते हैं, या किसी अन्य प्रोग्रामिंग भाषा का। कोड टैब में, आप Python के लिए Azure AI Inference SDK या OpenAI SDK में से चुन भी सकते हैं।

Azure AI Inference SDK या OpenAI SDK में से किसी एक का उपयोग करके GitHub Model से संवाद करने के लिए कोड अनुभाग

मैं इस तरीके की सिफारिश कच्चे requests पैकेज के बजाय करूँगा, क्योंकि यह कुछ जटिलता को दूर कर देता है। लेकिन कोड सभी मॉडलों के लिए उपलब्ध नहीं है।

वर्कफ़्लो में AI मॉडल इंटीग्रेट करना

जब आप Playground और API के साथ सहज हो जाएँ, तो असली ताकत आपके रोज़मर्रा के डेवलपमेंट प्रोसेस में मॉडलों को इंटीग्रेट करने से आती है। GitHub Copilot Chat, GitHub Actions और GitHub CLI के लिए एक्सटेंशन प्रदान करता है।

Copilot Chat एक्सटेंशन

यदि आपके पास Copilot सब्सक्रिप्शन है, तो GitHub Models Copilot Extension इंस्टॉल करें। यह आपको Copilot Chat के भीतर विशेष मॉडलों से सीधे बात करने देता है और यहाँ तक कि मानदंडों के आधार पर मॉडल सुझाने के लिए एक्सटेंशन से पूछने की सुविधा देता है (उदा., “कम‑लागत वाला ऐसा कौन‑सा मॉडल है जो फ़ंक्शन कॉलिंग सपोर्ट करता है?”)। आप चैट में @models YOUR‑PROMPT टाइप करें और अपना मॉडल चुनें।

GitHub Actions

आप models: read परमिशन सेट करके और HTTP रिक्वेस्ट करके वर्कफ़्लो फ़ाइल के अंदर इन्फरेंस API कॉल कर सकते हैं। GitHub के डॉक्स एक उदाहरण देते हैं जिसमें curl से API कॉल की जाती है और रिस्पॉन्स को वर्कफ़्लो आउटपुट में पोस्ट किया जाता है। 

यह रहा स्निपेट:

name: Use GitHub Modelson: [push]permissions:  models: readjobs:  call-model:    runs-on: ubuntu-latest    steps:      - name: Call AI model        env:          GITHUB_TOKEN: ${{ secrets.GITHUB_TOKEN }}        run: |          curl "https://models.github.ai/inference/chat/completions" \             -H "Content-Type: application/json" \             -H "Authorization: Bearer $GITHUB_TOKEN" \             -d '{              "messages": [                  {                     "role": "user",                     "content": "Explain the concept of recursion."                  }               ],               "model": "openai/gpt-4o"            }'

GitHub CLI एक्सटेंशन

मैं कभी‑कभी कमांड लाइन से किसी मॉडल को क्वेरी भेजना पसंद करता/करती हूँ—आख़िर मैं एक सच्चा डेवलपर नर्ड हूँ।

यदि आपको भी कमांड लाइन पसंद है, तो CLI टूल और GitHub Models CLI एक्सटेंशन इंस्टॉल करें। 

CLI टूल इंस्टॉल करने के निर्देश आपको आधिकारिक CLI docs में मिलेंगे।

सबसे पहले, अपने GitHub अकाउंट में लॉगिन करने के लिए gh auth login चलाएँ।

GitHub CLI के साथ ऑथेंटिकेशन चलाने का आउटपुट (लेखक द्वारा इमेज)।

ऑथेंटिकेट करने के बाद, gh extension install https://github.com/github/gh-models चलाएँ। 

इसके बाद आप एक ही कमांड से किसी मॉडल को प्रॉम्प्ट कर सकते हैं: 

# ask GPT-4 why the sky is bluegh models run openai/gpt-4.1 "why is the sky blue?"# or start a chat sessiongh models run

यह स्क्रिप्टिंग के लिए या जब आपको टर्मिनल छोड़े बिना त्वरित उत्तर चाहिए हों, तब बिल्कुल उपयुक्त है।

एंटरप्राइज़ स्तर पर GitHub Models

यदि आप किसी बड़े संगठन का हिस्सा हैं, तो GitHub Models एंटरप्राइज़‑स्तरीय नियंत्रण और कस्टमाइज़ेशन का विकल्प देता है।

GitHub के दस्तावेज़ों के अनुसार, फ़ायदों में शामिल हैं:

• केंद्रीकृत मॉडल प्रबंधन: एडमिन यह नियंत्रित कर सकते हैं कि पूरे संगठन में डेवलपर्स के लिए कौन‑से AI मॉडल और प्रदाता उपलब्ध हों।
• कस्टम मॉडल: आप अपने खुद के LLM API कीज़ जोड़कर बाहरी या कस्टम मॉडल कनेक्ट कर सकते हैं, जिससे आपका संगठन मौजूदा सब्सक्रिप्शनों के माध्यम से सीधे भुगतान कर सके।
• गवर्नेंस और अनुपालन: मानकों को लागू करें और मॉडल उपयोग की निगरानी करें ताकि GDPR, SOC 2 या ISO 27001 आवश्यकताओं का अनुपालन सुनिश्चित हो सके।
• लागत अनुकूलन: अलग‑अलग मॉडलों की लागत और प्रदर्शन का मूल्यांकन करें और कम महत्वपूर्ण कार्यों के लिए सबसे किफ़ायती विकल्प चुनें।
• सहयोग और वर्ज़न कंट्रोल: प्रॉम्प्ट्स और परिणाम रिपॉज़िटरी में स्टोर होते हैं और पुल रिक्वेस्ट्स के अधीन होते हैं, जिससे टीमें पूर्ण दृश्यता के साथ पुनरावृत्ति कर सकती हैं।
• हाई‑थ्रूपुट API: Models REST API का उपयोग प्रॉम्प्ट्स प्रबंधित करने, प्रोग्रामेटिक रूप से इन्फरेंस रिक्वेस्ट्स चलाने और GitHub Actions या बाहरी सिस्टम्स के साथ इंटीग्रेट करने के लिए करें।

जिन बड़े प्रोजेक्ट्स पर मैंने काम किया है, वहाँ ये नियंत्रण मायने रखते हैं। जब कई टीमें AI के साथ प्रयोग कर रही हों, तो आप नहीं चाहेंगे कि एक ही कार्य के लिए 50 अलग‑अलग प्रॉम्प्ट्स हों या API बिल अनियंत्रित हो जाएँ। GitHub Models आपको टीमों में सुसंगत प्रॉम्प्ट्स लागू करने और मॉडलों का मूल्यांकन करने देता है, जिससे पूरी संस्था सामूहिक सीख का लाभ उठा सके।

आपको GitHub Models कब उपयोग करने चाहिए?

इतने सारे AI टूल्स उपलब्ध होने पर, GitHub Models को सीधे OpenAI API या केवल Copilot जैसी वैकल्पिक चीज़ों पर कब तरजीह देना समझदारी है? 

मेरे अनुभव के आधार पर कुछ दिशानिर्देश:

• यदि आप पहले से GitHub पर हैं और न्यूनतम सेटअप चाहते हैं, तो Models टैब और Playground बिल्कुल उपयुक्त हैं। सब कुछ होस्टेड है, जिससे आप इन्फ्रास्ट्रक्चर की बजाय प्रॉम्प्ट्स और मूल्यांकन पर ध्यान दे सकते हैं।
• यदि आपको स्ट्रक्चर्ड प्रॉम्प्ट्स और रिस्पॉन्स चाहिए (उदा., किसी ऑटोमेटेड लेबलिंग पाइपलाइन के लिए JSON आउटपुट), तो GitHub Models का स्कीमा सपोर्ट सुसंगत परिणाम सुनिश्चित करने में मदद करता है।
• यदि आपको मॉडलों की तुलना करनी है या टीम के रूप में प्रॉम्प्ट्स पर पुनरावृत्ति करनी है, तो बिल्ट‑इन तुलना और मूल्यांकन टूल्स, OpenAI API को मैन्युअली हिट करने की तुलना में प्रयोग को बहुत आसान बनाते हैं।
• यदि आप आंतरिक टूलिंग बना रहे हैं (बॉट्स, एक्शंस, स्क्रिप्ट्स) और सब कुछ GitHub इकोसिस्टम के भीतर रखना चाहते हैं, तो Models API GitHub Actions, CLI और Copilot के साथ साफ़‑सुथरे ढंग से इंटीग्रेट होता है।
• यदि आप प्रयोग कर रहे हैं या प्रॉम्प्ट इंजीनियरिंग सीख रहे हैं, तो Playground से शुरुआत करें। सहज होने पर API इंटीग्रेशन की ओर बढ़ें।

दूसरी ओर, यदि आपके पास पहले से किसी अन्य AI प्रदाता के साथ मजबूत पाइपलाइन है या आपको ऐसा मॉडल चाहिए जो GitHub होस्ट नहीं करता, तो आप अपनी मौजूदा व्यवस्था पर कायम रहना चाहेंगे। GitHub Models आपका टूलबॉक्स बढ़ाता है—AI से संबंधित हर चीज़ का प्रतिस्थापन नहीं है।

निष्कर्ष

GitHub Models के साथ, डेवलपर्स अब प्रॉम्प्ट की कल्पना से लेकर प्रोडक्शन इंटीग्रेशन तक अपनी रिपॉज़िटरी छोड़े बिना जा सकते हैं। 

आप Playground में मॉडलों पर प्रयोग कर सकते हैं, बिल्ट‑इन मीट्रिक्स से उनका मूल्यांकन कर सकते हैं, वर्ज़न‑नियंत्रित सहयोग के लिए प्रॉम्प्ट्स सेव कर सकते हैं, और API, GitHub Actions या CLI के ज़रिए मॉडलों को कॉल कर सकते हैं। एंटरप्राइज़ टीमों के लिए, GitHub गवर्नेंस, लागत नियंत्रण और अपने मॉडल लाने की क्षमता जोड़ता है—जो बड़ी संस्थाओं की AI अपनाने को लेकर कई चिंताओं का समाधान करता है।

मेरी सिफारिश? छोटा शुरू करें। Playground में प्रॉम्प्ट्स टेस्ट करें, इश्यूज़ का सारांश बनाएं, या डॉक्यूमेंटेशन जनरेट करें। फिर, अपने सर्वश्रेष्ठ प्रॉम्प्ट को किसी दोहराए जाने वाले कार्य के लिए GitHub Action में इंटीग्रेट करें। समय के साथ, आप जान पाएँगे कि AI आपको सबसे ज़्यादा समय कहाँ बचाता है। और क्योंकि सब कुछ वर्ज़न‑कंट्रोल और पारदर्शी है, आप भरोसा बना सकते हैं और चलते‑चलते अपने वर्कफ़्लो को निखार सकते हैं।