Codestral API ट्यूटोरियल: Mistral’s API के साथ शुरुआत करें

Codestral एक अत्याधुनिक जनरेटिव मॉडल है, जिसे कोड जेनरेशन कार्यों के लिए अनुकूलित किया गया है, जिनमें fill-in-the-middle (FIM) और कोड कंप्लीशन शामिल हैं। 80 से अधिक प्रोग्रामिंग भाषाओं पर प्रशिक्षित होने के कारण, Codestral आम और कम प्रचलित दोनों भाषाओं में उत्कृष्ट प्रदर्शन करता है, जो इसे डेवलपर्स के लिए एक बहुउद्देशीय टूल बनाता है।

Codestral API का उपयोग करके, हम अपने वर्कफ़्लो में कोड जेनरेशन को ऑटोमेट और इंटीग्रेट कर सकते हैं। इस ट्यूटोरियल में, हम Codestral API का उपयोग करने के लिए चरण-दर-चरण मार्गदर्शिका प्रदान करेंगे।

यदि आप Codestral का एक ओवरव्यू चाहते हैं, तो मेरा यह लेख देखें: Mistral का Codestral क्या है।

Codestral API एंडपॉइंट्स

Codestral अलग-अलग उपयोगकर्ता आवश्यकताओं को पूरा करने के लिए दो मुख्य API एंडपॉइंट प्रदान करता है:

• codestral.mistral.ai: व्यक्तिगत उपयोगकर्ताओं और छोटे पैमाने के इंटीग्रेशन के लिए आदर्श। यह एंडपॉइंट 1 अगस्त, 2024 तक निःशुल्क है, जिसके बाद यह मासिक सब्सक्रिप्शन सेवा बन जाएगा।
• api.mistral.ai: व्यवसायों और उच्च-डिमांड वाले उपयोग मामलों के लिए डिज़ाइन किया गया, यह एंडपॉइंट बड़े पैमाने के एप्लिकेशन के लिए उच्च रेट लिमिट और मजबूत सपोर्ट प्रदान करता है।

यदि आप Codestral को किसी IDE प्लगइन का हिस्सा बनाकर उपयोग करना चाहते हैं या ऐसे टूल बनाना चाहते हैं जो उपयोगकर्ताओं को अपने स्वयं के API कुंजी के साथ सीधे एंडपॉइंट उपलब्ध कराते हों, तो Mistral codestral.mistral.ai एंडपॉइंट की सिफारिश करता है।

अन्य सभी उपयोग मामलों के लिए, उच्च रेट लिमिट और व्यावसायिक अनुप्रयोगों के लिए उपयुक्तता के कारण Mistral api.mistral.ai एंडपॉइंट की सिफारिश करता है।

इस ट्यूटोरियल में, हम Codestral की क्षमताओं को दिखाने के लिए codestral.mistral.ai एंडपॉइंट का उपयोग करेंगे।

Codestral API के साथ शुरुआत

API कुंजी प्राप्त करना

Codestral API का उपयोग करने के लिए, आपको Mistral AI पर साइन अप करना होगा और एक API कुंजी प्राप्त करनी होगी। इन चरणों का पालन करें:

चरण 1: साइन अप

Mistral AI का साइन-अप पेज पर जाएँ और एक खाता बनाएँ।

चरण 2: API कुंजी प्राप्त करें

api.mistral.ai के लिए, API Keys टैब पर जाएँ और अपनी API कुंजी बनाने के लिए Create new key पर क्लिक करें।

codestral.mistral.ai: Codestral टैब पर जाएँ (जिस पर API Keys टैब के नीचे “New” बैज लगा है) और अपनी API कुंजी प्राप्त करने के लिए पेज पर दिए गए निर्देशों का पालन करें। ध्यान दें कि वर्तमान में प्रतीक्षा सूची है, और साइन अप करने के लिए आपको फ़ोन नंबर प्रदान करना होगा। स्वीकृत होने के बाद, आप उसी पेज पर अपनी API कुंजी के साथ दो codestral.mistral.ai विशिष्ट एंडपॉइंट्स तक पहुँच सकेंगे, जैसा कि नीचे दिखाया गया है:

यह लेख Codestral को दिखाने के लिए codestral.mistral.ai एंडपॉइंट्स का उपयोग करता है, इसलिए दिए गए सभी उदाहरण उसी के अनुसार होंगे।

प्रमाणीकरण

हमारे API रिक्वेस्ट्स को प्रमाणित करने के लिए, हम requests लाइब्रेरी का उपयोग करते हुए दो Python फ़ंक्शन बनाएँगे। ये फ़ंक्शन Codestral के दो API एंडपॉइंट्स से संचार को संभालेंगे और प्रमाणीकरण के लिए प्राप्त API कुंजी को रिक्वेस्ट हेडर में शामिल करेंगे। यहाँ वे दो फ़ंक्शन हैं:

1. call_chat_endpoint — Chat Endpoint https://codestral.mistral.ai/v1/chat/completions को कॉल करने के लिए।
2. call_fim_endpoint — Completion Endpoint https://codestral.mistral.ai/v1/fim/completions को कॉल करने लिए।

Python में यह ऐसे करें:

import requests
import json

api_key = 'INSERT YOUR API KEY HERE'

def call_chat_endpoint(data, api_key=api_key):
    url = "<https://codestral.mistral.ai/v1/chat/completions>"
    headers = {
        "Authorization": f"Bearer {api_key}",
        "Content-Type": "application/json",
        "Accept": "application/json"
    }

    response = requests.post(url, headers=headers, data=json.dumps(data))

    if response.status_code == 200:
        return response.json()
    else:
        return f"Error: {response.status_code}, {response.text}"

def call_fim_endpoint(data, api_key=api_key):
    url = "<https://codestral.mistral.ai/v1/fim/completions>"
    headers = {
        "Authorization": f"Bearer {api_key}",
        "Content-Type": "application/json",
        "Accept": "application/json"
    }

    response = requests.post(url, headers=headers, data=json.dumps(data))

    if response.status_code == 200:
        return response.json()
    else:
        return f"Error: {response.status_code}, {response.text}"संचालित द्वारा

Codestral के API एंडपॉइंट्स को समझना

अब जब हमने अपनी API कुंजी प्राप्त कर ली है और प्रमाणीकरण फ़ंक्शंस सेट कर लिए हैं, तो आइए कोड जेनरेशन के लिए Codestral के दो API एंडपॉइंट्स का उपयोग करना समझें। हम fill-in-the-middle (FIM) एंडपॉइंट से शुरू करेंगे।

Fill-in-the-middle एंडपॉइंट

Fill-in-the-middle एंडपॉइंट ऐसा कोड जनरेट करने के लिए बनाया गया है जो दिए गए प्रारंभिक भाग (prompt) और एक वैकल्पिक अंतिम भाग (suffix) के बीच फ़िट हो। यह विशेष रूप से उन कार्यों में उपयोगी है जहाँ बड़े कोड स्ट्रक्चर के भीतर किसी विशिष्ट हिस्से का कोड जनरेट करना होता है।

API एंडपॉइंट URL: https://codestral.mistral.ai/v1/fim/completions

पैरामीटर्स:

• prompt: कोड का प्रारंभिक भाग।
• suffix (वैकल्पिक): कोड का अंतिम भाग।
• stop (वैकल्पिक): जेनरेशन रोकने के लिए टोकन का अनुक्रम।

उदाहरण:

prompt = "def fibonacci(n: int):"
suffix = "n = int(input('Enter a number: '))\\nprint(fibonacci(n))"
data = {
    "model": "codestral-latest",
    "prompt": prompt,
    "suffix": suffix,
    "temperature": 0
}

response = call_fim_endpoint(data)संचालित द्वारा

Instruct एंडपॉइंट

Instruct एंडपॉइंट मॉडल को कोड जनरेट करने के लिए निर्देश प्रदान करता है। यह अधिक खुले-अंत वाले कोड-जेनरेशन कार्यों में उपयोगी है।

API एंडपॉइंट URL: https://codestral.mistral.ai/v1/chat/completions

पैरामीटर्स:

• prompt: कोड जेनरेशन कार्य के लिए निर्देश।
• temperature (वैकल्पिक): जेनरेटेड कोड की रैंडमनेस को नियंत्रित करता है।
• max_tokens (वैकल्पिक): जेनरेटेड कोड की लंबाई सीमित करता है।

उदाहरण:

prompt = "Please write me a function that adds up two numbers"
data = {
    "model": "codestral-latest",
    "messages": [
        {
            "role": "user",
            "content": prompt
        }
    ],
    "temperature": 0
}

response = call_chat_instruct_endpoint(data)संचालित द्वारा

उन्नत API उपयोग

रेट लिमिट्स

प्रत्येक एंडपॉइंट के रेट लिमिट अलग-अलग हैं:

• codestral.mistral.ai: प्रति मिनट 30 रिक्वेस्ट और प्रति दिन 2000 रिक्वेस्ट।
• api.mistral.ai: प्रति वर्कस्पेस प्रति सेकंड 200 रिक्वेस्ट।

सुगम संचालन सुनिश्चित करने और उपयोग प्रतिबंधों से बचने के लिए रेट लिमिट का प्रबंधन महत्वपूर्ण है। एक प्रभावी रणनीति रिट्राय लॉजिक लागू करना है, जो निर्दिष्ट देरी के बाद रिक्वेस्ट को रोककर फिर से सबमिट करता है—हम इस देरी को जोड़ने के लिए Python की time लाइब्रेरी का उपयोग कर सकते हैं।

वैकल्पिक रूप से, आप अपनी API उपयोगिता का ट्रैक रख सकते हैं ताकि आप अनुमत सीमाओं के भीतर रहें। आप किए गए रिक्वेस्ट की संख्या लॉग कर सकते हैं और उन्हें रेट लिमिट्स से तुलना कर सकते हैं।

एरर हैंडलिंग

सामान्य एरर कोड्स में शामिल हैं:

• 401 Unauthorized: अमान्य API कुंजी या प्रमाणीकरण अनुपस्थित।
• 429 Too Many Requests: रेट लिमिट पार हो गई।
• 500 Internal Server Error: Mistral AI की ओर सर्वर समस्या।

401 Unauthorized एरर के लिए, API कुंजी की जाँच करें और सुनिश्चित करें कि वह रिक्वेस्ट हेडर में सही ढंग से शामिल है।

429 Too Many Requests एरर के लिए, देरी के बाद रिक्वेस्ट को फिर से आज़माने हेतु रिट्राय लॉजिक लागू करने का प्रयास करें।

500 Internal Server Error को संभालने के लिए भी रिट्राय लॉजिक उपयोगी है, ताकि बाद में रिक्वेस्ट फिर से आज़माई जा सके।

आउटपुट को कस्टमाइज़ करना

आउटपुट के फ़ॉर्मेट और शैली को नियंत्रित करने के लिए, आप prompt (उसे अधिक विशिष्ट या सामान्य बनाना) और temperature (मॉडल की क्रिएटिविटी नियंत्रित करना) जैसे पैरामीटर्स समायोजित कर सकते हैं।

इन पैरामीटर्स के साथ प्रयोग करें ताकि जेनरेटेड कोड में क्रिएटिविटी और प्रेडिक्टेबिलिटी के बीच संतुलन को फाइन-ट्यून किया जा सके।

Codestral API का इंटीग्रेशन

Codestral केवल एक स्टैंडअलोन API के रूप में ही कार्य नहीं करता—हम इसे अपने मौजूदा डेवलपमेंट वर्कफ़्लो में भी इंटीग्रेट कर सकते हैं। आइए इसे करने के दो प्रमुख तरीकों का पता लगाएँ: IDE और टेक्स्ट एडिटर इंटीग्रेशन के माध्यम से या कस्टम स्क्रिप्ट बनाकर।

IDEs और टेक्स्ट एडिटर्स

Codestral लोकप्रिय IDEs और टेक्स्ट एडिटर्स के साथ प्लगइन्स या एक्सटेंशंस के माध्यम से सहजता से इंटीग्रेट हो जाता है। उदाहरण के लिए, आप VS Code या JetBrains के लिए Continue.dev के साथ Codestral सेट कर सकते हैं:

1. VS Code या JetBrains के लिए Continue एक्सटेंशन इंस्टॉल करें।
2. प्रोवाइडर के रूप में Mistral API चुनें और मॉडल के रूप में Codestral का चयन करें।
3. Codestral API कुंजी प्राप्त करने के लिए Get API Key पर क्लिक करें।
4. Add model पर क्लिक करें, जो स्वचालित रूप से config.json भर देगा।

कस्टम स्क्रिप्ट्स

आप कोड जेनरेशन कार्यों के लिए Codestral API का लाभ उठाने वाली कस्टम स्क्रिप्ट्स या एप्लिकेशन बना सकते हैं। यहाँ एक सरल उदाहरण है जो टेस्ट फ़ंक्शंस जनरेट करता है:

prompt="""Sure, here is a simple function in Python that adds up two numbers:

def add_two_numbers(num1, num2):
    return num1 + num2

You can use this function like this:
result = add_two_numbers(5, 3)
print(result)  # Outputs: 8

This function takes two arguments, num1 and num2, and returns their sum.\ndef test_add_two_numbers():""" 

suffix="" 

data = { "model": "codestral-latest", "prompt": prompt, "suffix": suffix, "temperature": 0 }

response = call_fim_endpoint(data)संचालित द्वारा

Codestral API के उपयोग के सर्वोत्तम अभ्यास

Codestral का अधिकतम लाभ उठाने के लिए, आइए API का प्रभावी और जिम्मेदार उपयोग करने के कुछ सर्वोत्तम अभ्यासों पर नज़र डालें।

स्पष्ट और संक्षिप्त प्रॉम्प्ट्स

Codestral API का उपयोग करते समय स्पष्टता सर्वोपरि है। इच्छित कोड आउटपुट प्राप्त करने के लिए सुनिश्चित करें कि आपके प्रॉम्प्ट्स या निर्देश सुव्यवस्थित और अस्पष्टता-रहित हों। विशिष्ट और प्रसंगयुक्त प्रॉम्प्ट्स देकर आप मॉडल को ऐसा कोड जनरेट करने के लिए मार्गदर्शन कर सकते हैं जो आपकी अपेक्षाओं के अनुरूप हो।

पुनरावृत्त परिष्करण

Codestral API के साथ अपने इंटरैक्शन को अनुकूलित करना परिष्करण की एक पुनरावृत्त प्रक्रिया है। इच्छित परिणाम प्राप्त करने के लिए विभिन्न पैरामीटर्स, प्रॉम्प्ट्स और इनपुट्स के साथ प्रयोग करें। जेनरेटेड कोड आउटपुट का विश्लेषण करें और उनके आधार पर अपने प्रॉम्प्ट्स में समायोजन करें। अपने दृष्टिकोण को लगातार परिष्कृत करके, आप समय के साथ जेनरेटेड कोड की गुणवत्ता और प्रासंगिकता में सुधार कर सकते हैं।

जिम्मेदार उपयोग

Codestral API का जिम्मेदारी से उपयोग करना महत्वपूर्ण है। सुनिश्चित करें कि API का आपका उपयोग नैतिक और कानूनी मानकों के अनुरूप है। ऐसा कोड जनरेट करने से बचें जो दुर्भावनापूर्ण या हानिकारक हो सकता है। सुरक्षित और नैतिक प्रोग्रामिंग के सर्वोत्तम अभ्यासों का पालन करें और दूसरों की गोपनीयता और अधिकारों का सम्मान करें। API का जिम्मेदार उपयोग एक सकारात्मक और टिकाऊ डेवलपमेंट वातावरण में योगदान देता है।

निष्कर्ष

इस ट्यूटोरियल में कोड जेनरेशन के लिए Codestral API का उपयोग करने की एक व्यावहारिक मार्गदर्शिका प्रदान की गई। हमने विभिन्न एंडपॉइंट्स, सर्वोत्तम अभ्यासों और इंटीग्रेशन विकल्पों का अन्वेषण किया।

मैं आपको प्रोत्साहित करता हूँ कि आप API के साथ प्रयोग करें और देखें कि यह आपके अपने डेवलपमेंट वर्कफ़्लो को कैसे बेहतर बना सकता है।

Mistral के बारे में अधिक जानने के लिए, यह Mistral 7B ट्यूटोरियल और यह Mistral large मॉडल के साथ काम करने की गाइड देखें।