Databricks पर DeepSeek R1 को तैनात करना: चरण-दर-चरण मार्गदर्शिका

Databricks पर DeepSeek R1 मॉडल रजिस्टर करना

अगला चरण मॉडल को रजिस्टर करना है। 

• वर्कस्पेस बन जाने के बाद, “+ New” बटन पर क्लिक करें और नोटबुक चुनकर उसे लॉन्च करें।

• एक Jupyter सेल बनाएं और निम्न कोड चलाएँ:

1. आवश्यक Python पैकेज इंस्टॉल करें:

%%capture
!pip install torch transformers mlflow accelerate torchvision
%restart_python

2. Hugging Face रिपॉज़िटरी से टोकन, कॉन्फ़िगरेशन और मॉडल लोड करें:

import pandas as pd
import mlflow
import mlflow.transformers
import torch
from mlflow.models.signature import infer_signature
from transformers import AutoModelForCausalLM, AutoTokenizer, AutoConfig, pipeline


# Specify the model from HuggingFace transformers
model_name = "deepseek-ai/DeepSeek-R1-Distill-Llama-8B"


# Load tokenizer and model
tokenizer = AutoTokenizer.from_pretrained(model_name)
config = AutoConfig.from_pretrained(model_name)


model = AutoModelForCausalLM.from_pretrained(
    model_name,
    config=config,
    torch_dtype=torch.float16  
)

3. एक नमूना प्रॉम्प्ट देकर लोड किए गए मॉडल का परीक्षण करें। 

हम एक सिग्नेचर भी बनाएँगे जिसे मॉडल रजिस्ट्रेशन के दौरान जोड़ेंगे:

text_generator = pipeline("text-generation", model=model, tokenizer=tokenizer)
example_prompt = "How does a computer work?"
example_inputs = pd.DataFrame({"inputs": [example_prompt]})
example_outputs = text_generator(example_prompt, max_length=200)
signature = infer_signature(example_inputs, example_outputs)


print(example_outputs)

मॉडल को बेहतरीन तरह से काम करना चाहिए!

मेरे लिए जो आउटपुट आया वह यह है:

[{'generated_text': "How does a computer work? What is the computer? What is the computer used for? What is the computer used for in real life?\n\nI need to answer this question, but I need to do it step by step. I need to start with the very basic level and build up from there. I need to make sure I understand each concept before moving on. I need to use a lot of examples to explain each idea. I need to write my thoughts as if I'm explaining them to someone else, but I need to make sure I understand how to structure the answer properly.\n\nOkay, let's start with the basic level. What is a computer? It's an electronic device, right? And it has a central processing unit (CPU) that does the processing. But I think the central processing unit is more efficient, so maybe it's the CPU. Then, it has memory and storage. I remember that memory is like RAM and storage is like ROM. But wait, I think"}]

4. सही Python संस्करण और आवश्यक पैकेजों के साथ conda वातावरण सेट करें। 

यह हमें ऐसा कंटेनर बनाने में मदद करेगा जिसमें मॉडल चलाने के लिए सभी आवश्यक टूल हों:

conda_env = {
    "name": "mlflow-env",
    "channels": ["defaults", "conda-forge"],
    "dependencies": [
        "python=3.11",
        "pip",
        {
            "pip": [
                "mlflow",
                "transformers",
                "accelerate",
                "torch",
                "torchvision"
            ]
        }
    ]
}

5. मॉडल रजिस्टर करें 

mlflow.transformers.log_model फ़ंक्शन को टेक्स्ट जनरेशन पाइपलाइन, आर्टिफैक्ट पाथ, सिग्नेचर, इनपुट उदाहरण, मॉडल नाम और conda वातावरण प्रदान करें:

with mlflow.start_run() as run:
    mlflow.transformers.log_model(
        transformers_model=text_generator,
        artifact_path="deepseek_model",
        signature=signature,
        input_example=example_inputs,
        registered_model_name="deepseek_r1_llama_8b",
        conda_env=conda_env
    )

मॉडल को रजिस्टर होने में कुछ मिनट लगेंगे।

Databricks Lakehouse की शक्ति के बारे में जानें और अपने डेटा इंजीनियरिंग और मशीन लर्निंग कौशल को निखारें Data Management in Databricks कोर्स करके।

Databricks पर Deepseek को डिप्लॉय करना

अब मॉडल डिप्लॉय करने का समय है!

• मॉडल रजिस्टर हो जाने के बाद, Databricks डैशबोर्ड के बाएँ नीचे “Models” टैब पर क्लिक करें। 
• अपना मॉडल चुनें और “Serve this model” बटन पर क्लिक करें।

• एंडपॉइंट सर्विंग नाम दर्ज करें, कंप्यूट विकल्प चुनें, और कन्सकरेंसी सेट करें, फिर “Create” बटन पर क्लिक करें।

सर्विंग एंडपॉइंट सेट करने में कुछ मिनट लगेंगे। सेटअप पूरा होने पर स्टेटस हरा हो जाएगा और “Ready” दिखाएगा।

इसके अतिरिक्त, आप मॉडल रजिस्टर करने से पहले कस्टम डेटासेट पर DeepSeek R1 को फाइन-ट्यून कर सकते हैं। इस प्रक्रिया के बारे में सब कुछ जानने के लिए Fine-Tuning DeepSeek R1 ट्यूटोरियल देखें।

डिप्लॉय किए गए मॉडल तक पहुंच

इस मॉडल तक पहुँचने या उपयोग करने के कई तरीके हैं। 

1. आप Databricks प्लेग्राउंड में अपना प्रश्न लिख सकते हैं, जो ब्राउज़र में प्रतिक्रिया जेनरेट करेगा। 
2. इसके अलावा, आप CURL, Python requests पैकेज, या SQL कमांड्स का उपयोग करके मॉडल तक पहुँच सकते हैं।

शुरुआत करने के लिए, हम ब्राउज़र का उपयोग करते हुए प्रश्न लिखेंगे और प्रतिक्रिया जेनरेट करेंगे।

मॉडल को लोकली एक्सेस करने या अपनी एप्लिकेशन में इंटीग्रेट करने के लिए, आपको पहले Databricks API कुंजी जनरेट करनी होगी। 

• सेटिंग्स पर जाएँ।
• "Developer" पर क्लिक करें और फिर एक नया टोकन जनरेट करें। 
• इस टोकन को कॉपी करें और एक लोकल वातावरण वेरिएबल बनाएं।

• CURL कमांड का उपयोग करें और उसमें API टोकन प्रदान करें, यह सुनिश्चित करते हुए कि प्रॉम्प्ट और सर्वर एंडपॉइंट URL सही JSON फ़ॉर्मेट में हों। उदाहरण:

curl \
  -u token:$DATABRICKS_TOKEN \
  -X POST \
  -H "Content-Type: application/json" \
  -d '{"dataframe_split": {"columns": ["inputs"], "data": [["How does a computer work?"]]}}' \
  https://dbc-85e34089.cloud.databricks.com/serving-endpoints/deepseek_r1/invocations

जब आप कमांड चलाते हैं, तो प्रतिक्रिया जेनरेट होने में कुछ सेकंड लगेंगे। इतना ही सरल!

DeepSeek के सर्वोत्तम बड़े भाषा मॉडलों के बारे में जानने के लिए DeepSeek R1 vs V3 ब्लॉग देखें।

निष्कर्ष

Databricks पर DeepSeek R1 मॉडल को रजिस्टर और डिप्लॉय करना सीधा-सादा है। आप बड़े मॉडल को भी CPU क्लस्टर या लोकल CPU मशीन का उपयोग करके—बिना किसी लागत के—रजिस्टर और डिप्लॉय कर सकते हैं। हालांकि, CPU पर मॉडल चलाना धीमा हो सकता है और विशेषकर डॉकर इमेज बनाते समय धैर्य की ज़रूरत होती है।

इस ट्यूटोरियल में, हमने पूरे मॉडल डिप्लॉयमेंट प्रोसेस को चरणबद्ध तरीके से कवर किया। हमने Databricks सेटअप करने और Databricks Model Registry में प्री-ट्रेंड DeepSeek Distilled R1 मॉडल रजिस्टर करने से शुरुआत की। फिर, Databricks डैशबोर्ड का उपयोग कर मॉडल को डिप्लॉय किया। अंत में, डिप्लॉय किए गए मॉडल का परीक्षण किया और एक सरल CURL कमांड के साथ इसे लोकली उपयोग करने का तरीका दिखाया।

यदि आप AI और बड़े भाषा मॉडलों में नए हैं, तो मैं Introduction to LLMs in Python कोर्स करने की सलाह देता/देती हूँ। यह आपको ठोस बुनियाद देगा, प्रमुख शब्दावली समझने में मदद करेगा, और DeepSeek R1 जैसे उन्नत मॉडलों पर काम शुरू करने में सहायक होगा!