Amazon Bedrock: एआई एप्लिकेशन बनाने के लिए संपूर्ण गाइड

AWS Bedrock सेटअप करना

यह अनुभाग आवश्यक अनुमतियाँ सेट करने, AWS खाता बनाने, और AWS Bedrock के साथ शुरुआत करने में आपका मार्गदर्शन करेगा।

चरण 1: AWS खाता बनाना (यदि पहले से नहीं है)

यदि आपका खाता नहीं है, तो AWS के साइन-अप पेज पर जाएँ और खाता बनाएं। मौजूदा उपयोगकर्ताओं के लिए, सुनिश्चित करें कि आपके IAM उपयोगकर्ता के पास व्यवस्थापक विशेषाधिकार हैं।

AWS साइन-अप पेज, नए खातों के लिए फ्री टियर प्रोडक्ट एक्सप्लोरेशन को दर्शाता हुआ।

यदि आप विस्तृत चरणों की तलाश में हैं, तो कृपया AWS की आधिकारिक गाइड देखें।

चरण 2: AWS Bedrock पर नेविगेट करना

Amazon Bedrock को AWS Management Console के माध्यम से एक्सेस किया जा सकता है। इसे ढूँढने और उपयोग शुरू करने के लिए ये चरण अपनाएँ:

• AWS Management Console में लॉग इन करें: AWS Console पर जाएँ और अपने लॉगिन क्रेडेंशियल दर्ज करें।
• Bedrock खोजें: कंसोल के शीर्ष पर सर्च बार का उपयोग करें। “Bedrock” टाइप करें और ड्रॉपडाउन से चुनें।

Bedrock के लिए AWS Management Console सर्च परिणाम।

• Bedrock डैशबोर्ड एक्सप्लोर करें: Bedrock डैशबोर्ड पर, आप मॉडल प्रदाताओं और फाउंडेशन मॉडल्स को चुनने के विकल्प देखेंगे।

Amazon की सर्वरलेस मॉडल विकल्पों को दर्शाता Amazon Bedrock Providers पेज।

• मॉडल प्रदाता और फाउंडेशन मॉडल चुनें:
• अपने उपयोग मामले के आधार पर प्रदाता चुनें (जैसे, टेक्स्ट जनरेशन के लिए Amazon Titan, इमेज के लिए Stability AI, आदि)।
• इनपुट प्रकार, समर्थित फीचर्स, और आउटपुट पैरामीटर्स जैसी मॉडल-विशिष्ट विकल्पों का पता लगाएँ।
• टेस्ट इन्फ्रेंस चलाएँ: AWS Bedrock आपको सीधे कंसोल से सैंपल इन्फ्रेंसेज़ चलाने देता है। किसी मॉडल को अपने एप्लिकेशन में इंटीग्रेट करने से पहले उसके व्यवहार को समझने का यह बेहतरीन तरीका है।

Amazon Bedrock Chat/Text Playground इंटरफ़ेस।

चरण 3: IAM अनुमतियाँ सेट करना

AWS Identity and Access Management (IAM) AWS Bedrock तक सुरक्षित पहुंच के लिए महत्वपूर्ण है। अनुमतियाँ कॉन्फ़िगर करने के लिए ये कदम अपनाएँ:

• AWS Management Console में IAM सेवा पर जाएँ।
• साइडबार में Roles पर क्लिक करें और Create policy चुनें।
• Specify permissions में “JSON” चुनें।

JSON मोड में AWS IAM Policy Editor

• नीचे दी गई पॉलिसी टेक्स्ट बॉक्स में पेस्ट करें:

{
    "Version": "2012-10-17",
    "Statement": [        {
            "Sid": "BedrockFullAccess",
            "Effect": "Allow",
            "Action": ["bedrock:*"],
            "Resource": "*"
        }
    ]
}संचालित द्वारा

ध्यान दें: उपरोक्त पॉलिसी किसी भी उस रोल से अटैच की जा सकती है जिसे Amazon Bedrock सेवा तक पहुंच की आवश्यकता है। यह SageMaker या कोई उपयोगकर्ता हो सकता है। Amazon SageMaker का उपयोग करते समय, आपके नोटबुक के लिए एक्ज़ीक्यूशन रोल आमतौर पर उस उपयोगकर्ता या रोल से भिन्न होता है जिसका उपयोग आप AWS Management Console में लॉग इन करने के लिए करते हैं। AWS Console का उपयोग करके Amazon Bedrock सेवा को एक्सप्लोर करने के बारे में जानने के लिए, सुनिश्चित करें कि आप अपने Console उपयोगकर्ता या रोल को अधिकृत करते हैं। आप किसी भी ऐसे पर्यावरण से नोटबुक्स चला सकते हैं जहाँ AWS Bedrock सेवा और मान्य क्रेडेंशियल्स तक पहुंच हो।

जनरेटिव एआई एप्लिकेशंस के लिए Amazon Bedrock का उपयोग

जनरेटिव एआई एप्लिकेशंस फाउंडेशन मॉडल्स पर आधारित होते हैं जिन्हें किसी विशिष्ट कार्य—जैसे टेक्स्ट जनरेशन, इमेज निर्माण, या डेटा ट्रांसफॉर्मेशन—के लिए फाइन-ट्यून किया जाता है। नीचे फाउंडेशन मॉडल चुनने, बेसिक इन्फ्रेंस जॉब्स चलाने, और अपनी आवश्यकताओं के अनुरूप मॉडल प्रतिक्रियाएँ संशोधित करने की चरण-दर-चरण गाइड दी गई है।

फाउंडेशन मॉडल का चयन

सही फाउंडेशन मॉडल चुनना महत्वपूर्ण है क्योंकि यह आपके प्रोजेक्ट की ज़रूरतों पर निर्भर करता है। चयन इस तरह करें:

1. अपना उपयोग मामला पहचानें:

• टेक्स्ट जनरेशन: संक्षेपण, कंटेंट निर्माण, या चैटबॉट विकास जैसे कार्यों के लिए इन मॉडलों पर विचार करें:
  • Amazon Titan Text G1: यह मॉडल संदर्भ को अच्छी तरह समझकर उच्च-गुणवत्ता का टेक्स्ट जनरेट करता है।
  • Anthropic Claude 3: यह मॉडल संदर्भ-संगत और सुसंगत टेक्स्ट उत्पन्न करने में बहुत अच्छा है, इसलिए संवादात्मक एआई एप्लिकेशंस के लिए उपयुक्त है।
• इमेज जनरेशन: यदि आपका प्रोजेक्ट इमेज या किसी भी दृश्य सामग्री के निर्माण पर केंद्रित है, तो Stability AI मॉडल्स सर्वोत्तम हैं:
  • Stable Diffusion 3.5 Large: यह मॉडल टेक्स्ट विवरणों से तस्वीरें बनाने में बहुत अच्छा है—चाहे फोटोरियलिस्टिक हों या कलात्मक।
• मल्टीमोडल कार्य: ऐप्स जिनमें टेक्स्ट और इमेज प्रोसेसिंग दोनों चाहिए हों, उनके लिए Amazon Nova मॉडल्स अनुशंसित हैं:
  • Nova Lite: लागत-संवेदनशील मल्टीमोडल मॉडल जो टेक्स्ट, इमेज, और वीडियो इनपुट ले सकता है और टेक्स्ट आउटपुट देता है।
  • Nova Pro: अधिक जटिल कार्यों के लिए सक्षम मल्टीमोडल मॉडल।

2. मॉडल क्षमताओं का मूल्यांकन करें:

• प्रत्येक मॉडल की विशिष्ट खूबियों की समीक्षा करें ताकि वे आपके प्रोजेक्ट की जरूरतों के अनुरूप हों। समर्थित फाउंडेशन मॉडल्स की विस्तृत जानकारी, जिनमें उनकी क्षमताएँ और समर्थित क्षेत्र शामिल हैं, AWS प्रलेखन में उपलब्ध है।

मॉडल एक्सेस सक्षम करना

इन मॉडलों का उपयोग करने से पहले, आपको अपने AWS खाते में मॉडल एक्सेस सक्षम करना होगा। सेटअप के चरण इस प्रकार हैं:

• Bedrock Console में Models access पर जाएँ।
• कंसोल में Modify model access पर क्लिक करें।
• प्रदाताओं के उपलब्ध मॉडल्स ब्राउज़ करें और पसंद का चयन करें। इस मामले में, मैंने Titan Text G1—Express चुना।

Amazon Bedrock मॉडल एक्सेस प्रबंधन पेज।

• Next पर क्लिक करें, और फिर Review and submit पर क्लिक करें।

बेसिक इन्फ्रेंस चलाना

AWS Bedrock में चुने गए फाउंडेशन मॉडल का उपयोग करके इन्फ्रेंस करने के लिए ये चरण अपनाएँ:

• AWS SDK for Python (boto3) सेट करें:

pip install boto3संचालित द्वारा

• Bedrock क्लाइंट प्रारंभ करें: अपनी पसंद के AWS क्षेत्र में Bedrock रनटाइम क्लाइंट बनाएं:

import boto3
import json
from botocore.exceptions import ClientError

# Set the AWS Region
region = "us-east-1"

# Initialize the Bedrock Runtime client
client = boto3.client("bedrock-runtime", region_name=region)संचालित द्वारा

• मॉडल को इनवोक करें: मॉडल ID और इनपुट प्रॉम्प्ट परिभाषित करें:

# Define the model ID for Amazon Titan Express v1
model_id = "amazon.titan-text-express-v1"

# Define the input prompt
prompt = """
Command: Compose an email from Tom, Customer Service Manager, to the customer "Nancy" 
who provided negative feedback on the service provided by our customer support 
Engineer"""संचालित द्वारा

• रिक्वेस्ट पेलोड फॉर्मेट करें:

# Configure inference parameters
inference_parameters = {
   "inputText": prompt,
   "textGenerationConfig": {
       "maxTokenCount": 512,  # Limit the response length
       "temperature": 0.5,    # Control the randomness of the output
   },
}

# Convert the request payload to JSON
request_payload = json.dumps(inference_parameters)संचालित द्वारा

• प्रतिक्रिया प्रोसेस करें:

try:
   # Invoke the model
   response = client.invoke_model(
       modelId=model_id,
       body=request_payload,
       contentType="application/json",
       accept="application/json"
   )

   # Decode the response body
   response_body = json.loads(response["body"].read())

   # Extract and print the generated text
   generated_text = response_body["results"][0]["outputText"]
   print("Generated Text:\n", generated_text)

except ClientError as e:
   print(f"ClientError: {e.response['Error']['Message']}")
except Exception as e:
   print(f"An error occurred: {e}")संचालित द्वारा

ध्यान दें: आप पूरा कोड सीधे GitHub Gist से एक्सेस और कॉपी कर सकते हैं।

आप नीचे जैसा आउटपुट अपेक्षित कर सकते हैं:

% python3 main.py

Generated Text:
 
Tom:
Nancy,

I am writing to express my sincere apologies for the negative experience you had with our customer support engineer. It is unacceptable that we did not meet your expectations, and I want to assure you that we are taking steps to prevent this from happening in the future.

Sincerely,
Tom
Customer Service Managerसंचालित द्वारा

मॉडल आउटपुट कस्टमाइज़ करना

मॉडल आउटपुट के व्यवहार को फाइन-ट्यून करने के लिए आप temperature और maxTokenCount जैसे पैरामीटर्स समायोजित कर सकते हैं:

• temperature: यह पैरामीटर आउटपुट की यादृच्छिकता नियंत्रित करता है। कम मान आउटपुट को अधिक निश्चित बनाते हैं, और अधिक मान विविधता बढ़ाते हैं।
• MaxTokenCount: जनरेट किए गए आउटपुट की अधिकतम लंबाई निर्धारित करता है।

उदाहरण के लिए:

inference_parameters = {
   "inputText": prompt,
   "textGenerationConfig": {
       "maxTokenCount": 256,  # Limit the response length
       "temperature": 0.7,    # Control the randomness of the output
   },
}संचालित द्वारा

इन पैरामीटर्स को समायोजित करके, आप अपने एप्लिकेशन की जरूरतों के अनुसार उत्पन्न सामग्री की रचनात्मकता और लंबाई को बेहतर ढंग से अनुकूलित कर सकते हैं।

उन्नत Amazon Bedrock फीचर्स

आइए गति बदलें और दो उन्नत तरीकों पर ध्यान दें: Retrieval-Augmented Generation (RAG) के माध्यम से एआई को समृद्ध करना और बड़े पैमाने पर मॉडल्स का प्रबंधन व डिप्लॉय करना।

रिट्रीवल-ऑगमेंटेड जनरेशन (RAG) के साथ एआई आउटपुट कस्टमाइज़ करना

RAG के लिए हमारे पास एक नॉलेज बेस होना आवश्यक है। Amazon Bedrock में नॉलेज बेस सेट करने से पहले, आपको एक S3 बकेट बनाना और आवश्यक फाइलें अपलोड करनी होंगी। ये चरण अपनाएँ:

चरण 1: S3 बकेट बनाएं

• AWS Management Console में लॉग इन करें:
• AWS Management Console में S3 सेवा पर जाएँ।
• नया बकेट बनाएं:
• Create bucket पर क्लिक करें।
• एक अद्वितीय बकेट नाम दर्ज करें।
• डिफ़ॉल्ट सेटिंग्स छोड़ दें, जब तक आपकी विशिष्ट सुरक्षा या एन्क्रिप्शन आवश्यकताएँ न हों।
• बकेट सेटिंग्स कॉन्फ़िगर करें:
• जब तक ज़रूरत न हो, Block public access सक्षम रखें।
• (वैकल्पिक) यदि आप फाइलों के संस्करण बनाए रखना चाहते हैं तो वर्ज़निंग सक्षम करें।
• बकेट बनाएं:
• सेटअप को अंतिम रूप देने के लिए Create bucket पर क्लिक करें।

चरण 2: S3 बकेट में फाइलें अपलोड करें

• फाइल डाउनलोड करें:
• दिया गया GitHub लिंक मॉक डेटा के साथ एक सैंपल PDF फाइल प्रदान करता है: octank_financial_10K.pdf। आप चाहें तो अलग फाइल भी इस्तेमाल कर सकते हैं।
• उसे अपने कंप्यूटर पर लोकली सेव करें।
• फाइल S3 में अपलोड करें:
• AWS Console में नया बनाया S3 बकेट खोलें।
• Upload पर क्लिक करें और octank_financial_10K.pdf फाइल चुनें।
• अनुमतियों की समीक्षा करें और सेट करें (डिफ़ॉल्ट: निजी)।
• फाइल को बकेट में जोड़ने के लिए Upload पर क्लिक करें।

"amazon-bedrock-099" के लिए Amazon S3 बकेट दृश्य।

Amazon Bedrock आपको वेक्टर डेटाबेस द्वारा संचालित नॉलेज बेस बनाने देता है। निम्नलिखित चरण आपको नॉलेज बेस बनाने, डेटा स्रोत कॉन्फ़िगर करने, और एम्बेडिंग्स व वेक्टर स्टोर्स चुनने की प्रक्रिया से गुजारेंगे।

चरण 1: नॉलेज बेस विवरण प्रदान करें

• Amazon Bedrock Console पर जाएँ और Builder tools अनुभाग के अंतर्गत Knowledge Bases चुनें।
• Create Knowledge Base पर क्लिक करें और निम्न विवरण भरें:
• Knowledge Base name: एक अद्वितीय नाम दर्ज करें (उदा., knowledge-base-quick-start)।
• Knowledge Base description: (वैकल्पिक) नॉलेज बेस का संक्षिप्त विवरण दें।
• IAM permissions अनुभाग में:
• “Create and use a new service role” या “Use an existing service role” चुनें।
• सुनिश्चित करें कि सर्विस रोल में Bedrock एक्सेस के लिए आवश्यक अनुमतियाँ हैं।
• उदाहरण सर्विस रोल: AmazonBedrockExecutionRoleForKnowledgeBase।
• आगे डेटा स्रोत कॉन्फ़िगर करने के लिए Next पर क्लिक करें।

Amazon Bedrock Knowledge Base निर्माण विज़ार्ड।

चरण 2: डेटा स्रोत कॉन्फ़िगर करें

• Data source details अनुभाग के अंतर्गत अपना डेटा स्रोत चुनें:
• Amazon S3: चूँकि आपका डेटा S3 में है, यह विकल्प चुनें।
• निम्नलिखित निर्दिष्ट करें:
• Data source location: "This AWS Account" या "Other AWS Account" में से चुनें।
• S3 URI: डेटा वाला S3 बकेट URI प्रदान करें। पिछले चरण में बनाया S3 और फाइल चुनें।
• Encryption key: (वैकल्पिक) यदि आपका डेटा एन्क्रिप्टेड है तो कस्टमर-मैनेज्ड KMS की जोड़ें।
• पार्सिंग रणनीति कॉन्फ़िगर करें:
• Default parser: सादा टेक्स्ट डेटा प्रोसेस करता है। इसे ऐसे ही रहने दें।
• Foundation models as parser: जटिल दस्तावेज़ों या छवियों को प्रोसेस करता है। इसे भी ऐसे ही रहने दें।
• चंकिंग रणनीति:
• डिफ़ॉल्ट सेटिंग टेक्स्ट को एम्बेडिंग्स के लिए लगभग 300 टोकन के चंक्स में विभाजित करती है। इसे ऐसे ही रहने दें।
• (वैकल्पिक) Transformation functions या उन्नत सेटिंग्स जोड़ें ताकि अपना डेटा प्रीप्रोसेस कर सकें। इसे ऐसे ही रहने दें।
• आगे बढ़ने के लिए Next पर क्लिक करें।

S3-आधारित नॉलेज बेस को एकीकृत करने के लिए Amazon Bedrock डेटा स्रोत कॉन्फ़िगरेशन पेज।

चरण 3: एम्बेडिंग्स मॉडल चुनें और वेक्टर स्टोर कॉन्फ़िगर करें

• अपने डेटा को वेक्टर प्रतिनिधित्व में बदलने के लिए Embeddings मॉडल चुनें:
• Titan Embeddings G1 - Text v1.2 (इस ट्यूटोरियल के लिए आप इसे चुन सकते हैं।)
• Embed English v3
• Embed Multilingual v3
• Vector database अनुभाग के अंतर्गत:
• “Quick create a new vector store” (अनुशंसित) चुनें या मौजूदा स्टोर का चयन करें।
• विकल्पों में शामिल हैं:
• Amazon OpenSearch Serverless: संदर्भानुकूल प्रतिक्रियाओं के लिए आदर्श। इस ट्यूटोरियल के लिए आप इसे चुन सकते हैं।
• Amazon Aurora PostgreSQL Serverless: तेज़ समानता खोजों के लिए ऑप्टिमाइज़्ड।
• Amazon Neptune Analytics: ग्राफ-आधारित एनालिटिक्स और Retrieval-Augmented Generation (RAG) के लिए उपयुक्त।
• अपनी कॉन्फ़िगरेशन की समीक्षा और अंतिम रूप देने के लिए Next पर क्लिक करें।

एम्बेडिंग मॉडल और वेक्टर स्टोर चुनने के लिए Amazon Bedrock कॉन्फ़िगरेशन पेज।

चरण 4: समीक्षा करें और बनाएँ

• अपनी सभी कॉन्फ़िगरेशंस की समीक्षा करें।
• पुष्टि करें और नॉलेज बेस को अंतिम रूप देने के लिए Create पर क्लिक करें।
• बनने के बाद, आपका नॉलेज बेस कंसोल में Knowledge Bases अनुभाग के अंतर्गत दिखाई देगा।

चरण 5: नॉलेज बेस का परीक्षण करें

• नॉलेज बेस ओवरव्यू एक्सेस करें:
• Amazon Bedrock Console में Knowledge Bases अनुभाग पर जाएँ।
• आपके द्वारा बनाया नॉलेज बेस चुनें (उदा., knowledge-base-quick-start)।
• ओवरव्यू विवरण की समीक्षा करें:
• नॉलेज बेस नाम और ID
• सुनिश्चित करें कि स्थिति “Available” है।
• सही सर्विस रोल का उपयोग हो रहा है, इसकी पुष्टि करें।
• सिंक करें और डेटा स्रोत जोड़ें:
• यदि डेटा स्रोत सिंक नहीं हुआ है, तो प्रक्रिया शुरू करने के लिए Sync पर क्लिक करें।
• आप Add documents from S3 के माध्यम से और दस्तावेज़ या डेटा स्रोत भी जोड़ सकते हैं।

Amazon Bedrock Knowledge Base ओवरव्यू में कॉन्फ़िगरेशन विवरण और डेटा स्रोत स्थिति दिखती है।

चरण 6: परीक्षण के लिए मॉडल चुनें

• एक फाउंडेशन मॉडल चुनें:
• Select model पर क्लिक करें, Test Knowledge Base पैनल में।
• Amazon, Anthropic, और Cohere जैसे प्रदाताओं के उपलब्ध मॉडलों को ब्राउज़ करें।
• उदाहरण: टेक्स्ट-आधारित क्वेरीज़ के लिए Claude Instant (v1.2) चुनें।
• इन्फ्रेंस प्रकार:
• यदि आपने प्रोविजनड थ्रूपुट सेट नहीं किया है, तो On-demand इन्फ्रेंस चुनें।
• मॉडल लागू करें:
• अपनी मॉडल चयन को अंतिम रूप देने के लिए Apply पर क्लिक करें।

Amazon Bedrock मॉडल चयन इंटरफेस, जिसमें Anthropic के विभिन्न Claude मॉडल्स दिखाए गए हैं।

चरण 7: क्वेरी चलाएँ और प्रतिक्रियाएँ जनरेट करें

• प्रतिक्रिया जनरेट करें:
• इनपुट बॉक्स में अपनी क्वेरी दर्ज करें (उदा., “Help me with Financial Statement Schedules”).
• नॉलेज बेस का परीक्षण करने के लिए Run पर क्लिक करें।
• सोर्स विवरण देखें:
• प्रतिक्रिया में आपकी क्वेरी से संबंधित डेटा के चंक्स शामिल होंगे।
• प्राप्त जानकारी के मेटाडेटा और स्रोत देखने के लिए Source Details एक्सपैंड करें।
• आउटपुट की समीक्षा करें:
• सुनिश्चित करें कि प्रतिक्रिया नॉलेज बेस सामग्री के अनुरूप है।
• आवश्यक होने पर रिट्रीवल कॉन्फ़िगरेशंस को फाइन-ट्यून करें।

किसी क्वेरी के उत्तर को दर्शाता Amazon Bedrock Knowledge Base परीक्षण इंटरफेस।

उदाहरण क्वेरी आउटपुट:

• Query: “Help me with Financial Statement Schedules.”
• Response: नॉलेज बेस वित्तीय वक्तव्यों में विशिष्ट लाइन आइटम्स—जैसे परिसंपत्तियों, देनदारियों की अनुसूचियाँ और संबंधित मेटाडेटा—का विवरण वाली जानकारी प्राप्त करेगा।

बड़े पैमाने पर एआई मॉडल्स का प्रबंधन और डिप्लॉयमेंट

AWS Lambda जैसी सेवाओं का उपयोग करके, Amazon Bedrock एआई मॉडल्स को बड़े पैमाने पर मैनेज और डिप्लॉय कर सकता है। यह लागत-कुशल तरीका उच्च उपलब्धता सुनिश्चित करता है और एआई-समर्थित एप्लिकेशंस के लिए स्वतः स्केल करता है। 

इस अनुभाग में, हम AWS Lambda का उपयोग कर एक Bedrock मॉडल को डायनेमिक रूप से इनवोक करेंगे ताकि आप ऑन-डिमांड प्रॉम्प्ट्स प्रोसेस कर सकें।

चरण 1: AWS Lambda फ़ंक्शन बनाएं

• AWS Management Console में लॉग इन करें।
• Lambda सेवा पर जाएँ और Create function पर क्लिक करें।
• फ़ंक्शन कॉन्फ़िगरेशन चुनें:
• “Author from Scratch” चुनें।
• फ़ंक्शन नाम: bedrock।
• रनटाइम: Python 3.x।
• अनुमतियाँ: इस ट्यूटोरियल के प्रारंभिक अनुभाग में बनाया गया IAM रोल चुनें।
• सेटअप प्रारंभ करने के लिए Create function पर क्लिक करें।

AWS Lambda फ़ंक्शन निर्माण पेज।

चरण 2: Lambda फ़ंक्शन कोड जोड़ें

• Lambda कंसोल के Code सेक्शन में फ़ंक्शन एडिटर खोलें।
• डिफ़ॉल्ट कोड को Github Gist में दिए गए कोड से बदलें।
• परिवर्तनों को सेव करने के लिए Deploy पर क्लिक करें।

चरण 3: Lambda फ़ंक्शन का परीक्षण करें

• Lambda कंसोल में Test टैब पर जाएँ और निम्न JSON के साथ एक टेस्ट इवेंट बनाएं:

{
    "prompt": "Write a formal apology letter for a late delivery."
}संचालित द्वारा

• टेस्ट इवेंट सेव करें।
• Lambda फ़ंक्शन को इनवोक करने के लिए Test पर क्लिक करें।
• Execution results सेक्शन में आउटपुट जांचें। जनरेट किया गया टेक्स्ट इस तरह दिखना चाहिए:

AWS Lambda execution result सफल फ़ंक्शन रन दिखाता है।

एआई मॉडल डिप्लॉयमेंट के सर्वोत्तम अभ्यास

लागत का अनुकूलन:

• कभी-कभार इस्तेमाल वाले मामलों के लिए ऑन-डिमांड इन्फ्रेंस का उपयोग करें।
• यदि उच्च-आवृत्ति रिक्वेस्ट अपेक्षित हैं तो प्रोविजनड थ्रूपुट पर विचार करें।

Lambda फ़ंक्शन को सुरक्षित करें:

• IAM रोल को केवल आवश्यक अनुमतियों तक सीमित रखें।
• संवेदनशील डेटा कोड में उजागर होने से बचाने के लिए एनवायरनमेंट वेरिएबल्स का उपयोग करें।

मॉनिटर और लॉग करें:

• CloudWatch लॉग्स का उपयोग करके इनवोकेशन मैट्रिक्स ट्रैक करें और समस्याओं का डीबग करें।
• एरर्स या उच्च लेटेंसी के लिए अलार्म सेट करें।

AWS Bedrock के उपयोग के सर्वोत्तम अभ्यास

इस अनुभाग में, मैं Amazon Bedrock के साथ काम करते समय कुछ सर्वोत्तम प्रथाएँ साझा कर रहा हूँ—लागत अनुकूलन से लेकर सुरक्षा और शुद्धता बनाए रखने तक। 

लागत अनुकूलन

AWS Bedrock में लागत प्रबंधन में Amazon SageMaker का उपयोग कर मॉडल्स को डिप्लॉय करना और Spot इंस्टेंसेज़ का लाभ उठाना शामिल हो सकता है—जिससे आप खर्चों में 90% तक की बचत कर सकते हैं। यहाँ मेरी कुछ सर्वोत्तम प्रथाएँ हैं:

• सही फाउंडेशन मॉडल चुनें: अपनी जरूरतों के अनुरूप मॉडल चुनें। कम जटिल कार्यों के लिए छोटे, कम संसाधन-गहन मॉडल्स चुनें ताकि कंप्यूट लागत कम हो। उदाहरण के लिए, टेक्स्ट-आधारित कार्यों जैसे संक्षेपण के लिए Amazon Titan मॉडल्स या सरल इमेज जनरेशन के लिए Stability AI का उपयोग करें।
• बैच इन्फ्रेंस: रिक्वेस्ट्स को अलग-अलग प्रोसेस करने के बजाय, कई इन्फ्रेंस रिक्वेस्ट्स को बैच में समूहित करें। इससे मॉडल इनवोकेशंस की आवृत्ति कम होती है और लागत घटती है।
• S3 लाइफसाइकल नीतियों का लाभ उठाएँ: इन्फ्रेंस या फाइन-ट्यूनिंग के लिए केवल आवश्यक डेटा को Amazon S3 में स्टोर करें। लाइफसाइकल नीतियों का उपयोग कर डेटा को स्वचालित रूप से सस्ते स्टोरेज टियर्स (जैसे, S3 Glacier) में ले जाएँ या एक निर्धारित समय के बाद अनुपयोगी डेटा हटा दें।
• खर्चों की निगरानी और नियंत्रण करें: AWS Cost Explorer का उपयोग करके अपने खर्च के पैटर्न का विश्लेषण करें और अनुकूलन क्षेत्रों की पहचान करें। AWS Budgets सेट करें ताकि परिभाषित लागत सीमाओं के करीब पहुँचने पर अलर्ट मिल सकें।

Amazon Bedrock सेवाओं के लिए लागत और उपयोग ग्राफ।

• लागत दक्षता के लिए Bedrock को SageMaker के साथ उपयोग करें: SageMaker में Bedrock फाउंडेशन मॉडल्स का उपयोग करें ताकि इन्फ्रेंस और ट्रेनिंग जॉब्स के लिए मैनेज्ड Spot इंस्टेंसेज़ का लाभ मिल सके।
• SageMaker में Spot इंस्टेंसेज़ का उपयोग करें: Spot इंस्टेंसेज़ ऑन-डिमांड इंस्टेंसेज़ की तुलना में 90% तक लागत घटा सकते हैं। SageMaker आपकी ओर से Spot रुकावटों को संभालता है और Spot क्षमता उपलब्ध न होने पर ट्रेनिंग जॉब्स को स्वतः रीट्राई करता है। उदाहरण:

from sagemaker.mxnet import MXNet

# Use spot instances for cost efficiency
use_spot_instances = True

# Maximum runtime for the training job (in seconds)
max_run = 600

# Maximum wait time for Spot instance availability (in seconds); set only if using Spot instances
max_wait = 1200 if use_spot_instances else None

# Define the MXNet estimator for the training job
mnist_estimator = MXNet(
    entry_point='source_dir/mnist.py',  # Path to the script that contains the model training code
    role=role,  # IAM role used for accessing AWS resources (e.g., S3, SageMaker)
    output_path=model_artifacts_location,  # S3 location to save the trained model artifacts
    code_location=custom_code_upload_location,  # S3 location to upload the training script
    instance_count=1,  # Number of instances to use for training
    instance_type='ml.m4.xlarge',  # Instance type for the training job
    framework_version='1.6.0',  # Version of the MXNet framework to use
    py_version='py3',  # Python version for the environment
    distribution={'parameter_server': {'enabled': True}},  # Enable distributed training with a parameter server
    hyperparameters={  # Training hyperparameters
        'learning-rate': 0.1,  # Learning rate for the training job
        'epochs': 5  # Number of training epochs
    },
    use_spot_instances=use_spot_instances,  # Enable Spot instances for cost savings
    max_run=max_run,  # Maximum runtime for the training job
    max_wait=max_wait,  # Maximum wait time for Spot instance availability
    checkpoint_s3_uri=checkpoint_s3_uri  # S3 URI for saving intermediate checkpoints
)

# Start the training job and specify the locations of training and testing datasets
mnist_estimator.fit({
    'train': train_data_location,  # S3 location of the training dataset
    'test': test_data_location  # S3 location of the testing/validation dataset
})संचालित द्वारा

• CloudWatch मैट्रिक्स और लॉग्स का उपयोग करें: ट्रेनिंग मैट्रिक्स और लॉग्स Amazon CloudWatch में उपलब्ध हैं, जो प्रदर्शन और संसाधन उपयोग पर अंतर्दृष्टि प्रदान करते हैं।

AWS CloudWatch लॉग्स

सुरक्षा

Amazon Bedrock की सुरक्षा, कंप्लायंस, और प्रदर्शन सुनिश्चित करने के लिए सर्वोत्तम प्रथाओं का पालन करना महत्वपूर्ण है। मेरी सिफारिशें इस प्रकार हैं:

• न्यूनतम विशेषाधिकार एक्सेस लागू करें: अनधिकृत पहुंच रोकने के लिए IAM अनुमतियाँ और सर्विस रोल्स केवल आवश्यक संसाधनों तक सीमित रखें।
• सर्विस रोल्स और सिक्योरिटी ग्रुप्स मान्य करें: सुनिश्चित करें कि Bedrock एजेंट्स और मॉडल कस्टमाइज़ेशन जॉब्स सक्रिय सर्विस रोल्स और सुरक्षा सेटिंग्स के साथ सही ढंग से कॉन्फ़िगर हैं।
• VPC में वर्कलोड्स चलाएँ: कस्टमाइज़ेशन जॉब्स और डेटा प्रोसेसिंग को Virtual Private Cloud (VPC) के भीतर चलाकर सुरक्षा बढ़ाएँ।
• महत्वपूर्ण डेटा एन्क्रिप्ट करें: Amazon KMS Customer-Managed Keys (CMKs) का उपयोग कर एजेंट सेशंस, Bedrock Studio कार्यस्थल, कस्टम मॉडल्स, और अस्थायी नॉलेज बेस डेटा को एन्क्रिप्ट करें।
• डेटा विलोपन नीतियाँ लागू करें: वेक्टर-स्टोर किए गए डेटा को केवल तब तक रखें जब तक नॉलेज-आधारित स्रोत सक्रिय हों; आवश्यकता समाप्त होने पर स्वचालित विलोपन सेट करें।
• Bedrock गार्डरेल्स मज़बूत करें: प्रतिकूल हमलों और डेटा लीक से सुरक्षा हेतु Prompt Attack Strength को HIGH पर सेट करें और संवेदनशील जानकारी फ़िल्टर्स सक्षम करें।
• एजेंट सेशंस सुरक्षित करें: अनधिकृत पहुंच रोकने और संवेदनशील इंटरैक्शंस की सुरक्षा के लिए गार्डरेल्स का उपयोग करें।
• दृश्यता के लिए लॉगिंग सक्षम करें: गतिविधि ट्रैक करने और विसंगतियाँ पहचानने के लिए खाते के स्तर पर मॉडल इनवोकेशन लॉगिंग चालू करें।
• क्रॉस-सर्विस हमलों से रक्षा करें: Cross-Service Confused Deputy Attacks रोकने के लिए सर्विस रोल नीतियों का उपयोग करें।

मॉडल मॉनिटरिंग और मूल्यांकन

यह सुनिश्चित करना कि मॉडल्स सटीक, विश्वसनीय, और व्यावसायिक उद्देश्यों के अनुरूप हैं—मॉनिटरिंग और मूल्यांकन के जरिए हासिल किया जाता है। सर्वोत्तम प्रथाएँ:

• प्रदर्शन मैट्रिक्स ट्रैक करें: लेटेंसी, एरर्स, और इनवोकेशन ट्रेंड्स मॉनिटर करने के लिए CloudWatch का उपयोग करें।
• इनपुट्स और आउटपुट्स लॉग करें: डीबगिंग और ट्रेंड विश्लेषण के लिए विस्तृत लॉगिंग सक्षम करें।
• फीडबैक लूप्स शामिल करें: महत्वपूर्ण आउटपुट्स के लिए मानव समीक्षा शामिल करने हेतु Amazon A2I जैसे टूल्स का उपयोग करें।
• नियमित रूप से आउटपुट्स का मूल्यांकन करें: आउटपुट्स की वैलिडेशन डेटासेट्स या ग्राउंड ट्रुथ से तुलना करें।
• मॉडल्स में लगातार सुधार करें: आवश्यकतानुसार अपडेटेड डेटासेट्स या विशिष्ट डोमेन डेटा के साथ मॉडल्स को फाइन-ट्यून करें।

मैट्रिक्स डैशबोर्ड Amazon Bedrock में विभिन्न मॉडलों के लिए इनवोकेशन काउंट, लेटेंसी, और टोकन काउंट्स दिखाता है।

निष्कर्ष

AWS Bedrock जनरेटिव एआई एप्लिकेशंस के विकास के तरीके में गेम-चेंजर है—एक केंद्रीकृत प्लेटफॉर्म जो इन्फ्रास्ट्रक्चर की चिंता के बिना फाउंडेशन मॉडल्स का उपयोग करने देता है। 

यह चरण-दर-चरण ट्यूटोरियल आपको सही मॉडल्स की पहचान करने, सुरक्षित और स्केलेबल वर्कफ़्लोज़ बनाने, और अधिक कस्टमाइजेशन के लिए Retrieval-Augmented Generation (RAG) जैसी विशेषताओं को एकीकृत करने में मदद करेगा। लागत, सुरक्षा, और मॉनिटरिंग के सर्वोत्तम अभ्यासों के साथ, आप अपने लक्ष्यों को पूरा करने के लिए अपने एआई समाधानों को विकसित और प्रबंधित करने के लिए तैयार हैं।

अपनी AWS विशेषज्ञता को और गहरा करने के लिए, ये कोर्सेज़ एक्सप्लोर करें:

• AWS Cloud Technology and Services – AWS की कोर सेवाओं के बारे में जानें और क्लाउड-नेटिव समाधान कैसे बनाएं।
• AWS Security and Cost Management – अपने AWS वातावरण को सुरक्षित करने और लागतों को प्रभावी ढंग से अनुकूलित करने की रणनीतियों में महारत हासिल करें।
• Developing AI Applications – एआई विकास में उतरें और एआई-संचालित समाधानों का निर्माण, डिप्लॉयमेंट, और स्केल करना सीखें।