OpenAI ने Assistants API की घोषणा की

OpenAI के Dev Day में कंपनी ने कई घोषणाएँ कीं, जिनमें एक नया Assistants API भी शामिल है। अन्य घोषणाओं का विवरण देखने के लिए GPT-4 Turbo और GPTs और GPT Store पर लेख देखें।

Assistants API मौजूदा OpenAI API को इस तरह विस्तारित करता है कि सॉफ्टवेयर डेवलपर्स के लिए चैटबॉट जैसे AI असिस्टेंट बनाना आसान हो जाए।

चार नई सुविधाएँ घोषित की गईं:

1. लंबी बातचीत प्रबंधित करने में मदद के लिए "Threads"
2. पाठ संग्रहीत करने में मदद के लिए "Retrieval"
3. इन-बिल्ट कोड इंटरप्रिटेशन
4. फंक्शन-कॉलिंग क्षमता में सुधार

Assistants API की प्रमुख विशेषताएँ

यहाँ, हम इन प्रत्येक विशेषताओं को विस्तार से कवर करेंगे।

Threads के साथ आसान बातचीत प्रबंधन

जहाँ कुछ कार्य एकल प्रॉम्प्ट API को भेजकर और एकल प्रतिक्रिया पाकर किए जा सकते हैं, वहीं चैटबॉट्स के लिए लंबी बातचीत (या "thread") की आवश्यकता होती है। अब तक, पिछले संवाद की स्थिति का रिकॉर्ड रखना और यह तय करना कि किन पुराने संदेशों को API को भेजना है, इसकी ज़िम्मेदारी डेवलपर पर थी। जैसे-जैसे बातचीत लंबी होती जाती है, हर API कॉल में और अधिक पाठ भेजना पड़ता है, जिससे प्रदर्शन धीमा हो जाता है।

इसके अलावा, एक बार जब बातचीत "context window" (वह पाठ-सीमा जिसे GPT एक साथ याद रख सकता है) से आगे निकल जाती है, तो निर्णय लेने पड़ते हैं: क्या आप पुराने संदेशों को छोड़ दें, या उनका सारांश बनाने की कोशिश करें, या उन्हें संग्रहीत कर बाद में यह तय करें कि कौन-से प्रासंगिक हैं और शामिल किए जाने चाहिए? यह जल्दी ही पेचीदा हो सकता है और अनुप्रयोग विकास की रफ्तार धीमी कर देता है।

नई थ्रेडिंग टूल्स OpenAI को "stateless" मॉडल (बिना मेमरी) से "stateful" बना देते हैं। पुराने संदेश OpenAI की ओर संग्रहीत किए जा सकते हैं, जिससे डेवलपर को इन प्रबंधन मुद्दों की चिंता नहीं करनी पड़ती।

Retrieval टूल अतिरिक्त पाठ संग्रहीत करने देते हैं

OpenAI की प्रस्तुति में पाठ संग्रहीत करने के लिए retrieval टूल्स का भी उल्लेख था। इसे दूसरी सुविधा के रूप में पेश किया गया, हालाँकि चूँकि थ्रेडिंग फीचर इसका उपयोग करता प्रतीत होता है, इसलिए यह स्पष्ट नहीं है कि यह सुविधा कितनी अलग है।

प्रस्तुति के दौरान तकनीकी विवरण कम थे, हालाँकि यह अनुमान लगाना संभव है कि यह कैसे काम करता होगा। फिलहाल, जेनरेटिव AI को अनुप्रयोगों में शामिल करने के लिए दो अलग तकनीकों की आवश्यकता होती है: एक बड़ा भाषा मॉडल (LLM) जैसे GPT, और एक vector database।

Vector databases पाठ (या छवियाँ या अन्य असंरचित डेटा प्रकार) को embedding नामक प्रक्रिया द्वारा संख्यात्मक वेक्टर के रूप में संग्रहीत करती हैं। आप बाद में इन पाठ-टुकड़ों को प्रॉम्प्ट्स में शामिल करने के लिए पुनः प्राप्त कर सकते हैं। एक सामान्य उपयोग मामला उस विषय से संबंधित तथ्यों का भंडार रखना है जिसके बारे में आप चर्चा करना चाहते हैं।

उदाहरण के लिए, यदि आप अपनी कंपनी के उत्पादों से संबंधित प्रश्नों के उत्तर देने में मदद करने वाला चैटबॉट बना रहे हैं, तो आप उत्पाद जानकारी को vector database में संग्रहीत कर सकते हैं और इसका उपयोग कर सकते हैं ताकि LLM सटीक तथ्यात्मक उत्तर दे।

प्रस्तुति में उल्लिखित retrieval सुविधाएँ संकेत देती हैं कि Assistants API आपको एक vector database तक API एक्सेस प्रदान कर सकता है। यह लंबी बातचीत की क्षमता से परे दिलचस्प संभावनाएँ खोलता है, क्योंकि इसका मतलब होगा कि आपको अपना पाठ संग्रहीत करने के लिए Pinecone, Milvus, या Weaviate जैसी अलग vector database का उपयोग नहीं करना पड़ेगा।

फिलहाल यह अटकल भर है, और हमें Assistants API के ठोस विवरण उपलब्ध होने तक इंतज़ार करना होगा।

Code-interpretation इन-बिल्ट है

ChatGPT में Advanced Data Analysis टूल है जो प्राकृतिक भाषा निर्देशों के आधार पर GPT को Python कोड जनरेट और निष्पादित करने देता है। हालाँकि OpenAI की प्रस्तुति में विवरण कुछ अस्पष्ट थे, पर संकेत मिला कि यह सुविधा Assistants API में इन-बिल्ट होगी, ताकि आप ऐसे प्रॉम्प्ट दे सकें जो GPT को Python कोड चलाने के लिए प्रेरित करें।

सुधरा हुआ function calling अन्य सॉफ़्टवेयर से इंटरेक्शन को आसान बनाता है

API की function calling सुविधा आपको प्राकृतिक भाषा में निर्देश लिखने और GPT से ऐसा JSON स्ट्रिंग प्राप्त करने देती है जो आपके द्वारा परिभाषित किसी फ़ंक्शन के कॉल का प्रतिनिधित्व करता है। यह AI एजेंट्स के लिए महत्वपूर्ण है, जो प्राकृतिक भाषा इनपुट के आधार पर कार्य निष्पादित करने के लिए डिज़ाइन किए गए हैं।

घोषणा में इस सुविधा में दो सुधारों का वर्णन किया गया। पहला, एक "JSON mode" है जिसमें प्रतिक्रिया मान्य JSON होने की गारंटी होती है और यह निर्दिष्ट फ़ंक्शन सिग्नेचर का अधिक निकटता से पालन करती है। अब तक, प्रतिक्रिया के अमान्य होने की संभावना रहती थी, जिसके लिए आपके सॉफ़्टवेयर में विस्तृत त्रुटि-पहचान कोड की आवश्यकता पड़ती थी।

नई कार्यक्षमता AI एजेंट्स का निर्माण सरल बनाएगी और सॉफ़्टवेयर के लिए प्राकृतिक भाषा इंटरफेस बनाना आसान करेगी।

सारांश

जहाँ 2023 में जेनरेटिव AI क्रांति अभूतपूर्व रही है, वहीं अन्य सॉफ़्टवेयर में जेनरेटिव AI को शामिल करने के लिए काफ़ी सॉफ़्टवेयर इंजीनियरिंग कौशल की आवश्यकता पड़ी है। Assistants API इस बाधा को कुछ हद तक कम करने का वादा करता है, जिससे अधिक उत्पाद इस तकनीक को तेज़ी से शामिल कर सकेंगे।

सीखना जारी रखें

DataCamp में OpenAI API का उपयोग सिखाने के लिए कई कोर्स हैं। Working with the OpenAI API से शुरुआत करें और आगे बढ़ें Introduction to Embeddings with the OpenAI API पर।

आप OpenAI Function Calling Tutorial में function calling API के बारे में भी सीख सकते हैं।