GLM 4.7 Flash स्थानीय एजेंटिक कोडिंग के लिए तेज़ी से लोकप्रिय विकल्प बन रहा है। कई डेवलपर इसे llama.cpp और LM Studio जैसे टूल्स के साथ उपयोग कर रहे हैं। फिर भी, बहुत से लोग सेटअप के दौरान, मॉडल को सही तरह से चलाने में, और टूल कॉलिंग अपेक्षित रूप से काम कराने में दिक्कतों का सामना करते हैं।
यह ट्यूटोरियल Claude Code और Ollama की मदद से GLM 4.7 Flash को लोकल रूप से चलाने के सबसे सरल और भरोसेमंद तरीके पर केंद्रित है। उद्देश्य है घर्षण कम करना और आपको अनावश्यक जटिलता के बिना एक कार्यशील सेटअप दिलवाना।
यह गाइड सभी ऑपरेटिंग सिस्टम्स पर काम करता है—आप Linux, Windows या macOS में से कुछ भी उपयोग कर रहे हों, फ़र्क़ नहीं पड़ता। अंत तक, आपके पास GLM 4.7 Flash लोकल रूप से चलेगा और Ollama के माध्यम से Claude Code के साथ सही ढंग से इंटिग्रेट होगा।
पूर्वापेक्षाएँ
शुरू करने से पहले, सुनिश्चित करें कि आपका सिस्टम नीचे दिए न्यूनतम हार्डवेयर और सॉफ़्टवेयर आवश्यकताओं को पूरा करता है।
हार्डवेयर:
कम से कम 16 GB VRAM वाला NVIDIA GPU
बड़े कॉन्टेक्स्ट साइज़ पर स्मूद इंफ़रेंस के लिए 24 GB VRAM अनुशंसित
16–32 GB सिस्टम RAM
कम से कम 25 GB खाली डिस्क स्पेस
यदि आपके पास GPU नहीं है, तो मॉडल CPU पर चल सकता है, लेकिन प्रदर्शन काफ़ी धीमा होगा और ऊँची RAM की आवश्यकता पड़ेगी।
सॉफ़्टवेयर:
Linux या macOS अनुशंसित। Windows उपयोगकर्ता: GPU passthrough सक्षम के साथ WSL2 का उपयोग करें।
NVIDIA GPU ड्राइवर इंस्टॉल होना चाहिए और आपकी CUDA वर्ज़न के साथ संगत होना चाहिए
CUDA Toolkit 13.1 इंस्टॉल करें
यदि CUDA/ड्राइवर गायब है या असंगत है, तो Ollama आम तौर पर CPU पर स्विच कर देगा, जो बहुत धीमा है।
यदि CUDA टूलकिट या NVIDIA ड्राइवर्स गायब हैं या असंगत हैं, तो Ollama CPU मोड में चला जाएगा, जो काफ़ी धीमा है।
यह जाँचने के लिए कि आपके GPU और CUDA ड्राइवर्स सही से इंस्टॉल हैं, अपने टर्मिनल में निम्न कमांड चलाएँ:
यदि सब कुछ सही सेटअप है, तो आपको अपना GPU, उपलब्ध VRAM और CUDA वर्ज़न सूचीबद्ध दिखाई देगा।
1. Ollama इंस्टॉल करें
Ollama वह रनटाइम है जिसका उपयोग हम GLM 4.7 Flash को लोकल रूप से चलाने और उसे इस तरह एक्सपोज़ करने के लिए करेंगे कि Claude Code विश्वसनीय रूप से इंटरैक्ट कर सके। सभी सपोर्टेड प्लेटफ़ॉर्म्स पर इंस्टॉलेशन सीधा-सादा है।
Linux पर, आप एक ही कमांड से Ollama इंस्टॉल कर सकते हैं:
curl-fsSL https://ollama.com/install.sh |shसंचालित द्वारा
macOS और Windows के लिए, सीधे Ollama वेबसाइट से इंस्टॉलर डाउनलोड करें और ऑन-स्क्रीन निर्देशों का पालन करें।
Ollama बैकग्राउंड सर्विस के रूप में चलता है और स्वतः अपडेट्स की जाँच करता रहता है। जब कोई अपडेट उपलब्ध हो, तो आप Ollama मेन्यू से “Restart to update” चुनकर उसे लागू कर सकते हैं।
इंस्टॉलेशन के बाद, एक टर्मिनल खोलें और जाँचें कि Ollama सही इंस्टॉल हुआ है:
जब वर्ज़न कमांड काम करने लगे, तो Ollama इस ट्यूटोरियल के अगले चरणों के लिए तैयार है।
2. GLM-4.7-Flash को पुल और रन करें
Ollama इंस्टॉल और रन होने के बाद, अगला कदम GLM 4.7 Flash मॉडल को डाउनलोड करना और यह सत्यापित करना है कि यह सही काम कर रहा है। इससे इंटिग्रेशन से पहले यह सुनिश्चित हो जाता है कि मॉडल लोकल रूप से चल रहा है।
एक साधारण प्रॉम्प्ट, जैसे अभिवादन, टाइप करें और एंटर दबाएँ। कुछ सेकंड में आपको उत्तर मिल जाना चाहिए।
यदि आप GPU पर चला रहे हैं, तो आप देखेंगे कि प्रतिक्रियाएँ बहुत तेज़ हैं, और मॉडल कॉन्फ़िगरेशन के अनुसार आउटपुट में आंतरिक सोच टोकन्स या रीज़निंग ट्रेसेज़ दिख सकते हैं।
आप Ollama के लोकल HTTP API के ज़रिए भी मॉडल का परीक्षण कर सकते हैं। यह सुनिश्चित करने के लिए उपयोगी है कि बाहरी टूल्स मॉडल से संवाद कर पा रहे हैं।
निम्न कमांड चलाएँ:
curl http://localhost:11434/api/chat -d'{
"model": "glm-4.7-flash",
"messages": [{"role":"user","content":"Hello!"}]
}'संचालित द्वारा
3. कॉन्टेक्स्ट लंबाई सेट करें
Claude Code और अधिकांश एजेंटिक कोडिंग टूल्स बड़े कॉन्टेक्स्ट विंडोज़ के साथ सबसे अच्छा काम करते हैं, अक्सर 64k टोकन्स तक। हालाँकि, GLM 4.7 Flash के साथ, प्रदर्शन और स्थिरता—दोनों के लिए सही कॉन्टेक्स्ट लंबाई चुनना महत्वपूर्ण है।
बहुत बड़े कॉन्टेक्स्ट साइज़ उपयोग करने से जनरेशन स्पीड काफ़ी धीमी हो सकती है। व्यवहार में, टोकन थ्रूपुट 100+ टोकन प्रति सेकंड से घटकर 2 टोकन प्रति सेकंड तक जा सकता है। कुछ मामलों में, यदि कॉन्टेक्स्ट विंडो बहुत ज़्यादा सेट हो, तो मॉडल लंबी सोच वाली लूप्स में फँस सकता है।
हमने कई कॉन्टेक्स्ट साइज़ का परीक्षण किया और पाया कि 10k कॉन्टेक्स्ट Claude Code वर्कफ़्लोज़ के लिए पर्याप्त नहीं था। 20k कॉन्टेक्स्ट ने अच्छा संतुलन दिया—कोडिंग कार्यों के लिए पर्याप्त बड़ा, साथ ही तेज़ प्रतिक्रियाएँ बनाए रखते हुए और अनावश्यक सोच लूप्स कम करते हुए।
सबसे पहले, चल रहे Ollama सर्वर को रोकें। आप टर्मिनल में Ctrl + C दबाकर या प्रक्रिया को समाप्त करके यह कर सकते हैं।
इसके बाद, सर्वर लॉन्च करने से पहले एनवायरनमेंट वैरिएबल सेट करके कस्टम कॉन्टेक्स्ट लंबाई के साथ Ollama को पुनः शुरू करें:
यह पुष्टि करता है कि GLM 4.7 Flash GPU पर चल रहा है और कॉन्टेक्स्ट लंबाई सही तरह से सेट हो गई है। इस बिंदु पर, मॉडल Claude Code के साथ स्थिर और तेज़ उपयोग के लिए कॉन्फ़िगर हो चुका है।
NAME ID SIZE PROCESSOR CONTEXT UNTIL
glm-4.7-flash:latest d1a8a26252f1 21 GB 100% GPU 20000 About a minute from now संचालित द्वारा
4. Claude Code इंस्टॉल करें
Claude Code Anthropic का टर्मिनल-आधारित कोडिंग एजेंट है जो प्राकृतिक भाषा का उपयोग करके कोड लिखने, संपादित करने, रिफ़ैक्टर करने और समझने में आपकी मदद करता है। यह एजेंटिक वर्कफ़्लोज़ के लिए बनाया गया है और कमांड लाइन से सीधे मल्टी-स्टेप कोडिंग कार्य संभाल सकता है।
Ollama के साथ मिलाकर, Claude Code को GLM 4.7 Flash जैसे लोकल मॉडलों के साथ आसानी से उपयोग किया जा सकता है, जिससे आप सब कुछ लोकल रूप से चला सकते हैं और अपना कोड अपनी मशीन पर ही रख सकते हैं।
macOS, Linux, या WSL के साथ Windows पर, आधिकारिक इंस्टॉलर स्क्रिप्ट से Claude Code इंस्टॉल करें:
curl-fsSL https://claude.ai/install.sh |bashसंचालित द्वारा
यह कमांड Claude Code और आवश्यक निर्भरताएँ डाउनलोड और इंस्टॉल करता है। इंस्टॉलेशन पूरा होने के बाद, आपके टर्मिनल में claude कमांड उपलब्ध होगा।
5. Claude Code को Ollama से कनेक्ट करें
अब जबकि Ollama और Claude Code दोनों इंस्टॉल हो चुके हैं, अगला कदम Claude Code को आपके लोकल Ollama सर्वर से जोड़ना और इसे GLM 4.7 Flash मॉडल उपयोग करने के लिए कॉन्फ़िगर करना है।
अपने प्रोजेक्ट के लिए एक वर्किंग डायरेक्टरी बनाएँ। यहीं Claude Code कार्य करेगा और फ़ाइलें मैनेज करेगा:
Ollama अब Claude Code लॉन्च करने का एक बिल्ट-इन तरीका प्रदान करता है, जो इसे स्वतः लोकल Ollama रनटाइम से बात करने के लिए कॉन्फ़िगर कर देता है। यही अनुशंसित और सबसे भरोसेमंद तरीका है।
Ollama का उपयोग करके इंटरैक्टिव रूप से Claude Code लॉन्च करने के लिए:
यदि आउटपुट में glm-4.7-flash दिखे, तो आपका सेटअप पूरा है, और Claude Code आपके लोकल Ollama मॉडल पर सफलतापूर्वक चल रहा है।
7. Ollama के साथ Claude Code का उपयोग
सब कुछ सेटअप होने के बाद, अब आप अपने लोकल GLM 4.7 Flash मॉडल द्वारा संचालित Claude Code का उपयोग शुरू कर सकते हैं। सबसे पहले एक साधारण अभिवादन आज़माएँ। एक-दो सेकंड में आपको प्रतिक्रिया मिल जानी चाहिए। गति स्पष्ट रूप से तेज़ है, ख़ासकर GPU पर चलाते समय।
अगला, एक अधिक वास्तविक कोडिंग कार्य आज़माएँ। Claude Code से Python में CLI Snake गेम बनाने के लिए कहें। कोड जनरेट करने से पहले, प्लानिंग मोड में स्विच करें ताकि मॉडल पहले अपना दृष्टिकोण रेखांकित करे। आप Shift + Tab दो बार दबाकर प्लानिंग मोड टॉगल कर सकते हैं।
योजना बन जाने के बाद, उसे रिव्यू करें। यदि दृष्टिकोण अच्छा लगे, तो Claude Code को योजना निष्पादित करने के लिए कहें।
कुछ ही मिनटों में, इसने आवश्यक फ़ाइलें बना दीं, Snake गेम क्या करता है यह समझाया, और उसे चलाने के स्पष्ट निर्देश दिए।
एक नया टर्मिनल विंडो खोलें और सुनिश्चित करें कि आप उसी प्रोजेक्ट डायरेक्टरी में हैं। फिर गेम को इस तरह शुरू करें:
गेम किसी अतिरिक्त सेटअप के बिना बॉक्स से बाहर ही चल जाता है। यह एक साधारण टर्मिनल-आधारित Snake गेम है, जो क्लासिक Nokia 3310 संस्करण जैसा है। इसकी सादगी के बावजूद, यह दिखाने का बढ़िया उदाहरण है कि Claude Code और Ollama के साथ स्थानीय एजेंटिक कोडिंग कितनी तेज़ और प्रभावी हो सकती है।
अंतिम विचार
Ollama पर GLM 4.7 Flash के साथ Claude Code चलाना दिखाता है कि स्थानीय एजेंटिक कोडिंग कितनी आगे आ चुकी है। आपको तेज़ प्रतिक्रियाएँ, मज़बूत कोड जनरेशन, और अपने डाटा पर पूर्ण नियंत्रण मिलता है—वह भी बिना क्लाउड-होस्टेड मॉडलों पर निर्भर हुए।
एक बार कॉन्फ़िगर हो जाने के बाद, वर्कफ़्लो स्मूद और भरोसेमंद लगता है, यहाँ तक कि मल्टी-स्टेप कोडिंग कार्यों के लिए भी।
मुख्य सीख यह है कि बड़े कॉन्टेक्स्ट विंडो और अधिक जटिल सेटअप हमेशा बेहतर नहीं होते। समझदारी भरे डिफ़ॉल्ट्स के साथ, पूरा सेटअप लगभग पाँच मिनट लेता है; मॉडल डाउनलोड समय अलग है, जो आपकी इंटरनेट स्पीड पर निर्भर करता है।
यदि आपके पास पहले से मॉडल का GGUF फ़ाइल डाउनलोडेड है, तो सेटअप और भी तेज़ हो जाता है। इस स्थिति में, आप मॉडल डाउनलोड को पूरी तरह छोड़ सकते हैं और उसी GGUF फ़ाइल को एक Modelfile बनाकर Ollama में रजिस्टर कर सकते हैं।
इससे आप जेनरेशन पैरामीटर्स एक बार परिभाषित कर लेते हैं और मॉडल को रन एवं टूल्स के बीच लगातार समान तरीके से पुनः उपयोग कर सकते हैं।
अपने GGUF फ़ाइल की उसी डायरेक्टरी में Modelfile नाम की फ़ाइल बनाएँ:
FROM ./glm-4.7-flash.gguf
PARAMETER temperature 0.8
PARAMETER top_p 0.95
PARAMETER repeat_penalty 1.0संचालित द्वारा
आप आवश्यकता अनुसार पैरामीटर्स समायोजित कर सकते हैं:
Temperature: 0.7 से 1.0
Top-p: 0.95 से 1.0
Repeat penalty: अक्षम या 1.0 पर सेट
मॉडल को Ollama में रजिस्टर करें:
ollama create glm-4.7-flash-local -f Modelfileसंचालित द्वारा
मॉडल बन जाने के बाद, आप इसे सीधे चैट मोड में चला सकते हैं:
अब मॉडल किसी भी अन्य Ollama मॉडल की तरह उपयोग किया जा सकता है और Claude Code के साथ बिना किसी रुकावट के इंटिग्रेट हो जाता है।
मैंने Claude Code के भीतर GLM 4.7 Flash का उपयोग करके ऐप्स और गेम्स बनाते हुए बहुत मज़ा किया। दूरस्थ स्थान पर बिना इंटरनेट या अस्थिर कनेक्टिविटी के काम करना वास्तव में सशक्त महसूस होता है। सब कुछ लोकल रूप से चलता है, कुछ नहीं टूटता, और फिर भी आपके पास एक शक्तिशाली कोडिंग एजेंट है। नियंत्रण और स्वतंत्रता की वह भावना बेमिसाल है।
यदि आप इस लेख में कवर किए गए टूल्स के बारे में अधिक सीखना चाहते हैं, तो मैं निम्न संसाधनों की अनुशंसा करता/करती हूँ:
एजेंटिक कोडिंग के लिए कौन से लोकल मॉडल सबसे बेहतर काम करते हैं?⌄
Claude Code को Ollama के साथ चलाना 2026 के सबसे शक्तिशाली "vibe-coding" सेटअप्स में से एक है। यह आपको Anthropic के उन्नत टर्मिनल एजेंट का उपयोग करने देता है, जबकि आपका सोर्स कोड पूरी तरह निजी रहता है और महँगे API शुल्कों से भी बचत होती है।
Ollama v0.14 से, इसमें Anthropic Messages API के साथ नेटिव संगतता है, यानी कुछ एनवायरनमेंट वैरिएबल्स सेट करके आप क्लाउड बैकएंड को लोकल से बदल सकते हैं।
Claude Code + Ollama के लिए 5 सामान्य FAQs
1. मैं Claude Code को अपने लोकल Ollama सर्वर की ओर कैसे पॉइंट करूँ?
Claude Code डिफ़ॉल्ट रूप से Anthropic API ढूँढता है। इसे Ollama पर रीडायरेक्ट करने के लिए, claude कमांड चलाने से पहले अपने टर्मिनल में ये तीन एनवायरनमेंट वैरिएबल्स सेट करें:
Linux/macOS:
Bash
export ANTHROPIC_BASE_URL="http://localhost:11434"export ANTHROPIC_AUTH_TOKEN="ollama"export ANTHROPIC_API_KEY=""संचालित द्वारा
Windows (PowerShell):
PowerShell
$env:ANTHROPIC_BASE_URL = "http://localhost:11434"$env:ANTHROPIC_AUTH_TOKEN = "ollama"$env:ANTHROPIC_API_KEY = ""संचालित द्वारा
टिप: यदि आप नवीनतम Ollama उपयोग कर रहे हैं, तो बस ollama launch claude चलाएँ—ये वैरिएबल्स स्वतः आपके लिए कॉन्फ़िगर हो जाएँगे।
2. एजेंटिक कोडिंग के लिए कौन से लोकल मॉडल सबसे बेहतर काम करते हैं?
हर लोकल मॉडल "एजेंटिक" निर्देशों (टूल कॉलिंग, फ़ाइल पढ़ना, और मल्टी-स्टेप प्लानिंग) को संभाल नहीं सकता, जिनकी Claude Code को आवश्यकता होती है। 2026 की शुरुआत तक, समुदाय के पसंदीदा ये हैं:
GLM 4.7 Flash: स्पीड और बड़े कॉन्टेक्स्ट विंडोज़ (128k) के लिए उच्च रूप से अनुकूलित।
Qwen 2.5 Coder (32B या 7B): ओपन-सोर्स कोडिंग रीज़निंग के लिए वर्तमान स्वर्ण मानक।
Codestral: Python और जटिल लॉजिक के लिए उत्कृष्ट, हालाँकि हार्डवेयर पर भारी।
न्यूनतम हार्डवेयर आवश्यकताएँ क्या हैं?⌄
क्योंकि Claude Code अपना व्यवहार परिभाषित करने के लिए एक बहुत बड़ा सिस्टम प्रॉम्प्ट (~16k टोकन्स) भेजता है, इसलिए हार्डवेयर प्राथमिक बाधा है:
अनुशंसित:16GB-24GB VRAM वाला NVIDIA GPU (जैसे, RTX 3090/4090) या 32GB+ RAM वाला Apple M-सीरीज़ Mac।
न्यूनतम: 16GB कुल RAM। यदि आपके पास GPU नहीं है, तो आप छोटे मॉडल (जैसे Qwen 7B) CPU पर चला सकते हैं, लेकिन "Planning Mode" के हर स्टेप में कई मिनट लगने की उम्मीद रखें।
Claude Code बार-बार इंटरनेट से कनेक्ट होने की कोशिश क्यों करता है?⌄
लोकल मॉडल होने के बावजूद, Claude Code "ग़ैर-आवश्यक" ट्रैफ़िक जैसे टेलीमेट्री या अपडेट चेक भेजने की कोशिश कर सकता है। यदि आप सख्ती से ऑफ़लाइन वातावरण में हैं या अधिकतम गोपनीयता चाहते हैं, तो यह अतिरिक्त वैरिएबल सेट करें:
export CLAUDE_CODE_DISABLE_NONESSENTIAL_TRAFFIC=1
संचालित द्वारा
यह सुनिश्चित करता है कि एजेंट "फोन होम" न करे और आपके लोकल नेटवर्क तक सीमित रहे।
क्या मैं लोकल मॉडलों के साथ "Planning Mode" उपयोग कर सकता/सकती हूँ?⌄
हाँ। वे लोकल मॉडल जो टूल उपयोग सपोर्ट करते हैं (जैसे GLM 4.7 Flash या Qwen 2.5 Coder), Claude Code के प्लानिंग मोड को संभाल सकते हैं। हालाँकि, यदि मॉडल पर्याप्त शक्तिशाली नहीं है, तो यह "थिंकिंग लूप" में फँस सकता है जहाँ वही स्टेप दोहराता रहता है।
उपाय: यदि ऐसा हो, तो बड़ा क्वांटाइज़ेशन आज़माएँ (जैसे q4 से q8 या fp16 संस्करण पर जाएँ) या अपने Ollama Modelfile में num_ctx (कॉन्टेक्स्ट विंडो) को कम से कम 32,000 तक बढ़ाएँ।
एक प्रमाणित डेटा साइंटिस्ट के रूप में, मैं अत्याधुनिक तकनीक का उपयोग करके नवाचारी मशीन लर्निंग अनुप्रयोग बनाने के लिए उत्साहित रहता/रहती हूँ। स्पीच रिकॉग्निशन, डेटा विश्लेषण और रिपोर्टिंग, MLOps, संवादात्मक AI और NLP में मजबूत पृष्ठभूमि के साथ, मैंने ऐसे बुद्धिमान सिस्टम विकसित करने में अपनी विशेषज्ञता निखारी है जो वास्तविक प्रभाव डाल सकें। तकनीकी दक्षता के अलावा, मैं जटिल अवधारणाओं को स्पष्ट और संक्षिप्त भाषा में प्रस्तुत करने में भी निपुण हूँ। परिणामस्वरूप, मैं डेटा साइंस पर एक मांग में रहने वाला/वाली ब्लॉगर बन गया/गई हूँ, और डेटा प्रोफेशनलों के बढ़ते समुदाय के साथ अपने अनुभव और विचार साझा करता/करती हूँ। वर्तमान में, मैं कंटेंट निर्माण और संपादन पर केंद्रित हूँ, बड़े भाषा मॉडलों के साथ काम करते हुए ऐसा प्रभावशाली और आकर्षक कंटेंट विकसित कर रहा/रही हूँ जो व्यवसायों और व्यक्तियों दोनों को अपने डेटा का अधिकतम लाभ उठाने में मदद कर सके।
%22%3E%3Cpath%20d%3D%22m-369%200h408v79h-408z%22%20fill%3D%22%237933ff%22%2F%3E%3Cpath%20d%3D%22m-148%200h306v45h-306z%22%20fill%3D%22%23974dff%22%2F%3E%3C%2Fg%3E%3C%2Fsvg%3E)
%22%2F%3E%3C%2FclipPath%3E%3Cg%20clip-path%3D%22url(%23a)%22%3E%3Cpath%20d%3D%22m76%200h484v36h-484z%22%20fill%3D%22%23974dff%22%2F%3E%3Cpath%20d%3D%22m0%200h384v24h-384z%22%20fill%3D%22%2306bdfc%22%20transform%3D%22matrix(1%200%200%20-1%200%2060)%22%2F%3E%3C%2Fg%3E%3C%2Fsvg%3E)
GLM 4.7 Flash स्थानीय एजेंटिक कोडिंग के लिए तेज़ी से लोकप्रिय विकल्प बन रहा है। कई डेवलपर इसे llama.cpp और LM Studio जैसे टूल्स के साथ उपयोग कर रहे हैं। फिर भी, बहुत से लोग सेटअप के दौरान, मॉडल को सही तरह से चलाने में, और टूल कॉलिंग अपेक्षित रूप से काम कराने में दिक्कतों का सामना करते हैं।
यह ट्यूटोरियल Claude Code और Ollama की मदद से GLM 4.7 Flash को लोकल रूप से चलाने के सबसे सरल और भरोसेमंद तरीके पर केंद्रित है। उद्देश्य है घर्षण कम करना और आपको अनावश्यक जटिलता के बिना एक कार्यशील सेटअप दिलवाना।
यह गाइड सभी ऑपरेटिंग सिस्टम्स पर काम करता है—आप Linux, Windows या macOS में से कुछ भी उपयोग कर रहे हों, फ़र्क़ नहीं पड़ता। अंत तक, आपके पास GLM 4.7 Flash लोकल रूप से चलेगा और Ollama के माध्यम से Claude Code के साथ सही ढंग से इंटिग्रेट होगा।
पूर्वापेक्षाएँ
शुरू करने से पहले, सुनिश्चित करें कि आपका सिस्टम नीचे दिए न्यूनतम हार्डवेयर और सॉफ़्टवेयर आवश्यकताओं को पूरा करता है।
हार्डवेयर:
यदि आपके पास GPU नहीं है, तो मॉडल CPU पर चल सकता है, लेकिन प्रदर्शन काफ़ी धीमा होगा और ऊँची RAM की आवश्यकता पड़ेगी।
सॉफ़्टवेयर:
यदि CUDA टूलकिट या NVIDIA ड्राइवर्स गायब हैं या असंगत हैं, तो Ollama CPU मोड में चला जाएगा, जो काफ़ी धीमा है।
यह जाँचने के लिए कि आपके GPU और CUDA ड्राइवर्स सही से इंस्टॉल हैं, अपने टर्मिनल में निम्न कमांड चलाएँ:
यदि सब कुछ सही सेटअप है, तो आपको अपना GPU, उपलब्ध VRAM और CUDA वर्ज़न सूचीबद्ध दिखाई देगा।
1. Ollama इंस्टॉल करें
Ollama वह रनटाइम है जिसका उपयोग हम GLM 4.7 Flash को लोकल रूप से चलाने और उसे इस तरह एक्सपोज़ करने के लिए करेंगे कि Claude Code विश्वसनीय रूप से इंटरैक्ट कर सके। सभी सपोर्टेड प्लेटफ़ॉर्म्स पर इंस्टॉलेशन सीधा-सादा है।
Linux पर, आप एक ही कमांड से Ollama इंस्टॉल कर सकते हैं:
macOS और Windows के लिए, सीधे Ollama वेबसाइट से इंस्टॉलर डाउनलोड करें और ऑन-स्क्रीन निर्देशों का पालन करें।
स्रोत: Ollama
Ollama बैकग्राउंड सर्विस के रूप में चलता है और स्वतः अपडेट्स की जाँच करता रहता है। जब कोई अपडेट उपलब्ध हो, तो आप Ollama मेन्यू से “Restart to update” चुनकर उसे लागू कर सकते हैं।
इंस्टॉलेशन के बाद, एक टर्मिनल खोलें और जाँचें कि Ollama सही इंस्टॉल हुआ है:
आपको कुछ ऐसा आउटपुट दिखना चाहिए:
यदि
ollama -vचलाने पर त्रुटि दिखती है, तो आमतौर पर इसका मतलब है कि Ollama सर्विस अभी चल नहीं रही। Ollama सर्वर को मैन्युअली शुरू करें:इसे चलने दें, एक नया टर्मिनल विंडो खोलें, और फिर चलाएँ:
जब वर्ज़न कमांड काम करने लगे, तो Ollama इस ट्यूटोरियल के अगले चरणों के लिए तैयार है।
2. GLM-4.7-Flash को पुल और रन करें
Ollama इंस्टॉल और रन होने के बाद, अगला कदम GLM 4.7 Flash मॉडल को डाउनलोड करना और यह सत्यापित करना है कि यह सही काम कर रहा है। इससे इंटिग्रेशन से पहले यह सुनिश्चित हो जाता है कि मॉडल लोकल रूप से चल रहा है।
स्रोत: glm-4.7-flash
Ollama के रजिस्ट्री से मॉडल डाउनलोड करके शुरू करें:
यह मॉडल फ़ाइलें डाउनलोड कर उन्हें लोकल स्टोर करेगा। आपकी इंटरनेट स्पीड पर निर्भर करते हुए, इसमें कुछ मिनट लग सकते हैं।
डाउनलोड पूरा होने के बाद, मॉडल को इंटरैक्टिव चैट मोड में एक त्वरित जाँच के लिए चलाएँ:
एक साधारण प्रॉम्प्ट, जैसे अभिवादन, टाइप करें और एंटर दबाएँ। कुछ सेकंड में आपको उत्तर मिल जाना चाहिए।
यदि आप GPU पर चला रहे हैं, तो आप देखेंगे कि प्रतिक्रियाएँ बहुत तेज़ हैं, और मॉडल कॉन्फ़िगरेशन के अनुसार आउटपुट में आंतरिक सोच टोकन्स या रीज़निंग ट्रेसेज़ दिख सकते हैं।
आप Ollama के लोकल HTTP API के ज़रिए भी मॉडल का परीक्षण कर सकते हैं। यह सुनिश्चित करने के लिए उपयोगी है कि बाहरी टूल्स मॉडल से संवाद कर पा रहे हैं।
निम्न कमांड चलाएँ:
3. कॉन्टेक्स्ट लंबाई सेट करें
Claude Code और अधिकांश एजेंटिक कोडिंग टूल्स बड़े कॉन्टेक्स्ट विंडोज़ के साथ सबसे अच्छा काम करते हैं, अक्सर 64k टोकन्स तक। हालाँकि, GLM 4.7 Flash के साथ, प्रदर्शन और स्थिरता—दोनों के लिए सही कॉन्टेक्स्ट लंबाई चुनना महत्वपूर्ण है।
बहुत बड़े कॉन्टेक्स्ट साइज़ उपयोग करने से जनरेशन स्पीड काफ़ी धीमी हो सकती है। व्यवहार में, टोकन थ्रूपुट 100+ टोकन प्रति सेकंड से घटकर 2 टोकन प्रति सेकंड तक जा सकता है। कुछ मामलों में, यदि कॉन्टेक्स्ट विंडो बहुत ज़्यादा सेट हो, तो मॉडल लंबी सोच वाली लूप्स में फँस सकता है।
हमने कई कॉन्टेक्स्ट साइज़ का परीक्षण किया और पाया कि 10k कॉन्टेक्स्ट Claude Code वर्कफ़्लोज़ के लिए पर्याप्त नहीं था। 20k कॉन्टेक्स्ट ने अच्छा संतुलन दिया—कोडिंग कार्यों के लिए पर्याप्त बड़ा, साथ ही तेज़ प्रतिक्रियाएँ बनाए रखते हुए और अनावश्यक सोच लूप्स कम करते हुए।
सबसे पहले, चल रहे Ollama सर्वर को रोकें। आप टर्मिनल में
Ctrl + Cदबाकर या प्रक्रिया को समाप्त करके यह कर सकते हैं।इसके बाद, सर्वर लॉन्च करने से पहले एनवायरनमेंट वैरिएबल सेट करके कस्टम कॉन्टेक्स्ट लंबाई के साथ Ollama को पुनः शुरू करें:
यह Ollama को 20,000 टोकन्स की अधिकतम कॉन्टेक्स्ट विंडो के साथ मॉडल लोड करने के लिए कहता है।
एक नए टर्मिनल विंडो में चलाएँ:
यह पुष्टि करता है कि GLM 4.7 Flash GPU पर चल रहा है और कॉन्टेक्स्ट लंबाई सही तरह से सेट हो गई है। इस बिंदु पर, मॉडल Claude Code के साथ स्थिर और तेज़ उपयोग के लिए कॉन्फ़िगर हो चुका है।
4. Claude Code इंस्टॉल करें
Claude Code Anthropic का टर्मिनल-आधारित कोडिंग एजेंट है जो प्राकृतिक भाषा का उपयोग करके कोड लिखने, संपादित करने, रिफ़ैक्टर करने और समझने में आपकी मदद करता है। यह एजेंटिक वर्कफ़्लोज़ के लिए बनाया गया है और कमांड लाइन से सीधे मल्टी-स्टेप कोडिंग कार्य संभाल सकता है।
Ollama के साथ मिलाकर, Claude Code को GLM 4.7 Flash जैसे लोकल मॉडलों के साथ आसानी से उपयोग किया जा सकता है, जिससे आप सब कुछ लोकल रूप से चला सकते हैं और अपना कोड अपनी मशीन पर ही रख सकते हैं।
macOS, Linux, या WSL के साथ Windows पर, आधिकारिक इंस्टॉलर स्क्रिप्ट से Claude Code इंस्टॉल करें:
यह कमांड Claude Code और आवश्यक निर्भरताएँ डाउनलोड और इंस्टॉल करता है। इंस्टॉलेशन पूरा होने के बाद, आपके टर्मिनल में
claudeकमांड उपलब्ध होगा।5. Claude Code को Ollama से कनेक्ट करें
अब जबकि Ollama और Claude Code दोनों इंस्टॉल हो चुके हैं, अगला कदम Claude Code को आपके लोकल Ollama सर्वर से जोड़ना और इसे GLM 4.7 Flash मॉडल उपयोग करने के लिए कॉन्फ़िगर करना है।
अपने प्रोजेक्ट के लिए एक वर्किंग डायरेक्टरी बनाएँ। यहीं Claude Code कार्य करेगा और फ़ाइलें मैनेज करेगा:
Ollama अब Claude Code लॉन्च करने का एक बिल्ट-इन तरीका प्रदान करता है, जो इसे स्वतः लोकल Ollama रनटाइम से बात करने के लिए कॉन्फ़िगर कर देता है। यही अनुशंसित और सबसे भरोसेमंद तरीका है।
Ollama का उपयोग करके इंटरैक्टिव रूप से Claude Code लॉन्च करने के लिए:
GLM 4.7 Flash मॉडल के साथ सीधे Claude Code शुरू करने के लिए, यह चलाएँ:
यह सुनिश्चित करता है कि Claude Code रिमोट या डिफ़ॉल्ट मॉडल के बजाय आपके लोकल GLM 4.7 Flash मॉडल का उपयोग करे।
सब कुछ सेटअप होने पर, आपको सीधे अपने टर्मिनल में Claude Code इंटरफ़ेस दिखाई देगा।
Claude Code के अंदर, यह पुष्टि करने के लिए कि यह आपका लोकल मॉडल उपयोग कर रहा है, निम्न कमांड चलाएँ:
यदि आउटपुट में
glm-4.7-flashदिखे, तो आपका सेटअप पूरा है, और Claude Code आपके लोकल Ollama मॉडल पर सफलतापूर्वक चल रहा है।7. Ollama के साथ Claude Code का उपयोग
सब कुछ सेटअप होने के बाद, अब आप अपने लोकल GLM 4.7 Flash मॉडल द्वारा संचालित Claude Code का उपयोग शुरू कर सकते हैं। सबसे पहले एक साधारण अभिवादन आज़माएँ। एक-दो सेकंड में आपको प्रतिक्रिया मिल जानी चाहिए। गति स्पष्ट रूप से तेज़ है, ख़ासकर GPU पर चलाते समय।
अगला, एक अधिक वास्तविक कोडिंग कार्य आज़माएँ। Claude Code से Python में CLI Snake गेम बनाने के लिए कहें। कोड जनरेट करने से पहले, प्लानिंग मोड में स्विच करें ताकि मॉडल पहले अपना दृष्टिकोण रेखांकित करे। आप Shift + Tab दो बार दबाकर प्लानिंग मोड टॉगल कर सकते हैं।
गेम किसी अतिरिक्त सेटअप के बिना बॉक्स से बाहर ही चल जाता है। यह एक साधारण टर्मिनल-आधारित Snake गेम है, जो क्लासिक Nokia 3310 संस्करण जैसा है। इसकी सादगी के बावजूद, यह दिखाने का बढ़िया उदाहरण है कि Claude Code और Ollama के साथ स्थानीय एजेंटिक कोडिंग कितनी तेज़ और प्रभावी हो सकती है।
अंतिम विचार
Ollama पर GLM 4.7 Flash के साथ Claude Code चलाना दिखाता है कि स्थानीय एजेंटिक कोडिंग कितनी आगे आ चुकी है। आपको तेज़ प्रतिक्रियाएँ, मज़बूत कोड जनरेशन, और अपने डाटा पर पूर्ण नियंत्रण मिलता है—वह भी बिना क्लाउड-होस्टेड मॉडलों पर निर्भर हुए।
एक बार कॉन्फ़िगर हो जाने के बाद, वर्कफ़्लो स्मूद और भरोसेमंद लगता है, यहाँ तक कि मल्टी-स्टेप कोडिंग कार्यों के लिए भी।
मुख्य सीख यह है कि बड़े कॉन्टेक्स्ट विंडो और अधिक जटिल सेटअप हमेशा बेहतर नहीं होते। समझदारी भरे डिफ़ॉल्ट्स के साथ, पूरा सेटअप लगभग पाँच मिनट लेता है; मॉडल डाउनलोड समय अलग है, जो आपकी इंटरनेट स्पीड पर निर्भर करता है।
यदि आपके पास पहले से मॉडल का GGUF फ़ाइल डाउनलोडेड है, तो सेटअप और भी तेज़ हो जाता है। इस स्थिति में, आप मॉडल डाउनलोड को पूरी तरह छोड़ सकते हैं और उसी GGUF फ़ाइल को एक Modelfile बनाकर Ollama में रजिस्टर कर सकते हैं।
इससे आप जेनरेशन पैरामीटर्स एक बार परिभाषित कर लेते हैं और मॉडल को रन एवं टूल्स के बीच लगातार समान तरीके से पुनः उपयोग कर सकते हैं।
अपने GGUF फ़ाइल की उसी डायरेक्टरी में
Modelfileनाम की फ़ाइल बनाएँ:आप आवश्यकता अनुसार पैरामीटर्स समायोजित कर सकते हैं:
मॉडल को Ollama में रजिस्टर करें:
मॉडल बन जाने के बाद, आप इसे सीधे चैट मोड में चला सकते हैं:
अब मॉडल किसी भी अन्य Ollama मॉडल की तरह उपयोग किया जा सकता है और Claude Code के साथ बिना किसी रुकावट के इंटिग्रेट हो जाता है।
मैंने Claude Code के भीतर GLM 4.7 Flash का उपयोग करके ऐप्स और गेम्स बनाते हुए बहुत मज़ा किया। दूरस्थ स्थान पर बिना इंटरनेट या अस्थिर कनेक्टिविटी के काम करना वास्तव में सशक्त महसूस होता है। सब कुछ लोकल रूप से चलता है, कुछ नहीं टूटता, और फिर भी आपके पास एक शक्तिशाली कोडिंग एजेंट है। नियंत्रण और स्वतंत्रता की वह भावना बेमिसाल है।
यदि आप इस लेख में कवर किए गए टूल्स के बारे में अधिक सीखना चाहते हैं, तो मैं निम्न संसाधनों की अनुशंसा करता/करती हूँ: