Last chance! 50% off DataCamp Premium
Sale ends in
फरवरी 2025 में, Claude 3.7 Sonnet ने SWE-bench Verified पर 62.3% स्कोर किया, या कस्टम स्कैफोल्ड के साथ 70.3%, जबकि उस समय का सर्वश्रेष्ठ ओपन-वेट मॉडल DeepSeek-R1 अपनी पेपर में 49.2% रिपोर्ट करता है।
यह 13 से 21 अंकों का अंतर था, इस पर निर्भर कि आप स्कैफोल्डिंग के साथ कितने उदार हैं।
सितंबर 2026 तक, स्वतंत्र Vals AI बोर्ड (SWE-bench Verified) पर Claude Opus 5 का स्कोर 97.0% और ओपन-वेट DeepSeek V4 Pro 0813 का 96.4% है, और Vals ने इस बेंचमार्क को सैचुरेशन के कारण आर्काइव कर दिया।
फ्रंटियर अब कठिन एजेंटिक इवैल्यूएशंस जैसे SWE-bench Pro और Terminal-Bench 4.0 पर शिफ्ट हो गया, ओपन वेट्स पुराने टेस्ट्स पर पकड़ बना चुके हैं, और "कोडिंग के लिए सर्वश्रेष्ठ LLM" का सवाल बदलकर यह हो गया कि "किस चीज़ के लिए, किस हार्डवेयर पर, किस कीमत पर"।
मैं उन 9 मॉडलों के लिए इसका जवाब दूंगा जिन्हें मैं आज वास्तव में इस्तेमाल करने पर विचार करूंगा, और संक्षेप में कहें तो Claude Opus 5.5 वह मॉडल है जिससे अधिकांश टीमों को शुरुआत करनी चाहिए।
रैंकिंग से पहले एक नोट: यह लेख मॉडलों पर केंद्रित है, न कि उनके चारों ओर लगे टूल्स पर। अगर आप Cursor, Copilot और Windsurf की तुलना चाहते हैं, तो 2026 के सर्वश्रेष्ठ AI कोडिंग असिस्टेंट्स पर हमारा राउंडअप उसे कवर करता है।
Claude Opus 5.5 अब अधिकांश बेंचमार्क्स पर सबसे मजबूत कोडिंग मॉडल है और वही है जिसे अधिकांश डेवलपर्स को डिफ़ॉल्ट मानना चाहिए; Claude Fable 5.1 सबसे लंबी-होराइज़न वाली कार्यों के लिए बेहतर है; और Qwen3.8-27B वह ओपन-वेट मॉडल है जिसे आप एक GPU पर चला सकते हैं। उद्देश्य के अनुसार सर्वश्रेष्ठ विकल्प ये हैं:
ऊपर दिए गए हर स्कोर को, जहां उल्लेखित नहीं, विक्रेता ने प्रकाशित किया है। बाकी लेख बताता है कि मैंने ये चयन कैसे किए और किस जगह कौन-सा मॉडल चूकता है।
एक कोडिंग LLM वह मॉडल है जो आपका प्रॉम्प्ट पढ़ता है और टोकन जनरेट करता है, जबकि कोडिंग असिस्टेंट वह हार्नेस है जो उसे फाइलें खिलाता है, उसके कमांड्स चलाता है और आपको डिफ्स दिखाता है।
Claude Code, Codex, Cursor, GitHub Copilot और Windsurf हार्नेस हैं। Claude Opus 5.5, GPT-6 Astra और Qwen3.8-27B मॉडल हैं—और हार्नेस, जितनी उम्मीद लोग करते हैं उससे अधिक, स्कोर बदल देता है।
Anthropic की अपनी Claude Opus 4.8 लॉन्च पोस्ट का एक फुटनोट इसे ठोस बनाता है।
यह हर मॉडल का Terminal-Bench 2.1 स्कोर सार्वजनिक Terminus-2 हार्नेस पर रिपोर्ट करता है, फिर नोट करता है कि GPT-5.5 का नंबर OpenAI के Codex CLI के अंदर 83.4% तक बढ़ जाता है। वेट्स वही, पाइपलाइन अलग, नतीजा अलग।
इसीलिए नीचे की रैंकिंग्स में जहां संभव हुआ, हार्नेस संलग्न है। अगर आप यह जानने में नए हैं कि ये मॉडल अंदर से कैसे काम करते हैं, तो हमारे LLM क्या है गाइड को 15 मिनट में पढ़ा जा सकता है और यह बाकी लेख को समझना आसान बना देगा।
2026 में कोडिंग LLMs के लिए जो बेंचमार्क मायने रखते हैं वे हैं SWE-bench Pro, Terminal-Bench (संस्करण 2.1 और 4.0) और, उन ओपन-वेट मॉडलों के लिए जो अभी भी इसे रिपोर्ट करते हैं, LiveCodeBench v6। SWE-bench Verified 2 वर्षों तक मानक रहा और अब शीर्ष मॉडलों को अलग करने के लिए बहुत सैचुरेटेड है।
रैंक करने से पहले, प्रत्येक मॉडल एंट्री में दिए गए हर नंबर का मतलब यहां है।
SWE-bench Verified लोकप्रिय Python रिपॉज़िटरीज़ से लिए गए 500 मानव-वैलिडेटेड GitHub इश्यूज़ का सेट है; मॉडल को रिपॉज़िटरी और इश्यू टेक्स्ट मिलते हैं और उसे ऐसा पैच बनाना होता है जो छिपे हुए यूनिट टेस्ट्स पास करे।
OpenAI ने 2024 में Verified सबसेट पेश किया क्योंकि मूल SWE-bench में कुछ कार्य अपर्याप्त रूप से निर्दिष्ट इश्यूज़ या खराब टेस्ट्स के साथ थे। यह अब भी सबसे ज़्यादा उद्धृत कोडिंग नंबर है—और यही समस्या है।
Vals AI लीडरबोर्ड, जो हर मॉडल को एक ही न्यूनतम bash-only एजेंट से चलाता है, ने 1 सितंबर 2026 के अपडेट में Claude Opus 5 को 97.0%, DeepSeek V4 Pro 0813 को 96.4% और GPT-5.6 Sol को 96.2% पर रखा, फिर बेंचमार्क को आर्काइव्ड मार्क कर दिया।
जब 3 लैब्स के 3 मॉडल एक-दूसरे से एक अंक के भीतर और छत से 4 अंकों पर बैठते हैं, तो मैट्रिक भेद करना बंद कर देती है। मैं इसे पुराने और छोटे मॉडलों के लिए अब भी उद्धृत करता हूं क्योंकि उनके कार्ड यही नंबर रिपोर्ट करते हैं, पर मैं इस पर रैंक नहीं करता।
Scale AI द्वारा मेंटेन किया गया SWE-bench Pro 41 प्रोफेशनल रिपॉज़िटरीज़ में 1,865 टास्क्स शामिल करता है, जिसमें 731-टास्क का पब्लिक स्प्लिट और होल्ड-आउट प्राइवेट सेट्स हैं। 22 सितंबर 2026 को Scale ने SWE-Bench Pro V2 जारी किया, जिसमें 89 अवैध पाए गए कार्य हटाने के बाद पब्लिक सेट 642 टास्क रह गया, इसलिए देखें कि स्कोर किस संस्करण पर चला।
औसत फिक्स 4.1 फाइलों में 107.4 लाइनों को छूता है, और रिपॉज़िटरीज़ केवल Python नहीं, कई भाषाओं में फैली हैं। जब SWE-bench Pro पेपर सितंबर 2025 में आया, तब सर्वश्रेष्ठ मॉडल ~23% स्कोर करते थे।
एक वर्ष बाद, Anthropic के Fable 5.1 सिस्टम कार्ड में Fable 5.1 के लिए 81.2% और Opus 5 के लिए 79.2% रिपोर्ट है, और OpenAI के GPT-5.6 लॉन्च टेबल में GPT-5.6 Sol के लिए 64.6%। Fable कार्ड के तीन हफ्ते बाद Opus 5.5 सिस्टम कार्ड ने टॉप स्कोर को 89.9% तक धकेला।
ये विक्रेता-रन हैं, Anthropic के मामले में अधिकतम प्रयास पर 5 ट्रायल्स का औसत। Scale का पब्लिक लीडरबोर्ड विक्रेता नंबरों से महीनों पीछे रहता है, इसलिए मैं विक्रेता फ़िगर को छत और लीडरबोर्ड को फ़्लोर मानता हूं।
Terminal-Bench एक मॉडल को कंटेनर के अंदर लाइव शेल देता है और "यह मॉडल ट्रेन करो", "यह बिल्ड ठीक करो", या "यह करप्टेड आर्काइव रिकवर करो" जैसे टास्क देता है, फिर यह उसके बनाए आर्टिफैक्ट्स को ग्रेड करता है।
2.1 रिलीज़ सॉफ़्टवेयर इंजीनियरिंग, सिस्टम एडमिनिस्ट्रेशन, डेटा प्रोसेसिंग और सुरक्षा में 89 क्यूरेटेड टास्क्स है, और Artificial Analysis इसे Terminus 2 हार्नेस के साथ 3 रन के औसत pass@1 के रूप में स्कोर करता है। एजेंट्स बनाने या उपयोग करने वालों के लिए मैं इसी एक नंबर को सबसे अधिक वज़न देता हूं।
Terminal-Bench 4.0, Stanford, Harbor और Laude Institute द्वारा tbench.ai पर होस्ट किया गया, नया फ्रंटियर सेट है।
Anthropic का Opus 5.5 सिस्टम कार्ड इसे 66 कार्यों का सेट बताता है जो कम्प्यूटेशनल बायोलॉजी, फिजिक्स सिमुलेशन, CAD, फॉर्मल प्रूफ्स और GPU परफॉर्मेंस कार्यों की ओर झुका है, साथ ही लंबे टाइमआउट्स, जिससे हार्नेस का महत्व कम हो जाता है।
tbench.ai एजेंट लीडरबोर्ड पर GPT-6 Astra अब भी 58.2% के साथ आगे है और Claude Fable 5.1 57.9% पर है, हालांकि वहां Claude Opus 5.5 का एजेंट एंट्री अभी नहीं है। मॉडल-लेवल रन में Artificial Analysis पर Opus 5.5 और Astra 59.6% पर बराबरी पर हैं, और Vals AI Opus 5.5 को 61.6% पर पहले स्थान पर रखता है, हालांकि Vals नोट करता है कि अगर उनके सेफ़गार्ड्स द्वारा फॉलबैक मॉडल को सौंपी गई टास्क्स को फेल मानें तो यह 53.5% तक गिर जाता है। यहीं फ्रंटियर समूह से अलग होता है।
LiveCodeBench, Jain और सहलेखकों के 2024 पेपर में प्रस्तुत, LeetCode, AtCoder और Codeforces से समस्याएं लगातार एकत्र करता है और हर एक को टाइम-स्टैम्प करता है ताकि आप किसी मॉडल का मूल्यांकन केवल उसकी ट्रेनिंग कटऑफ के बाद प्रकाशित समस्याओं पर कर सकें।
संस्करण 6 पब्लिक लीडरबोर्ड पर मौजूदा विंडो है। यह रिपॉज़िटरी-स्तरीय इंजीनियरिंग के बजाय एल्गोरिदमिक रीजनिंग मापता है, इसी कारण यह इंटरव्यू-स्टाइल और डेटा-स्ट्रक्चर कार्यों के लिए उपयोगी बना रहा।
फ्रंटियर लैब्स ने 2026 में इसे रिपोर्ट करना अधिकतर बंद कर दिया, इसलिए मेरे पास जो नंबर हैं वे ओपन-वेट मॉडलों से हैं: अप्रैल के DeepSeek V4 Pro प्रीव्यू में 93.5%, Qwen3.8-27B में 90.3% और Kimi K2.6 में 89.6%। Gemini 3.1 Pro एक संबंधित मीट्रिक रिपोर्ट करता है, LiveCodeBench Pro Elo 2,887।
विक्रेता बेंचमार्क टेबल एक बेस्ट केस है: उनका हार्नेस, उनका प्रयास स्तर, उनके ट्रायल्स की संख्या। मैं 3 अंकों से छोटे अंतर में विश्वास करने से पहले Artificial Analysis, Vals AI, या tbench.ai लीडरबोर्ड पर एक स्वतंत्र पुनरुत्पादन देखता हूं।
LLM बेंचमार्क्स और मॉडलों की तुलना कैसे करें पर हमारा प्राइमर प्रमुख लीडरबोर्ड्स से गुज़रता है, और MMLU क्या मापता है पर हमारा लेख यह याद दिलाता है कि नॉलेज बेंचमार्क आपको लगभग कुछ नहीं बताता कि कोई मॉडल फ्लेकी टेस्ट ठीक कर पाएगा या नहीं।
अपना खुद का इवैल्यूएशन हार्नेस बनाने के लिए, LLM इवैल्यूएशन मेट्रिक्स और मेथडोलॉजीज़ पर हमारा गाइड वह है जिसे मैं जूनियर साथियों को पहले पॉइंट करता हूं।
इन बेंचमार्क्स के परिभाषित होने के साथ, अब देखते हैं कि ये 9 मॉडल उन पर कैसे स्कोर करते हैं—क्लाउड फ्रंटियर से शुरू करते हुए।
सितंबर 2026 में कोडिंग के लिए सर्वश्रेष्ठ क्लाउड फ्रंटियर मॉडल हैं: Claude Opus 5.5, Claude Fable 5.1, GPT-6 Astra और Gemini 3.8 Flash—और चारों लगभग 1M टोकन की कॉन्टेक्स्ट विंडो शिप करते हैं।
अंतर कीमत, प्रयास सेटिंग्स और किस बेंचमार्क के लिए किस लैब ने ऑप्टिमाइज़ किया—इनमें है।
मैं उन्हें उसी क्रम में सूचीबद्ध करता हूं जिसमें मैं किसी ऐसी टीम को सिफारिश करूंगा जो इनमें से किसी को भी वहन कर सकती है।
Claude Opus 5.5 Anthropic का नया Opus-टियर फ्लैगशिप है, 22 सितंबर 2026 को जारी, और अब यही वह कोडिंग मॉडल है जिसे मैं लगभग सभी को सुझाऊंगा। Opus 5 के दो महीने बाद ऐसा लिखूंगा, यह मैंने नहीं सोचा था। Anthropic की लॉन्च पोस्ट कहती है कि यह अधिकांश कार्यों पर Fable 5.1 के स्तर का प्रदर्शन करता है, जबकि Opus 5 की तुलना में चलाने में 40% सस्ता है, और उनका मॉडल ओवरव्यू अब डेवलपर्स से कहता है कि Opus 5.5 से शुरू करें और मांग वाले लॉन्ग-होराइज़न कार्यों पर या जब Opus 5.5 पर इवैल्स कम पड़ें, तब Fable 5.1 लें।
Opus 5.5 सिस्टम कार्ड SWE-bench Pro पर 89.9%, DeepSWE v1.1 पर 74.2% और Terminal-Bench 4.0 पर xhigh प्रयास पर 66.4% रिपोर्ट करता है—Anthropic द्वारा प्रकाशित हर कोडिंग पंक्ति पर Fable 5.1 से आगे। स्वतंत्र नंबर क़रीब हैं: Artificial Analysis इसे GPT-6 Astra के साथ Terminal-Bench 4.0 पर 59.6% पर बराबर रखता है, और Vals AI इसे Terminal-Bench 4.0 पर 61.6% और Terminal-Bench 2.1 पर 87.6% पर पहले स्थान पर रखता है। दोनों Vals नंबरों में सेफ़गार्ड फॉलबैक्स शामिल हैं; उन्हें फेल मानने पर ये 53.5% और 79.8% पर आ जाते हैं।
मुख्य फीचर्स:
claude-opus-5-5 के रूप में उपलब्ध, साथ ही Amazon Bedrock, Google Cloud और Microsoft Foundry परकिसके लिए सर्वश्रेष्ठ: दैनिक कोडिंग, कोडबेस-व्यापी माइग्रेशंस और कोड रिव्यू। यह Opus 5 को कम कीमत पर पूरी तरह रिप्लेस कर देता है, और Claude Code अब इसे डिफ़ॉल्ट Opus मॉडल के रूप में उपयोग करता है। हमारा Claude Opus 5.5 गाइड लॉन्च को कवर करता है, और हमारा GPT-6 Sol बनाम Claude Opus 5.5 तुलना हैंड्स-ऑन टेस्ट शामिल करता है।
ट्रेड-ऑफ: 40% की बचत डिफ़ॉल्ट प्रयास पर लागू है। मैक्स प्रयास पर, Artificial Analysis ने पाया कि इसने Opus 5 की तुलना में बहुत अधिक टोकन उपयोग किए, इसलिए प्रति Intelligence Index टास्क इसकी लागत ($5.98) Opus 5 ($5.86) के लगभग बराबर रही। यह Fable-स्टाइल सेफ़गार्ड्स के साथ आता है जो अधिकांश साइबरसिक्योरिटी कार्यों को Opus 4.8 पर रूट करते हैं, और माइग्रेटिंग कोड में सावधानी चाहिए, क्योंकि अब थिंकिंग-डिसेबल्ड या फोर्स्ड टूल यूज़ वाली रिक्वेस्ट्स एरर लौटाती हैं।
Claude Fable 5.1 Anthropic के Mythos-क्लास मॉडल का सार्वजनिक रूप से उपलब्ध संस्करण है, 1 सितंबर 2026 को जारी, और जब Opus 5.5 की सड़क खत्म होती है तो मैं इसी मॉडल पर एस्केलेट करता हूं। Anthropic के लॉन्च पेज के अनुसार Fable 5.1 और Claude Mythos 5.1 एक ही मॉडल हैं, अलग-अलग सेफ़गार्ड्स के साथ।
Fable 5.1 सिस्टम कार्ड के नंबर हैं: SWE-bench Pro पर 81.2% और Terminal-Bench 4.0 पर 55.8%। Artificial Analysis ने स्वतंत्र रूप से Terminal-Bench 2.1 पर 91.4% मैक्स प्रयास में मापा—अब भी उस बोर्ड पर टॉप स्कोर।
मुख्य फीचर्स:
किसके लिए सर्वश्रेष्ठ: प्रोडक्शन एजेंटिक पाइपलाइंस, मल्टी-डे रिफैक्टर्स, और वे कार्य जहां गलत उत्तर की कीमत टोकनों से अधिक है—जब आपके इवैल्स दिखाएं कि Opus 5.5 उस पर कम पड़ता है। हमारा Claude Fable 5.1 गाइड इस रिलीज़ को कवर करता है, और Claude Fable 5 अवलोकन जून के मूल को कवर करता है।
ट्रेड-ऑफ: $10 प्रति मिलियन इनपुट और $50 प्रति मिलियन आउटपुट, Opus 5.5 की दर का 2.5 गुना, और Anthropic की अपनी टेबल पर अब Fable 5.1 SWE-bench Pro, Terminal-Bench 4.0 और CursorBench 4.0 पर Opus 5.5 से पीछे है। Anthropic कहता है कि वास्तविक दुनिया का अंतर इन स्कोर्स से कम है, लेकिन प्रमाण का भार अब उलट गया है। पुराने CursorBench 3.2.0 पर, Fable 5.1 ने मीडियम प्रयास में $3.53 प्रति टास्क की लागत पर 68.0% स्कोर किया।
GPT-6 Astra OpenAI का फ्रंटियर मॉडल है, 3 सितंबर 2026 को जारी, और यह Codex हार्नेस पर मैक्स प्रयास के साथ tbench.ai के Terminal-Bench 4.0 एजेंट लीडरबोर्ड पर 58.2% पर अब भी पहले स्थान पर है—हालांकि Opus 5.5 की वहां एजेंट एंट्री अभी नहीं है।
मॉडल पेज 1,050,000-टोकन कॉन्टेक्स्ट विंडो, 128,000 आउटपुट टोकन, 30 अप्रैल 2026 नॉलेज कटऑफ और none से max तक प्रयास स्तर सूचीबद्ध करता है। प्राइसिंग $10 प्रति मिलियन इनपुट टोकन, $1 कैश्ड इनपुट और $50 प्रति मिलियन आउटपुट टोकन है।
OpenAI की लॉन्च सामग्री क्रॉस-लैब बेंचमार्क्स की तुलना में अपनी खुद की इवैल्यूएशंस और सिस्टम कार्ड पर ज़्यादा निर्भर करती है। उनके इवैल्यूएशंस मज़बूत हैं, पर मैं Astra को Opus 5.5 या Fable 5.1 पर स्पष्ट विजेता नहीं कहूंगा। हम अपने GPT-6 Astra अवलोकन में लॉन्च नंबर कवर करते हैं।
मुख्य फीचर्स:
hosted_shell, apply_patch, computer_use और tool_search एक्सपोज़ करता है—वही टूल सेट जिस पर Codex खुद चलता है।किसके लिए सर्वश्रेष्ठ: पहले से Codex, GitHub Copilot या Microsoft स्टैक पर टीमें; विज्ञान और इंजीनियरिंग-भारी कार्य; और जिन्हें बेहतर थर्ड-पार्टी टूल सपोर्ट चाहिए। अगर आप कम कीमत पर अधिकांश क्षमता चाहते हैं, तो GPT-6 Sol 22 सितंबर को $2 इनपुट और $10 आउटपुट प्रति मिलियन टोकन पर जारी हुआ—यह GPT-5.6 Sol का उत्तराधिकारी है, और GPT-6 Terra न होने के कारण अब Terra की पुरानी प्राइस स्लॉट भरता है। OpenAI की अपनी चार्ट्स पर यह DeepSWE 1.1 पर 68.8% और FrontierCode पर 49.3% स्कोर करता है, हालांकि GPT-5.6 Sol मैक्स प्रयास पर DeepSWE पर अब भी ऊंचा स्कोर करता है।
ट्रेड-ऑफ: Fable-टियर प्राइसिंग, और Anthropic के हिसाब से प्रति टास्क लागत में लगभग 40% सस्ते Opus 5.5 ने अब Terminal-Bench 4.0 पर Astra की बराबरी कर ली है, जबकि Artificial Analysis ने दोनों को बराबरी पर स्कोर किया। Astra की सबसे साफ बढ़त साइंस-हेवी कार्यों में है—Terminal-Bench-Science पर 64.6% और FrontierSWE v2 पर 65.5%, दोनों Opus 5.5 से आगे।
Gemini 3.8 Flash Google का वर्कहॉर्स मॉडल है, 2 सितंबर 2026 को जारी, और फ्रंटियर-लैब एजेंटिक कोडिंग स्कोर पाने के सबसे सस्ते तरीकों में से एक है (GPT-6 Luna प्रति टोकन सस्ता है, पर एजेंटिक स्कोर कम पोस्ट करता है)। Google की इवैल्यूएशन रिपोर्ट Terminal-Bench 2.1 पर 89.4% और DeepSWE v1.1 पर 73.7% दिखाती है—113-टास्क का लॉन्ग-होराइज़न सूट, जहां Fable 5.1 ने 67.4% स्कोर किया। उसी टेबल में Opus 5 थोड़ा आगे 74.0% पर है; Anthropic Opus 5.5 के लिए 74.2% रिपोर्ट करता है; और Google की डेवलपर गाइड SWE-bench Pro पर 61.6% जोड़ती है।
Gemini API प्राइसिंग पेज पर 31 दिसंबर 2026 तक $0.75 प्रति मिलियन इनपुट टोकन और $3.75 प्रति मिलियन आउटपुट टोकन है, फिर 1 जनवरी 2027 से $1.50 और $7.50। 2027 की कीमत पर भी, यह Opus 5.5 के आउटपुट रेट का लगभग एक-तिहाई से थोड़ा अधिक है। कॉन्टेक्स्ट विंडो 1M इनपुट टोकन और 64K आउटपुट है।
मुख्य फीचर्स:
किसके लिए सर्वश्रेष्ठ: हाई-वॉल्यूम एजेंट लूप्स, लागत-संवेदनशील टीमें और Vertex AI शॉप्स। 19 फरवरी 2026 को जारी Gemini 3.1 Pro अब भी Google का Pro-टियर मॉडल है, SWE-bench Pro पर 54.2%—$2 इनपुट और $12 आउटपुट प्रति मिलियन टोकन पर—पर विशेष रूप से कोडिंग के लिए मैं आज 3.1 Pro के बजाय 3.8 Flash चुनूंगा।
ट्रेड-ऑफ: Terminal-Bench 4.0 पर 19.1%। Flash सुव्यवस्थित टर्मिनल कार्यों पर मजबूत है और फ्रंटियर साइंस टास्क्स पर कमजोर—इसलिए सबसे कठिन टिकट्स के लिए एक मजबूत मॉडल हाथ में रखें।
क्लाउड मॉडलों की बात यहीं पूरी होती है। बाकी सूची वे मॉडल हैं जिन्हें आप डाउनलोड कर सकते हैं।
2026 के सर्वश्रेष्ठ ओपन-वेट कोडिंग LLMs 2 समूहों में बंटते हैं: डाटासेंटर-स्केल मॉडल जैसे DeepSeek V4.1 Flash और Kimi K3 जो फ्रंटियर स्कोर से मेल खाते हैं पर भारी सर्वर हार्डवेयर मांगते हैं, और 120B से छोटे मॉडल जैसे Qwen3.8-27B और Laguna S 2.1 जिन्हें आप अपने हार्डवेयर पर चला सकते हैं।
यहां "ओपन वेट" का मतलब है कि वेट्स डाउनलोड करने योग्य हैं। वास्तविक लाइसेंस MIT और Apache 2.0 से लेकर कस्टम टर्म्स तक फैले हैं।
DeepSeek V4.1 Flash DeepSeek की 10 सितंबर 2026 की रिलीज़ है, और Flash नाम के बावजूद अब वही DeepSeek मॉडल है जिसे मैं पहले चुनूंगा। DeepSeek कहता है कि यह अपने V4 Pro 0813 फ्लैगशिप को परफॉर्मेंस, लागत, स्पीड और टास्क कंप्लीशन टाइम—सबमें पछाड़ता है। Vals AI का स्वतंत्र इंडेक्स भी इसी ओर झुकता है, इसे 57.9% के साथ टॉप ओपन-वेट मॉडल रैंक करता है—जबकि अगस्त में Vals ने V4 Pro 0813 के लिए 52.4% रिकॉर्ड किया था।
यह 552B-पैरामीटर MoE मॉडल है, इनपुट पर प्रति टोकन लगभग 8B और आउटपुट पर 16B एक्टिव पैरामीटर्स, 1M-टोकन कॉन्टेक्स्ट, नेटिव इमेज इनपुट और MIT-लाइसेंस्ड वेट्स। DeepSeek Terminal-Bench 2.1 पर 90.6% और DeepSWE v1.1 पर 74.2% रिपोर्ट करता है—दोनों पर विक्रेता-रिपोर्टेड ओपन-वेट का सबसे ऊंचा स्कोर। Vals AI का अपना Terminal-Bench 2.1 रन कम उदार है—74.5%, ओपन-वेट्स में दूसरा।
हमारी DeepSeek V4.1 Flash अवलोकन में रिलीज़ का विस्तार है।
मुख्य फीचर्स:
deepseek-flash के रूप में सर्व—इसलिए इस लेख में आगे दिया ask_coding_model.py सिर्फ बेस URL बदलकर काम करेगा।किसके लिए सर्वश्रेष्ठ: फ्रंटियर-एडजेसेंट टर्मिनल कोडिंग, वह भी पैसों में, और ऑफ-पीक में शेड्यूल किए जा सकने वाले बैच कोड जॉब्स।
ट्रेड-ऑफ: DeepSeek की अपनी रिपोर्ट में Terminal-Bench 4.0 पर यह 31.2% स्कोर करता है, इसलिए सबसे कठिन लॉन्ग-होराइज़न एजेंट कार्य अब भी फ्रंटियर लैब्स के हिस्से में हैं। चेकपॉइंट भी ~510 GB है—तो यहां "ओपन वेट्स" का मतलब मल्टी-GPU सर्वर है। अगर आप V4 Pro 0813 पर हैं, DeepSeek ने 14 सितंबर को इसे V4.1 Flash पर रूट करने की घोषणा की, फिर फैसला पलट दिया, और V4 Pro अब भी $0.66/$1.98 ऑफ-पीक पर सर्व हो रहा है।
Kimi K3 Moonshot AI का 2.8 ट्रिलियन पैरामीटर वाला ओपन-वेट फ्लैगशिप है, जुलाई 2026 में जारी, और यह Terminal-Bench 2.1 पर 88.3% पोस्ट करता है—ओपन मॉडलों में DeepSeek V4.1 Flash के विक्रेता-रिपोर्टेड 90.6% के बाद दूसरा।
Hugging Face कार्ड 896 एक्सपर्ट्स में 104B एक्टिव पैरामीटर्स (प्रति टोकन 16 रूटेड + 2 साझा), 1,048,576-टोकन कॉन्टेक्स्ट और MXFP4 वेट्स सूचीबद्ध करता है। Vals AI ने SWE-bench Verified पर 93.4% मापा।
मुख्य फीचर्स:
किसके लिए सर्वश्रेष्ठ: कोई भी जो सबसे मजबूत ओपन एजेंटिक कोडर चाहता है।
ट्रेड-ऑफ: नज़दीक-फ्रंटियर क्षमता केवल डाटासेंटर स्केल पर आती है। Fable 5.1 से Terminal-Bench 2.1 पर 3 अंकों का अंतर नज़दीक दिखता है, पर यह समान-हार्नेस तुलना नहीं है: Moonshot ने 88.3% अपने Kimi Code हार्नेस में मापा, जबकि Fable का 91.4% Artificial Analysis के Terminus 2 रन से है। व्यावहारिक रूप से, आप इसे किसी होस्टेड प्रोवाइडर से किराए पर लेंगे या अपना क्लस्टर चलाएंगे—साथ में कस्टम लाइसेंस जिसे पहले लीगल से क्लियर करना होगा।
Qwen3.8-27B एक डेंस 27-बिलियन पैरामीटर मॉडल है, अगस्त 2026 में Apache 2.0 के तहत जारी, और यह वह सर्वश्रेष्ठ कोडिंग LLM है जिसे आप एक सिंगल 24 GB GPU पर चला सकते हैं।
मॉडल कार्ड SWE-bench Pro पर 61.7%, Terminal-Bench 2.1 पर 73.0%, LiveCodeBench v6 पर 90.3% और DeepSWE 1.1 पर 42.2% रिपोर्ट करता है, 262,144-टोकन का नेटिव कॉन्टेक्स्ट, जिसे YaRN से 1M तक बढ़ाया जा सकता है। SWE-bench Pro और Terminal-Bench के ये नंबर Laguna S 2.1—जो इसके आकार का 4 गुना है—से बेहतर हैं, और SWE-bench Pro पर Gemini 3.1 Pro से भी आगे हैं। मानें कि Qwen ने SWE-bench Pro अपने सुधारित टास्क सेट पर चलाया, तो क्रॉस-लैब तुलना दिशात्मक रूप में लें।
मुख्य फीचर्स:
किसके लिए सर्वश्रेष्ठ: डेवलपर्स जो कोड को बाहरी API पर नहीं भेज सकते, एक RTX-क्लास GPU वाले सोलो प्रैक्टिशनर, और जो क्लाउड के पैसे देने से पहले अपनी रिपॉज़िटरी पर लोकल-वर्सस-Claude तुलना करना चाहते हैं।
ट्रेड-ऑफ: Terminal-Bench 2.1 पर 73.0% बनाम 91.4% अब भी 18 अंकों का अंतर है—लंबे एजेंटिक टास्क्स पर यह अधिक रिट्राईज़ के रूप में दिखेगा।
Laguna S 2.1 Poolside का 118B-पैरामीटर MoE कोडिंग मॉडल है, 8B एक्टिव पैरामीटर्स के साथ, 21 जुलाई 2026 को जारी—और यह Mac Studio, DGX Spark या मल्टी-GPU वर्कस्टेशन के लिए ओपन-वेट पिक है।
Poolside की लॉन्च पोस्ट SWE-bench Pro पब्लिक सेट पर 59.4%, Terminal-Bench 2.1 पर मैक्स थिंकिंग में 70.2% (थिंकिंग ऑफ पर 60.4%), SWE-bench Multilingual पर 78.5% और DeepSWE पर 40.4% रिपोर्ट करती है।
मॉडल को 409,000 एन्वायरनमेंट्स पर ट्रेन किया गया—जिसमें 83,000 टर्मिनल टास्क्स और 168,000 सॉफ़्टवेयर-इंजीनियरिंग वर्कफ्लोज़ शामिल—4096 H200s पर 9 हफ्तों से कम में।
मुख्य फीचर्स:
किसके लिए सर्वश्रेष्ठ: टीमें जो 96 से 128 GB यूनिफ़ाइड-मेमोरी मशीन पर Claude Code-जैसा लोकल एजेंट चाहती हैं, और इतनी बड़ी रिपॉज़िटरीज़ कि लोकल में 1M विंडो की जरूरत पड़े।
ट्रेड-ऑफ: 118B पैरामीटर्स 4-बिट पर ~60–70 GB वेट्स होते हैं—KV कैश अलग से—तो 24 GB GPU बाहर हो जाता है। कच्चे स्कोर्स पर Qwen3.8-27B इसे पीछे छोड़ता है, पर Laguna के 8B एक्टिव पैरामीटर्स इसे वेट्स फिट होने के बाद बहुत तेज़ बनाते हैं—जो एक ओवरनाइट एजेंट का मकसद है।
Qwen3-Coder-Next 80B-पैरामीटर MoE मॉडल है जो प्रति टोकन केवल 3B पैरामीटर्स एक्टिव करता है, 3 फरवरी 2026 को Apache 2.0 के तहत जारी—और यह वह सबसे तेज़ सक्षम लोकल कोडर है जिसके हार्डवेयर पर डेंस 27B मॉडल स्पीड पर नहीं टिकता।
मॉडल कार्ड SWE-bench Verified पर 70.6%, SWE-bench Pro पर 44.3% और Terminal-Bench 2.0 पर 36.2% रिपोर्ट करता है—512 एक्सपर्ट्स (10 एक्टिव + 1 साझा) और 262,144-टोकन कॉन्टेक्स्ट के साथ। यह नॉन-थिंकिंग मोड में ही चलता है।
मुख्य फीचर्स:
किसके लिए सर्वश्रेष्ठ: लंबे-होराइज़न ओवरनाइट टास्क्स, जहां टोकन-पर-सेकंड पीक एक्यूरेसी से अधिक मायने रखते हैं, और 64 GB यूनिफ़ाइड मेमोरी वाले लैपटॉप्स।
ट्रेड-ऑफ: SWE-bench Pro पर 44.3%—Qwen3.8-27B से 17 अंक पीछे—तो किसी एक कठिन बग के लिए मैं डेंस मॉडल चुनूंगा।
चार और मॉडल्स लगभग सूची में आ गए थे—और उनमें से 2 आपकी विशेष टीमों के लिए मेरी पसंद से बेहतर सूट कर सकते हैं:
अगर इनमें से कोई ओपन-वेट पिक आपके हार्डवेयर पर फिट बैठता है, तो अगला सेक्शन दिखाता है इसे कैसे चलाएं।
ओपन-वेट कोडिंग मॉडल लोकली चलाने के 3 स्टेप हैं: एक क्वांटाइज़्ड चेकपॉइंट डाउनलोड करें, उसे OpenAI-कम्पैटिबल एंडप्वाइंट के पीछे सर्व करें, और अपने क्लाइंट या कोडिंग असिस्टेंट को उस एंडप्वाइंट की ओर पॉइंट करें। इस उदाहरण में मैं Qwen3.8-27B लूंगा क्योंकि यह 9 में से कंज्यूमर हार्डवेयर पर फिट कराने में सबसे आसान है।
पहला, डाउनलोड। huggingface_hub लाइब्रेरी रीज़्यूमेबल ट्रांसफर्स और कैशिंग संभालती है—जो इन बड़े फाइलों में मदद करता है:
"""Download a quantized coding model from Hugging Face.
Qwen3.8-27B at UD-Q4_K_M is a single 16.5 GB file, which leaves room for
a 32K context on a 24 GB GPU. Swap FILENAME for the UD-Q4_K_XL build if you
have the extra 1 GB to spare.
"""
from huggingface_hub import hf_hub_download
REPO_ID = "unsloth/Qwen3.8-27B-GGUF"
FILENAME = "Qwen3.8-27B-UD-Q4_K_M.gguf"
def fetch(repo_id: str = REPO_ID, filename: str = FILENAME) -> str:
"""Download one file from the Hub and return its local path."""
path = hf_hub_download(repo_id=repo_id, filename=filename)
print(f"Saved to {path}")
return path
if __name__ == "__main__":
fetch()
इसे download_gguf.py के रूप में सेव करें और uv run --with huggingface_hub python download_gguf.py चलाएं। Windows पर Developer Mode ऑन न होने पर आपको symlinks की चेतावनी दिखेगी।
दूसरा, सर्व करें।
llama.cpp का कोई भी llama-server, LM Studio या Ollama एक OpenAI-कम्पैटिबल /v1 एंडप्वाइंट एक्सपोज़ करेगा। llama.cpp के साथ कमांड एक लाइन है, और 2 फ्लैग्स काम करते हैं: -ngl 99 हर लेयर को GPU पर ऑफलोड कर देता है और -c 32768 32K कॉन्टेक्स्ट सेट करता है।
llama-server -m Qwen3.8-27B-UD-Q4_K_M.gguf -c 32768 -ngl 99 --port 8080
तीसरा, क्लाइंट। मैं हर मॉडल (लोकल या होस्टेड) के लिए एक स्क्रिप्ट रखता हूं और 3 एन्वायरनमेंट वेरिएबल्स से टार्गेट बदलता हूं। वही फाइल ऊपर के लोकल सर्वर, DeepSeek की API या OpenAI—सबसे बात करती है:
"""Send one coding prompt to any OpenAI-compatible endpoint.
The same script talks to a local llama.cpp or vLLM server, to DeepSeek's
API, or to OpenAI itself. Only three environment variables change:
LLM_BASE_URL e.g. http://localhost:8080/v1 or https://api.deepseek.com
LLM_MODEL e.g. qwen3.8-27b or deepseek-flash
LLM_API_KEY anything non-empty for a local server
"""
import os
from openai import OpenAI
PROMPT = (
"Write a Python function top_n(df, col, n) that returns the n largest "
"rows of a pandas DataFrame by column col, with a docstring and a "
"ValueError if col is missing."
)
def ask(prompt: str = PROMPT) -> str:
"""Return the model's reply for a single-turn coding request."""
client = OpenAI(
base_url=os.environ["LLM_BASE_URL"],
api_key=os.environ.get("LLM_API_KEY", "local"),
)
response = client.chat.completions.create(
model=os.environ["LLM_MODEL"],
messages=[{"role": "user", "content": prompt}],
temperature=0.2, # keep code generation close to deterministic
)
return response.choices[0].message.content
if __name__ == "__main__":
print(ask())
इसे ask_coding_model.py के रूप में सेव करें और LLM_BASE_URL=http://localhost:8080/v1 LLM_MODEL=qwen3.8-27b uv run --with openai python ask_coding_model.py के साथ चलाएं।
अगर आप आगे चलकर कई ऐसे एंडप्वाइंट्स को राउटिंग, रिट्राई और टूल कॉल्स के साथ किसी एप्लिकेशन में वायर करते हैं, तो हमारा LangChain के साथ LLM एप्लिकेशंस विकसित करना कोर्स उन एब्स्ट्रैक्शंस को कवर करता है जो इसे if स्टेटमेंट्स के ढेर बनने से रोकते हैं।
कोडिंग के लिए सर्वश्रेष्ठ LLM चुनना 4 बाधाओं पर निर्भर है: आपका कोड आपकी मशीन से बाहर जा सकता है या नहीं, आपके पास कितनी मेमोरी है, प्रति मिलियन आउटपुट टोकन आप कितना भुगतान करेंगे, और एक सिंगल टास्क को कितना कॉन्टेक्स्ट चाहिए। नीचे की टेबल 9 रैंक किए गए मॉडलों को उन नंबरों पर साथ रखती है जिन पर मैं सबसे अधिक भरोसा करता हूं, और उसके बाद का निर्णय मार्गदर्शक इन बाधाओं को एक पिक से मैप करता है।
| Model | Type | Terminal-Bench 2.1 | SWE-bench Pro | Context | Price (per 1M output) or memory | Best for |
|---|---|---|---|---|---|---|
| Claude Opus 5.5 | Cloud | 87.6% (Vals AI) | 89.9% | 1M | $20 | Default for most coding work |
| Claude Fable 5.1 | Cloud | 91.4% (Artificial Analysis) | 81.2% | 1M | $50 | Longest-horizon agentic work |
| GPT-6 Astra | Cloud | Not published (58.2% tbench.ai / 59.6% Artificial Analysis on Terminal-Bench 4.0) | Not published | 1.05M | $50 | Codex users, frontier science tasks |
| Gemini 3.8 Flash | Cloud | 89.4% | 61.6% | 1M | $3.75 through 2026 | High-volume, cost-sensitive agents |
| DeepSeek V4.1 Flash | Open (MIT) | 90.6% (vendor); 74.5% (Vals AI) | Not published | 1M | $0.60 off-peak | Cheapest capable open weights via API |
| Kimi K3 | Open (custom) | 88.3% (Kimi Code harness) | Not published | 1M | 2.8T params, cluster only | Strongest self-hosted agent |
| Qwen3.8-27B | Open (Apache 2.0) | 73.0% | 61.7% | 262K | 16.5 GB at UD-Q4_K_M | Single 24 GB GPU |
| Laguna S 2.1 | Open (OpenMDW-1.1) | 70.2% | 59.4% | 1M | 60 to 70 GB at Q4 | 128 GB workstation, local agents |
| Qwen3-Coder-Next | Open (Apache 2.0) | 36.2% (2.0) | 44.3% | 262K | About 48 GB at Q4 | Fast local model, 64 GB Mac |
मैं 4 बाधाओं को रैंकिंग्स से इस तरह मैप करता हूं:
अगर आप किसी एप्लिकेशन के लिए मॉडल मैच करने के लिए एक व्यापक फ्रेमवर्क चाहते हैं—होस्टिंग विकल्पों और लाइसेंसिंग सहित—तो हमारे गाइड अपने एप्लिकेशन के लिए सर्वश्रेष्ठ LLM कैसे चुनें कोडिंग से व्यापक दायरा कवर करता है।
और आप जो भी मॉडल चुनें—उससे वैल्यू निकालने की स्किल्स एक जैसी हैं: हमारा AI for Software Engineering स्किल ट्रैक और डेवलपर्स के लिए AI-असिस्टेड कोडिंग कोर्स वे प्रॉम्प्टिंग, टेस्टिंग और रिव्यू आदतें सिखाते हैं जो 91% बेंचमार्क को मर्ज्ड पुल रिक्वेस्ट में बदल देती हैं।
Claude Opus 5.5 सितंबर 2026 में कोडिंग के लिए सर्वश्रेष्ठ LLM है—और असामान्य रूप से—वही वह मॉडल है जिसे आपकी टीम के बिल पर होना चाहिए। Claude Fable 5.1 सबसे लंबे कार्यों के लिए एस्केलेशन पाथ है, और Qwen3.8-27B वह ओपन-वेट मॉडल है जो 24 GB GPU को एक प्राइवेट कोडिंग असिस्टेंट में बदल देता है—जो SWE-bench Pro पर पिछले वर्ष के फ्रंटियर को पछाड़ देता है। बाकी सब आपकी बाधाओं का सवाल है—और ऊपर दिया निर्णय मार्गदर्शक उन्हें हल करने का मेरा तरीका है।
बड़ा बदलाव यह है कि जो बेंचमार्क 2 वर्षों तक इस श्रेणी को परिभाषित करता था—SWE-bench Verified—वह उसी 12 महीनों में मायने खो बैठा, जिनमें ओपन वेट्स ने उस पर पकड़ बना ली।
यह संयोग नहीं है।
जब Opus 5 और DeepSeek V4 Pro किसी सैचुरेटेड टेस्ट पर 0.6 अंकों के अंतर पर बैठते हैं, और $20-प्रति-मिलियन वाला मॉडल अब Anthropic के अपने $50 वाले मॉडल को SWE-bench Pro पर हरा देता है, तो वैल्यू हार्नेस डिज़ाइन, प्रयास बजट और आपकी अपनी रिपॉज़िटरी पर इवैल्यूएशन में शिफ्ट हो गई है—जो ठीक वही काम है जो कोई विक्रेता टेबल आपके लिए नहीं कर सकता।
तो वह काम कीजिए। ask_coding_model.py स्क्रिप्ट लें, इसे इन मॉडलों में से 2 या 3 पर पॉइंट करें, अपनी बैकलॉग के 20 असली टिकट्स पर उसे उसी प्रयास स्तर पर चलाएं जिसके लिए आप वाकई भुगतान करेंगे—और जो नतीजा आए, उसे यहां लिखी किसी भी बात पर तरजीह दें। अगर इवैल्यूएशन हार्नेस से ज्यादा आपका स्टाइल "वाइब कोडिंग" है, तो वाइब कोडिंग क्या है और कहां टूटती है पर हमारा लेख ट्रेड-ऑफ्स पर ईमानदार नज़र डालता है—और वहीं दिए मॉडल रैंकिंग्स यहां भी लागू होते हैं।
SWE-bench Verified, SWE-bench का 500-टास्क सबसेट है जिसमें मानव एनोटेटर्स ने पुष्टि की कि हर GitHub इश्यू सुलझाने योग्य है और उसके टेस्ट्स निष्पक्ष हैं; मॉडल को ऐसा पैच बनाना होता है जो छिपे टेस्ट्स पास करे। यह इसलिए मायने रखता था क्योंकि यह खिलौना फ़ंक्शन लिखने के बजाय असली रिपॉज़िटरीज़ को ठीक करने का पहला व्यापक रूप से भरोसेमंद परीक्षण था। 2026 में शीर्ष मॉडल्स इस पर 96% से ऊपर स्कोर करते हैं, इसलिए उन्हें अलग करने के लिए मैं SWE-bench Pro और Terminal-Bench का उपयोग करता हूं।
हाँ—पुराने बेंचमार्क्स पर और लगभग एजेंटिक वालों पर भी। Kimi K3 88.3% और DeepSeek V4 Pro 0813 87.9% Terminal-Bench 2.1 पर स्कोर करते हैं, जबकि Claude Fable 5.1 91.4% पर है, और Vals AI ने DeepSeek को SWE-bench Verified पर Opus 5 से 0.6 अंक के भीतर मापा। पेंच साइज का है: वे ओपन मॉडल 1.6 से 2.8 ट्रिलियन पैरामीटर्स के हैं, तो "ओपन" का मतलब है "API के जरिए सस्ता", न कि "मेरे लैपटॉप पर चलता है"।
अगर आप अपना कोड बाहरी API के साथ साझा नहीं कर सकते, तो सिंगल 24 GB GPU पर Qwen3.8-27B सबसे अच्छा विकल्प है—Terminal-Bench 2.1 पर 73.0% और SWE-bench Pro पर 61.7%, Apache 2.0 लाइसेंस के साथ। अगर आपके पास 96 से 128 GB यूनिफ़ाइड मेमोरी है, तो Laguna S 2.1 आपको 1M-टोकन कॉन्टेक्स्ट और 8B एक्टिव पैरामीटर्स देता है—एक तेज़ लोकल एजेंट के लिए। 64 GB लैपटॉप के लिए, Qwen3-Coder-Next के 3B एक्टिव पैरामीटर्स इसे सबसे तेज़ उपयोगी विकल्प बनाते हैं।
कोडिंग LLM वह मॉडल है जो कोड जनरेट करता है, जबकि कोडिंग असिस्टेंट वह हार्नेस है जो आपकी फाइलें पढ़ता है, कमांड्स चलाता है और डिफ्स दिखाता है। Cursor, Copilot, Windsurf, Claude Code और Codex सभी आपको अंडरलाईंग मॉडल स्वैप करने देते हैं—और वही मॉडल अलग हार्नेस में कई अंकों से अलग स्कोर कर सकता है। मॉडल को बेंचमार्क्स और कीमत पर चुनें, फिर असिस्टेंट को वर्कफ़्लो पर।
Anthropic और OpenAI ने अकेले 28 मई से 24 सितंबर 2026 के बीच 7 फ्रंटियर-क्लास मॉडल शिप किए (Opus 4.8, Fable 5, Sonnet 5, GPT-5.6, Opus 5 और 5.5, और Fable 5.1 प्लस GPT-6 Astra)—तो उम्मीद करें कि लीडर हर 4 से 8 हफ्ते में बदल सकता है। लॉन्च पोस्ट्स के बजाय 3 स्वतंत्र बोर्ड—Artificial Analysis, Vals AI और tbench.ai—पर नज़र रखें, और जब भी आप जिस मॉडल का उपयोग करते हैं उसका नया वर्ज़न आए, उसी प्रयास स्तर पर अपनी 20-टास्क इवैल्यूएशन फिर से चलाएं जिसके लिए आप भुगतान करेंगे।
मैं एक डेटा साइंटिस्ट हूँ, जिसे स्पैटियल विश्लेषण, मशीन लर्निंग और डेटा पाइपलाइनों का अनुभव है। मैंने GCP, Hadoop, Hive, Snowflake, Airflow और अन्य डेटा साइंस/इंजीनियरिंग प्रक्रियाओं के साथ काम किया है।