कर्नेल ट्रिक समझें: SVM नॉनलिनियर पैटर्न कैसे सीखते हैं

रेखीय मॉडल सरल और सहज होते हैं, लेकिन जैसे ही आपका डेटा रैखिक रूप से विभाज्य नहीं होता, वे असफल हो जाते हैं।

और अधिकांश वास्तविक दुनिया का डेटा ऐसा ही होता है। चाहे आप वेट्स कैसे भी ट्यून करें, सीधी निर्णय-सीमा ठीक नहीं बैठती — क्लासेस या तो ओवरलैप करती हैं या ऐसे पैटर्न बनाती हैं जिन्हें बिना गलती के कोई रेखा नहीं बाँट सकती। अगर आपको पता है कि मॉडल काम के लिए बहुत सरल है, लेकिन आप सीधे न्यूरल नेटवर्क पर नहीं जाना चाहते, तो एक अच्छा मध्य मार्ग है।

सपोर्ट वेक्टर मशीनें एक “ट्रिक” देती हैं। आप अपने डेटा को उच्च-आयामी स्पेस में प्रोजेक्ट कर सकते हैं, और जो अविभाज्य दिखता था, वह अक्सर विभाज्य हो जाता है। कर्नेल ट्रिक एक संगणकीय शॉर्टकट है जो SVM जैसे कर्नेल-आधारित मॉडलों को ऐसे ऑपरेट करने देता है मानो डेटा ट्रांसफॉर्म किया गया हो, जबकि वास्तविक रूपांतरण कभी किया ही नहीं जाता।

इस लेख में, आप सीखेंगे कि SVMs के अंदर कर्नेल ट्रिक ठीक-ठीक कैसे काम करती है, किन कर्नेल फंक्शनों को जानना चाहिए, और कब कर्नेल मेथड्स अपनाने लायक होते हैं।

पर SVM वास्तव में है क्या? हमारे ब्लॉग पोस्ट Scikit-learn के साथ सपोर्ट वेक्टर मशीनें पढ़ें ताकि एल्गोरिदम और इसके उपयोग के बारे में सब कुछ जान सकें।

कर्नेल ट्रिक क्या है?

कर्नेल ट्रिक उच्च-आयामी फीचर स्पेस में इनर प्रोडक्ट्स की गणना करने की एक विधि है, बिना डेटा को वहाँ स्पष्ट रूप से मैप किए।

तो, आप वास्तव में अपने डेटा बिंदुओं को ट्रांसफॉर्म करके उन पर गणना नहीं कर रहे होते। आप यह गणना कर रहे होते हैं कि उस गणित का परिणाम क्या होता, एक कर्नेल फ़ंक्शन का उपयोग करके जो सीधे मूल इनपुट्स पर काम करता है।

ध्यान रखने वाली बात यह है कि कर्नेल ट्रिक सिर्फ उन्हीं मॉडलों पर लागू होती है जो डेटा बिंदुओं के बीच डॉट प्रोडक्ट्स पर निर्भर करते हैं। यह कोई सर्व-उपयोगी ML तकनीक नहीं है। यदि कोई मॉडल आंतरिक रूप से डॉट प्रोडक्ट्स का उपयोग नहीं करता, तो कर्नेल ट्रिक लागू नहीं होती। अधिकांश मॉडल इसका उपयोग नहीं करते।

SVMs, Gaussian processes, और kernel PCA ऐसे अच्छे उदाहरण हैं जहाँ यह कर्नेल ट्रिक काम करती है। पर किसी को यह न कहने दें कि यह “अधिकांश ML मॉडल” उपयोग करते हैं।

कर्नेल ट्रिक क्यों मौजूद है

रेखीय मॉडल सिर्फ रेखीय निर्णय-सीमाएँ ही सीख सकते हैं। यही उनकी कड़ी बाधा है, और यही उन्हें समझने और व्याख्या करने में आसान बनाती है।

पर अधिकांश वास्तविक-विश्व डेटासेट रैखिक रूप से विभाज्य नहीं होते। कोई सीधी रेखा (या हाइपरप्लेन) क्लासेस को साफ-सुथरे ढंग से नहीं बाँट पाएगी। लेकिन कर्नेल ट्रिक के साथ, यदि आप उस डेटा को उच्च-आयामी स्पेस में प्रोजेक्ट करते हैं, तो वही डेटा विभाज्य हो सकता है।

इससे निपटने का स्पष्ट तरीका यह है कि नए फीचर्स बनाकर डेटा को स्पष्ट रूप से ट्रांसफॉर्म किया जाए, हर बिंदु को उच्च-आयामी स्पेस में मैप किया जाए, और वहाँ से मॉडल को प्रशिक्षित किया जाए। यह काम करता है, लेकिन लागत बढ़ती जाती है। यदि आप हजारों आयामों वाले स्पेस में मैप कर रहे हैं, तो उन ट्रांसफॉर्म्ड वेक्टर्स को स्टोर करना और उन पर गणना करना महंगा हो जाता है।

कर्नेल ट्रिक के साथ, हर डेटा बिंदु के लिए पूर्ण रूपांतरण φ(x) की गणना करने के बजाय, आप K(x, x′) — एक कर्नेल फ़ंक्शन — की गणना करते हैं जो आपको वही इनर प्रोडक्ट का परिणाम सीधे देता है।

सपोर्ट वेक्टर मशीनों में कर्नेल ट्रिक

एक SVM वह निर्णय-सीमा ढूंढती है जो दो क्लासेस के बीच मार्जिन को अधिकतम करती है।

उस सीमा को खोजने के लिए, SVM एक अनुकूलन समस्या हल करती है। और अपने द्विआधारी (dual) रूप में, यह अनुकूलन स्वयं डेटा बिंदुओं पर नहीं, बल्कि उनके बीच डॉट प्रोडक्ट्स पर ही निर्भर करता है। द्विआधारी उद्देश्य इस प्रकार दिखता है:

द्विआधारी उद्देश्य फ़ंक्शन

जहाँ α_i सीखी गई वेट्स हैं, y_i क्लास लेबल हैं, और ⟨x_i, x_j⟩ दो डेटा बिंदुओं के बीच डॉट प्रोडक्ट है। SVM को सिर्फ डेटा बिंदुओं के युग्मवार समानताएँ चाहिए।

यदि SVM को केवल डॉट प्रोडक्ट्स चाहिए, तो आपको उन्हें मूल स्पेस से ही गणना करके देने की ज़रूरत नहीं। आप ⟨x_i, x_j⟩ को एक कर्नेल फ़ंक्शन K(x_i, x_j) से बदल देते हैं:

कर्नेल फ़ंक्शन के साथ सूत्र

SVM बिल्कुल उसी तरह चलता है। उसे बस लगता है कि वह एक अधिक समृद्ध फीचर स्पेस में काम कर रहा है।

यही कर्नेल ट्रिक का सार है।

कर्नेल ट्रिक कैसे काम करती है (संकल्पनात्मक दृष्टि)

मानक तरीका यह होगा कि एक मैपिंग φ(x) परिभाषित की जाए जो हर डेटा बिंदु को उच्च-आयामी स्पेस में ट्रांसफॉर्म करे, फिर वहाँ डॉट प्रोडक्ट्स की गणना की जाए:

मैपिंग

लेकिन φ(x) को स्पष्ट रूप से गणना करना महंगा हो सकता है, और कुछ मामलों में मैप किया गया स्पेस हजारों या यहाँ तक कि अनंत आयामों का हो सकता है।

कर्नेल ट्रिक उस चरण को छोड़ देती है।

φ(x) की गणना कर फिर डॉट प्रोडक्ट लेने के बजाय, आप सीधे K(x, x′) — एक कर्नेल फ़ंक्शन — की गणना करते हैं जो यह शर्त पूरी करता है:

कर्नेल फ़ंक्शन गणना

परिणाम समान होता है, लेकिन लागत कम होती है।

K(x, x′) को एक समानता फ़ंक्शन की तरह समझें। यह मूल स्पेस में दो डेटा बिंदु लेता है और एक संख्या लौटाता है जो दर्शाती है कि वे कितने समान हैं — लेकिन ऐसे तरीके से जो उन्हें एक बहुत अधिक समृद्ध स्पेस में तुलना करने के अनुरूप होता है। मॉडल ऐसे बर्ताव करता है जैसे डेटा ट्रांसफॉर्म हुआ हो। वास्तव में ऐसा नहीं हुआ।

सामान्य कर्नेल फंक्शन

सभी कर्नेल फंक्शन एक जैसे काम नहीं करते। प्रत्येक डेटा बिंदुओं के बीच समानता की अलग धारणा परिभाषित करता है, जिसका अर्थ है कि प्रत्येक की निर्णय-सीमा भी अलग होती है। आइए कुछ देखें।

लिनियर कर्नेल

लिनियर कर्नेल

लिनियर कर्नेल बस एक मानक डॉट प्रोडक्ट है। मॉडल मूल फीचर स्पेस में ही रहता है और एक रेखीय सीमा सीखता है, जो इसे एक मानक लिनियर SVM के बराबर बनाता है।

इस कर्नेल का उपयोग तब करें जब आपका डेटा पहले से रेखीय रूप से विभाज्य हो। यह सबसे तेज़ विकल्प है और समझाने में सबसे आसान।

पॉलीनॉमियल कर्नेल

पॉलीनॉमियल कर्नेल

जहाँ c एक स्थिरांक है और d पॉलीनॉमियल की डिग्री है।

पॉलीनॉमियल कर्नेल फीचर्स के बीच अंतःक्रियाओं को पकड़ता है। उदाहरण के लिए, डिग्री-2 कर्नेल सभी युग्मीय फीचर संयोजनों पर विचार करता है। यह मॉडल को घुमावदार सीमाएँ सीखने देता है, बिना आपको वे इंटरैक्शन टर्म्स मैन्युअली बनाने पड़े।

उच्चतर डिग्रियाँ अधिक व्यक्तिवाची सीमाएँ देती हैं, लेकिन ओवरफिटिंग का जोखिम भी बढ़ाती हैं।

RBF (Gaussian) कर्नेल

RBF कर्नेल

RBF (Radial Basis Function) कर्नेल व्यवहार में सबसे व्यापक रूप से उपयोग किया जाता है। यह दूरी के आधार पर समानता मापता है। दो नज़दीकी बिंदुओं को उच्च स्कोर मिलता है, दूर के बिंदुओं को शून्य के करीब स्कोर मिलता है।

दिलचस्प बात यह है कि यह डेटा को अंतर्निहित रूप से एक अनंत-आयामी स्पेस में मैप करता है। यह इसे इतनी लचीलापन देता है कि यह जटिल, नॉनलिनियर सीमाओं को भी समझ सके जिन्हें अन्य कर्नेल नहीं संभाल पाते।

सिग्मॉइड कर्नेल

सिग्मॉइड कर्नेल

सिग्मॉइड कर्नेल RBF या पॉलीनॉमियल कर्नेल की तुलना में कम उपयोग होता है, और पैरामीटर विकल्पों पर निर्भर करते हुए यह हमेशा एक वैध कर्नेल फ़ंक्शन के लिए आवश्यक गणितीय शर्तों को पूरा नहीं करता।

यह कभी-कभी पुराने साहित्य में दिखता है, लेकिन व्यवहार में, RBF लगभग हमेशा बेहतर शुरुआती बिंदु होता है।

SVM के परे कर्नेल ट्रिक

SVM कर्नेल ट्रिक के लिए सबसे आम एल्गोरिदम है, लेकिन यह अकेला नहीं है।

कुछ अन्य मॉडल भी यही विचार उपयोग करते हैं:

• कर्नेल रिज रिग्रेशन स्पष्ट फीचर्स के बजाय कर्नेल फ़ंक्शन का उपयोग करके उच्च-आयामी स्पेस में रिज रिग्रेशन लागू करता है
• Gaussian processes डेटा बिंदुओं के बीच कोवैरीअंस परिभाषित करने के लिए कर्नेल फ़ंक्शन का उपयोग करते हैं। कर्नेल उस फ़ंक्शन की चिकनाई और आकार के बारे में मान्यताएँ एन्कोड करता है जिसे आप सीखने की कोशिश कर रहे हैं
• कर्नेल PCA एक ट्रांसफॉर्म्ड फीचर स्पेस में प्रमुख अवयव खोजकर मानक PCA को नॉनलिनियर संरचनाओं तक विस्तारित करता है

इन सभी में, मॉडल को केवल डॉट प्रोडक्ट्स की आवश्यकता होती है, इसलिए आप एक कर्नेल फ़ंक्शन लगा सकते हैं और बाकी गणित बदले बिना नॉनलिनियर व्यवहार पा सकते हैं।

लेकिन SVM अब भी सबसे स्पष्ट उदाहरण है, और अपनी समझ बनाने के लिए सबसे अच्छी जगह।

कर्नेल ट्रिक बनाम फीचर इंजीनियरिंग

दोनों तरीकों से आपके फीचर्स के पर्याप्त व्यक्तिवाची न होने की समस्या हल होती है। लेकिन वे अलग तरीके से इसे हल करते हैं।

फीचर इंजीनियरिंग में, आप मौजूदा फीचर्स से नए फीचर्स स्पष्ट रूप से बनाते हैं। आप तय करते हैं कि किन संयोजनों का महत्व है, उन्हें गणना करते हैं, अपने डेटासेट में जोड़ते हैं, और विस्तारित फीचर सेट पर प्रशिक्षण करते हैं। आप ठीक-ठीक देखते हैं कि मॉडल में क्या गया।

कर्नेल ट्रिक बिना कभी उन अतिरिक्त फीचर्स को परिभाषित या स्टोर किए, उच्च-आयामी स्पेस में अंतर्निहित रूप से ऑपरेट करती है। रूपांतरण कर्नेल फ़ंक्शन द्वारा वर्णित होता है।

समझनीयता बनाम लचीलापन — यही वास्तविक सौदा है।

फीचर इंजीनियरिंग चीज़ों को पारदर्शी रखती है, क्योंकि आप जानते हैं कि हर फीचर क्या दर्शाता है। कर्नेल ट्रिक आपको अधिक व्यक्तिवाची क्षमताएँ देती है, लेकिन अंतर्निहित फीचर स्पेस को अक्सर देखना या समझाना कठिन होता है।

यदि आपके उपयोग-केस में व्याख्येयता मायने रखती है, तो फीचर इंजीनियरिंग अधिक सुरक्षित विकल्प है। यदि आपको जटिल पैटर्न समझने हैं और मॉडल के हर निर्णय को समझाना आवश्यक नहीं है, तो कर्नेल ट्रिक आपको तेज़ी से वहाँ पहुँचा देगी।

कर्नेल ट्रिक के फायदे

सबसे स्पष्ट फायदा यह है कि यह रेखीय मॉडलों को नॉनलिनियर सीमाएँ सीखने देती है। इसके बिना, SVM केवल एक सीधी हाइपरप्लेन से क्लासेस को अलग कर सकता है। इसके साथ, वही मॉडल घुमावदार, जटिल निर्णय-सीमाओं को संभाल सकता है।

यह स्पष्ट उच्च-आयामी गणना की लागत से भी बचाती है। आप एक समृद्ध फीचर स्पेस की व्यक्तिवाची शक्ति पाते हैं, बिना उन अतिरिक्त आयामों को स्टोर या गणना किए। जिन समस्याओं में अंतर्निहित फीचर स्पेस हजारों या अनंत आयामों का होता है, वहाँ तो यही तरीका इसे संभव बनाता है।

कर्नेल मेथड्स मध्यम आकार के डेटासेट पर भी अच्छा काम करते हैं। जब आपके पास लाखों उदाहरण नहीं हैं और आपका डेटा रैखिक रूप से विभाज्य नहीं है, तो एक अच्छे कर्नेल वाला SVM अक्सर ठोस, भरोसेमंद विकल्प होता है।

कर्नेल ट्रिक की सीमाएँ

सबसे बड़ी समस्या स्केल है। एक कर्नेल SVM को प्रशिक्षित करने के लिए प्रशिक्षण सेट के हर जोड़े के लिए K(x_i, x_j) की गणना करनी होती है। यह O(n²) ऑपरेशन है — और मेमोरी को जोड़ें तो हालात और बिगड़ते हैं। बड़े डेटासेट्स पर यह कड़ा बाधा बन सकता है।

कर्नेल का चुनाव भी आसान नहीं है। RBF अच्छा डिफ़ॉल्ट है, लेकिन वह हमेशा सही नहीं होता। गलत कर्नेल — या कर्नेल के गलत हाइपरपैरामीटर्स — चुनने पर आपका प्रदर्शन शुरुआती स्थिति से भी खराब हो सकता है।

व्याख्येयता एक और मसला है। फीचर इंजीनियरिंग में, आप जानते हैं कि हर फीचर का मतलब क्या है। कर्नेल ट्रिक में, अंतर्निहित फीचर स्पेस स्पष्ट नहीं होता। मॉडल काम करता है, पर यह समझाना क्यों उसने कोई विशेष निर्णय लिया — कठिन है।

और कई क्षेत्रों में, डीप लर्निंग ने बस बाजी मार ली है। न्यूरल नेटवर्क बड़े डेटासेट संभालते हैं, अपने फीचर रिप्रेज़ेंटेशन खुद सीखते हैं, और अक्सर कर्नेल मेथड्स से बेहतर प्रदर्शन करते हैं — बिना मैन्युअल कर्नेल चयन के। इमेज क्लासिफिकेशन, NLP, या किसी भी विशाल डेटा वाले कार्यों में, कर्नेल मेथड्स अब शायद ही पहली पसंद होते हैं।

कब उपयोग करें कर्नेल मेथड्स

2026 में कर्नेल मेथड्स अप्रासंगिक नहीं हैं, लेकिन वे पहले की तुलना में अधिक विशेष-उद्देश्य वाले हो गए हैं।

आपको RBF कर्नेल वाले SVM जैसे कर्नेल मेथड के साथ तब जाना चाहिए जब:

• आपके डेटा में नॉनलिनियर संरचना हो जिसे रेखीय मॉडल नहीं समझ पाता
• आपका डेटासेट छोटे से मध्यम आकार का हो — यानी हज़ारों सैंपल, लाखों नहीं
• आपको व्यक्तिगत भविष्यवाणियाँ समझानी नहीं हैं, इसलिए कम व्याख्येयता स्वीकार्य समझौता है

ये संरचित, टैबुलर डेटा समस्याओं के लिए उपयुक्त हैं जहाँ आपके पास सीमित डेटा है और आपको कम ट्यूनिंग के साथ अच्छी तरह सामान्यीकृत होने वाला मॉडल चाहिए। ऐसे मामलों में, कर्नेल SVM अभी भी अधिक जटिल मॉडलों से बेहतर प्रदर्शन कर सकता है।

लेकिन यदि आपका डेटासेट बड़ा है, या आपको व्याख्येय भविष्यवाणियाँ चाहिए, तो कर्नेल मेथड्स सर्वोत्तम समाधान नहीं हैं।

उदाहरण: कर्नेल के साथ और बिना SVM

कर्नेल ट्रिक वास्तव में क्या करती है, यह देखने का सबसे अच्छा तरीका है किसी लिनियर SVM को असफल होते देखना, और फिर उसे कर्नेल से दुरुस्त करना।

नीचे के उदाहरण में, आपके पास दो समकेंद्रित वृत्तों वाला एक सरल डेटासेट है, जहाँ एक क्लास भीतरी रिंग बनाती है और दूसरी बाहरी रिंग। कोई सीधी रेखा इन्हें अलग नहीं कर सकती। लिनियर SVM हर बार असफल होगा।

RBF कर्नेल के साथ, वही SVM एक वृत्ताकार सीमा खींचेगा जो क्लासेस को अलग करती है। केवल कर्नेल फ़ंक्शन बदला है।

पूरा उदाहरण यहाँ है:

import numpy as np
import matplotlib.pyplot as plt
from sklearn.svm import SVC
from sklearn.datasets import make_circles

# Generate concentric circles dataset
np.random.seed(42)
X, y = make_circles(n_samples=300, noise=0.1, factor=0.4)

# Train both SVMs
svm_linear = SVC(kernel="linear", C=1)
svm_rbf = SVC(kernel="rbf", C=1, gamma="scale")
svm_linear.fit(X, y)
svm_rbf.fit(X, y)

print(f"Linear SVM accuracy: {svm_linear.score(X, y):.0%}")
print(f"RBF SVM accuracy:    {svm_rbf.score(X, y):.0%}")

लिनियर बनाम RBF SVM सटीकता

लिनियर SVM डेटा के बीचोंबीच एक सीधी सीमा खींचता है। यह समतल को दो हिस्सों में बाँट देता है, जो समस्या की वास्तविक संरचना से मेल नहीं खाता। इसके विपरीत, RBF कर्नेल एक वृत्ताकार सीमा बनाता है जो डेटा के आकार का अनुसरण करती है।

लिनियर बनाम RBF SVM का दृश्यांकन

निष्कर्षतः, मॉडल ने कोई अधिक जटिल संरचना नहीं सीखी — उसने बस ऐसे स्पेस में ऑपरेट किया जहाँ वह संरचना खोजना सरल था।

कर्नेल ट्रिक के बारे में आम भ्रांतियाँ

कर्नेल ट्रिक के बारे में कुछ भ्रांतियाँ अक्सर सामने आती हैं, तो आइए उन्हें यहाँ संबोधित करें।

"कर्नेल ट्रिक सभी मॉडलों के लिए काम करती है।" ऐसा नहीं है। कर्नेल ट्रिक सिर्फ उन्हीं मॉडलों पर लागू होती है जो अपने अनुकूलन में डेटा बिंदुओं के बीच डॉट प्रोडक्ट्स पर निर्भर करते हैं। अधिकांश मॉडल — निर्णय वृक्ष, रैंडम फॉरेस्ट, न्यूरल नेटवर्क, लिनियर रिग्रेशन — इस तरह डॉट प्रोडक्ट्स का उपयोग नहीं करते, इसलिए कर्नेल ट्रिक उन पर लागू नहीं होती।

"यह डेटा को सचमुच ट्रांसफॉर्म करती है।" नहीं, स्पष्ट रूप से नहीं। आपके मूल डेटा बिंदु जैसे के तैसे रहते हैं। कर्नेल फ़ंक्शन यह गणना करता है कि उच्च-आयामी स्पेस में डॉट प्रोडक्ट क्या होता, पर व्यवहार में कोई रूपांतरण नहीं होता। डेटा कभी विस्तृत या अलग तरह से स्टोर नहीं किया जाता।

"यह हमेशा प्रदर्शन सुधारती है।" यह निर्भर करता है। नॉनलिनियर समस्याओं और छोटे से मध्यम डेटासेट पर, एक अच्छा कर्नेल फर्क ला सकता है। बड़े डेटासेट पर, संगणकीय लागत अक्सर लाभ से भारी पड़ती है। और यदि आपका डेटा पहले से रैखिक रूप से विभाज्य है, तो कर्नेल जोड़ना बस जटिलता बढ़ाता है।

कर्नेल ट्रिक अब भी क्यों मायने रखती है

कर्नेल ट्रिक फिलहाल ML में सबसे चर्चित विचार नहीं है। अधिकांश बेंचमार्क पर डीप लर्निंग शीर्ष पर है, और कर्नेल मेथड्स शायद ही कहीं दिखते हैं।

लेकिन यह अब भी समझने लायक एक मौलिक अवधारणा है।

SVMs और कर्नेल ट्रिक शास्त्रीय ML के केंद्र में थे, क्योंकि वे सीमित नमूनों वाले संरचित, टैबुलर डेटा पर अच्छा काम करते हैं, और इनके पीछे का गणित साफ़ और अच्छी तरह समझा गया है। यदि आप समझना चाहते हैं कि समानता-आधारित लर्निंग कैसे काम करती है, या अनुकूलन में डॉट प्रोडक्ट्स क्यों मायने रखते हैं, तो कर्नेल ट्रिक अध्ययन के लिए सबसे स्पष्ट उदाहरणों में से एक है।

इसके वास्तविक उपयोग भी अब भी हैं। छोटे डेटासेट, बायोइन्फॉर्मेटिक्स जैसी विशेष डोमेन, या हैंड-मेड फीचर्स के साथ टेक्स्ट क्लासिफिकेशन, और ऐसी समस्याएँ जहाँ आपको कम डेटा में अच्छी सामान्यीकरण वाला मॉडल चाहिए — ये ऐसे क्षेत्र हैं जहाँ कर्नेल मेथड्स अब भी प्रासंगिक हैं।

जहाँ पैमाना और कच्चे डेटा की मात्रा सबसे अधिक मायने रखती है, वहाँ कर्नेल की जगह ले ली गई। सही संदर्भ में, यह अब भी अच्छा औज़ार है।

निष्कर्ष

कर्नेल ट्रिक एक विशिष्ट समस्या हल करती है: ऐसे मॉडल से नॉनलिनियर व्यवहार कैसे निकाला जाए जो केवल डॉट प्रोडक्ट्स के साथ काम करना जानता है। उत्तर है — उन डॉट प्रोडक्ट्स को ऐसे कर्नेल फ़ंक्शन से बदलना जो समृद्ध फीचर स्पेस में वही परिणाम गणना करता है — बिना वहाँ वास्तव में गए।

इसे SVMs के संदर्भ में समझना सबसे उपयोगी है, जहाँ द्विआधारी रूपांकन यह प्रतिस्थापन साफ़ और स्पष्ट बना देता है। जैसे ही आप इससे सहज हो जाते हैं, कर्नेल मेथड्स का व्यापक परिवार बहुत अधिक समझ में आने लगता है।

आजकल ध्यान का अधिकांश हिस्सा डीप लर्निंग को मिलता है, और बड़े पैमाने की समस्याओं के लिए यह उचित भी है। लेकिन कर्नेल ट्रिक एक अलग तरह की सोच पेश करती है — जो ज्यामिति और समानता पर आधारित है। इसे समझना सार्थक है, पर जब तक आप किसी विशेषीकृत क्षेत्र में काम नहीं करते, आप इसे व्यवहार में शायद ही उपयोग करेंगे।

पर डीप लर्निंग ने आखिर कब्जा क्यों जमाया? हमारे Deep Learning in Python ट्रैक में नामांकन करें और देखें कि न्यूरल नेटवर्क आपको स्केल पर जटिल मॉडल कैसे बनाने देते हैं।