Explainable AI - मशीन लर्निंग मॉडलों को समझना और उन पर भरोसा करना

Explainable AI (XAI) क्या है?

Explainable AI उन प्रक्रियाओं और तरीकों का समूह है जिनका उद्देश्य AI और मशीन लर्निंग मॉडलों द्वारा उत्पन्न निर्णयों के लिए स्पष्ट और मानव-समझने योग्य व्याख्या प्रदान करना है।

इन मॉडलों में एक explainability लेयर को शामिल करके, डेटा साइंटिस्ट्स और मशीन लर्निंग विशेषज्ञ डेवलपर्स, नियामकों और अंतिम-उपयोगकर्ताओं जैसे व्यापक हितधारकों की सहायता के लिए अधिक भरोसेमंद और पारदर्शी सिस्टम बना सकते हैं।

Explainable AI के माध्यम से भरोसा बनाना

भरोसा बनाने में सहायक कुछ explainable AI सिद्धांत इस प्रकार हैं:

• पारदर्शिता। यह सुनिश्चित करना कि हितधारक मॉडलों की निर्णय-प्रक्रिया को समझें।
• निष्पक्षता। यह सुनिश्चित करना कि मॉडलों के निर्णय सभी के लिए निष्पक्ष हों, जिनमें संरक्षित समूहों (जाति, धर्म, लिंग, विकलांगता, जातीयता) के लोग शामिल हैं।
• विश्वास। AI सिस्टम का उपयोग करने वाले मानव उपयोगकर्ताओं के आत्मविश्वास स्तर का आकलन करना।
• मजबूती। इनपुट डेटा या मॉडल पैरामीटर्स में बदलाव के प्रति लचीला रहना, अनिश्चितता या अप्रत्याशित स्थितियों में भी संगत और विश्वसनीय प्रदर्शन बनाए रखना।
• गोपनीयता। संवेदनशील उपयोगकर्ता जानकारी की सुरक्षा की गारंटी देना।
• व्याख्यात्मकता। अपनी भविष्यवाणियों और परिणामों के लिए मानव-समझने योग्य स्पष्टीकरण प्रदान करना।

Explainable AI को लागू करने के कई लाभ हैं। निर्णय-निर्माताओं और अन्य हितधारकों के लिए, यह AI-चालित निर्णयों के पीछे के तर्क की स्पष्ट समझ प्रदान करता है, जिससे वे बेहतर सूचित विकल्प ले सकते हैं। यह मॉडलों में संभावित पक्षपात या त्रुटियों की पहचान करने में भी मदद करता है, जिससे अधिक सटीक और निष्पक्ष परिणाम मिलते हैं।

Explainable AI के उदाहरण

मॉडल explainability की दो व्यापक श्रेणियाँ हैं: model-specific तरीके और model-agnostic तरीके। इस अनुभाग में, हम दोनों के बीच के अंतर को समझेंगे, विशेष रूप से model-agnostic तरीकों पर ध्यान केंद्रित करते हुए।

दोनों तकनीकें यह सुनिश्चित करते हुए कि मॉडल प्रभावी और जवाबदेह हैं, मशीन लर्निंग मॉडलों के आंतरिक कार्य पर मूल्यवान अंतर्दृष्टि प्रदान कर सकती हैं।

इन टूल्स को बेहतर ढंग से दर्शाने के लिए, हम Kaggle के diabetes डेटासेट का उपयोग करेंगे। पहले हम एक सरल क्लासिफायर बनाएंगे और फिर explainability लागू करेंगे।

क्लासिफायर बनाएं

Diabetes डेटासेट का उपयोग करते हुए डायबिटीज के परिणामों की भविष्यवाणी के लिए एक Random Forest क्लासिफायर बनाया गया है। कोड को कई चरणों में तोड़ा गया है: (1) प्रासंगिक लाइब्रेरी इम्पोर्ट करना, (2) प्रशिक्षण और परीक्षण डेटासेट बनाना, (3) मॉडल बनाना, और (4) classification report के माध्यम से प्रदर्शन मेट्रिक्स रिपोर्ट करना।

# Load useful libraries
from sklearn.model_selection import train_test_split
from sklearn.ensemble import RandomForestClassifier
from sklearn.model_selection import cross_val_score
from sklearn.metrics import classification_report

# Separate Features and Target Variables
X = diabetes_data.drop(columns='Outcome')
y = diabetes_data['Outcome']

# Create Train & Test Data
X_train, X_test, y_train, y_test = train_test_split(X, y,test_size=0.3,
                                                	stratify =y,
                                                	random_state = 13)

# Build the model
rf_clf = RandomForestClassifier(max_features=2, n_estimators =100 ,bootstrap = True)

rf_clf.fit(X_train, y_train)

# Make prediction on the testing data
y_pred = rf_clf.predict(X_test)

# Classification Report
print(classification_report(y_pred, y_test))

अंतिम print स्टेटमेंट निम्नलिखित रिपोर्ट उत्पन्न करता है: 

Random forest क्लासिफायर डायबिटीज के परिणामों की भविष्यवाणी में ठीक-ठाक प्रदर्शन देता है, और अलग मॉडलों का उपयोग कर सुधार की गुंजाइश स्पष्ट है।

अब, हम इस मॉडल में explainability लेयर को एकीकृत कर सकते हैं ताकि इसकी भविष्यवाणियों के बारे में अधिक अंतर्दृष्टि मिल सके। अगला अनुभाग मॉडल explainability की दो व्यापक श्रेणियों—model-specific तरीके और model-agnostic तरीके—पर केंद्रित होगा।

हमारा Classification in Machine Learning: An Introduction लेख आपको मशीन लर्निंग में वर्गीकरण के बारे में सीखने में मदद करता है—यह क्या है, इसका उपयोग कैसे होता है, और वर्गीकरण एल्गोरिदम के कुछ उदाहरण।

Model-agnostic तरीके

ये तरीके किसी भी मशीन लर्निंग मॉडल पर लागू किए जा सकते हैं, चाहे उसकी संरचना या प्रकार कुछ भी हो। ये फीचर्स के इनपुट-आउटपुट युग्म का विश्लेषण करने पर केंद्रित होते हैं। इस अनुभाग में हम LIME और SHAP—दो व्यापक रूप से उपयोग किए जाने वाले सरोगेट मॉडलों—का परिचय और चर्चा करेंगे।

SHAP

इसका अर्थ है SHapley Additive exPlanations। यह तरीका किसी instance/observation की भविष्यवाणी को प्रत्येक फीचर के योगदान की गणना करके समझाने का लक्ष्य रखता है, और इसे निम्नलिखित pip कमांड से इंस्टॉल किया जा सकता है।

!pip install shap

इंस्टॉलेशन के बाद:

• मुख्य shap लाइब्रेरी इम्पोर्ट की जाती है।
• TreeExplainer क्लास का उपयोग tree-आधारित मॉडलों को समझाने के लिए किया जाता है, साथ ही initjs के साथ।
• shap.initjs() फ़ंक्शन जुपिटर नोटबुक परिवेश में SHAP विज़ुअलाइज़ेशन दिखाने के लिए आवश्यक JavaScript कोड को इनिशियलाइज़ करता है।
• अंत में, random forest क्लासिफायर के साथ TreeExplainer क्लास को इंस्टैनशिएट करने के बाद, टेस्ट डेटासेट की प्रत्येक instance के प्रत्येक फीचर के लिए shap मानों की गणना की जाती है।

import shap
import matplotlib.pyplot as plt

# load JS visualization code to notebook
shap.initjs()

# Create the explainer
explainer = shap.TreeExplainer(rf_clf)

shap_values = explainer.shap_values(X_test)

SHAP मॉडल की व्याख्यात्मकता बढ़ाने के लिए कई प्रकार के विज़ुअलाइज़ेशन टूल्स प्रदान करता है, और अगला अनुभाग उनमें से दो पर चर्चा करेगा: (1) summary plot के साथ variable importance, (2) किसी विशेष target का summary plot, और (3) dependence plot।

Summary Plot के साथ Variable Importance

इस प्लॉट में, summary_plot() फ़ंक्शन का उपयोग करके फीचर्स को उनके औसत SHAP मानों के आधार पर रैंक किया जाता है—सबसे महत्वपूर्ण फीचर्स ऊपर और सबसे कम महत्वपूर्ण नीचे। यह मॉडल की भविष्यवाणियों पर प्रत्येक फीचर के प्रभाव को समझने में मदद करता है।

print("Variable Importance Plot - Global Interpretation")
figure = plt.figure()
shap.summary_plot(shap_values, X_test)

उपरोक्त ग्राफ़िक से निम्न व्याख्या की जा सकती है:

• हम देखते हैं कि प्रत्येक श्रेणी के लिए क्षैतिज आयतों में लाल और नीला रंग आधा-आधा भाग घेरते हैं। इसका अर्थ है कि प्रत्येक फीचर का डायबिटीज (label=1) और नॉन-डायबिटीज (label=0) दोनों मामलों की वर्गीकरण पर समान प्रभाव है।
• हालाँकि, Glucose, Age और BMI सबसे अधिक प्रेडिक्टिव पावर वाले पहले तीन फीचर हैं।
• दूसरी ओर, Pregnancies, SkinThicknes, Insulin और BloodPressure का योगदान पहले तीन फीचर्स जितना नहीं है।

किसी विशेष लेबल पर Summary Plot

यह तरीका किसी विशिष्ट परिणाम (लेबल) पर प्रत्येक फीचर के प्रभाव का अधिक सूक्ष्म अवलोकन प्रदान कर सकता है।

नीचे दिए गए उदाहरण में, shap_values[1] का उपयोग उन instances के SHAP मान दर्शाने के लिए किया गया है जिन्हें लेबल 1 (डायबिटीज) के रूप में वर्गीकृत किया गया है।

shap.summary_plot(shap_values[1], X_test)

उपरोक्त ग्राफ़िक से:

• Y-अक्ष उन फीचर्स का प्रतिनिधित्व करता है जिन्हें उनके औसत परिमित SHAP मानों के आधार पर रैंक किया गया है, जैसा कि चित्र 2 के ग्राफ़िक में है।
• X-अक्ष SHAP मानों का प्रतिनिधित्व करता है। किसी दिए गए फीचर के लिए सकारात्मक मान मॉडल की भविष्यवाणी को जाँचे जा रहे लेबल (label=1) की ओर धकेलते हैं, जबकि नकारात्मक मान विपरीत श्रेणी (label=0) की ओर।
• उच्च glucose (लाल डॉट्स) स्तर वाला व्यक्ति डायबिटीज का निदान होने की अधिक संभावना रखता है (सकारात्मक परिणाम), जबकि कम glucose स्तर डायबिटीज न होने की ओर ले जाता है।
• इसी तरह, उम्रदराज़ मरीजों में डायबिटीज का निदान होने की संभावना अधिक होती है। हालांकि, कम उम्र के मरीजों के लिए मॉडल अनिश्चित प्रतीत होता है।

Age एट्रिब्यूट के लिए इस अस्पष्टता से निपटने का एक तरीका अधिक अंतर्दृष्टि पाने हेतु dependence plot का उपयोग करना है।

Dependence Plot

Summary plots के विपरीत, dependence plots डेटा में प्रत्येक instance के लिए किसी विशिष्ट फीचर और अनुमानित परिणाम के बीच संबंध दिखाते हैं। यह विश्लेषण कई कारणों से किया जाता है और केवल अधिक सूक्ष्म जानकारी प्राप्त करने तथा summary plots या अन्य वैश्विक फीचर महत्व मापों से प्राप्त निष्कर्षों की पुष्टि या चुनौती देकर विश्लेषित फीचर के महत्व को सत्यापित करने तक सीमित नहीं है। 

Dependence plot दर्शाता है कि 30 वर्ष से कम उम्र के मरीजों में डायबिटीज का निदान होने का जोखिम कम है। इसके विपरीत, 30 वर्ष से अधिक उम्र के व्यक्तियों में डायबिटीज का निदान होने की संभावना अधिक है।

LIME

Local Interpretable Model-agnostic Explanations (संक्षेप में LIME)। संपूर्ण डेटासेट पर मॉडल की वैश्विक समझ प्रदान करने के बजाय, LIME व्यक्तिगत instances के लिए मॉडल की भविष्यवाणी को समझाने पर केंद्रित है।

LIME explainer को दो मुख्य चरणों से सेट किया जा सकता है: (1) lime मॉड्यूल इम्पोर्ट करना, और (2) प्रशिक्षण डेटा और targets का उपयोग कर explainer को फिट करना। इस चरण के दौरान, mode को classification पर सेट किया जाता है, जो किए जा रहे कार्य के अनुरूप है।

# Import the LimeTabularExplainer module
from lime.lime_tabular import LimeTabularExplainer

# Get the class names
class_names = ['Has diabetes', 'No diabetes']

# Get the feature names
feature_names = list(X_train.columns)

# Fit the Explainer on the training data set using the LimeTabularExplainer
explainer = LimeTabularExplainer(X_train.values, feature_names =     
                                 feature_names,
                                 class_names = class_names, 
                                 mode = 'classification')

नीचे दिया गया कोड स्निपेट टेस्ट डेटा में 8वीं instance के लिए random forest क्लासिफायर का उपयोग करके एक LIME व्याख्या तैयार और प्रदर्शित करता है तथा अंतिम फीचर योगदान को सारणीबद्ध प्रारूप में प्रस्तुत करता है। 

परिणाम बाएँ से दाएँ तीन मुख्य जानकारियाँ देता है: (1) मॉडल की भविष्यवाणियाँ, (2) फीचर्स के योगदान, और (3) प्रत्येक फीचर का वास्तविक मान।

हम देखते हैं कि आठवें मरीज के लिए डायबिटीज होने की 72% विश्वसनीयता के साथ भविष्यवाणी की गई है। मॉडल को इस निर्णय तक पहुँचाने वाले कारण हैं:

• मरीज का glucose स्तर 99 से अधिक है।
• रक्तचाप 70 से अधिक है।

इन मानों की पुष्टि दाएँ तरफ़ की सारणी से की जा सकती है।

Model-specific तरीके

Model-agnostic तरीकों के विपरीत, ये तरीके केवल मॉडलों की एक सीमित श्रेणी पर लागू किए जा सकते हैं। ऐसे कुछ मॉडलों में linear regression, decision trees और neural network interpretability शामिल हैं। DeepLIFT, Grad-CAM या Integrated Gradients जैसी विभिन्न तकनीकों का उपयोग deep learning मॉडलों को समझाने के लिए किया जा सकता है।

जब decision-tree मॉडल का उपयोग किया जाता है, तो scikit-learn की plot_tree फ़ंक्शन के साथ एक ग्राफिकल ट्री जेनरेट कर मॉडल की decision-making प्रक्रिया को ऊपर-से-नीचे समझाया जा सकता है, और इसका एक उदाहरण नीचे दिया गया है।

Deep Learning - A Tutorial for Data Scientists लेख deep learning से जुड़े सबसे अधिक पूछे जाने वाले प्रश्नों का उत्तर देता है और वास्तविक जीवन के उदाहरणों के साथ deep learning के विभिन्न पहलुओं का अन्वेषण करता है।

ग्राफिकल ट्री बनाने से पहले, आइए max_depth और min_samples_leaf जैसे विशिष्ट हाइपरपैरामीटर्स के साथ एक decision tree क्लासिफायर को प्रशिक्षित करें।

from sklearn.tree import DecisionTreeClassifier, plot_tree
dt_clf = DecisionTreeClassifier(max_depth = 3, min_samples_leaf = 2)
dt_clf.fit(X_train, y_train)

# Predict on the test data and evaluate the model
y_pred = dt_clf.predict(X_test)

print(classification_report(y_pred, y_test))

उपरोक्त print स्टेटमेंट मॉडल की निम्नलिखित classification रिपोर्ट उत्पन्न करता है। 

और मॉडल की निर्णय-प्रक्रिया को नीचे दिए गए कोड से विज़ुअलाइज़ किया जा सकता है:

fig = plt.figure(figsize=(25,20))
_ = plot_tree(dt_clf,
               	feature_names = feature_names,
               	class_names = class_names,
               	filled=True)

ट्री संरचना का निरीक्षण करके, प्रत्येक सैंपल के लिए निर्णय-प्रक्रिया का पता लगाया जा सकता है, जिससे मॉडल के व्यवहार और व्याख्यात्मकता पर अंतर्दृष्टि मिलती है।

उपरोक्त प्लॉट में, प्रत्येक नोड किसी विशिष्ट फीचर मान पर आधारित एक निर्णय या विभाजन का प्रतिनिधित्व करता है। प्रत्येक आंतरिक नोड के लिए, प्लॉट विभाजन के लिए उपयोग किए गए फीचर, विभाजन मानदंड का मान, Gini impurity, और उस नोड तक पहुँचने वाले सैंपल की संख्या दिखाता है।

लीफ नोड्स में, बहुसंख्यक क्लास और सैंपल की संख्या प्रदर्शित की जाती है। साथ ही, नोड्स में रंग बहुसंख्यक क्लास का प्रतिनिधित्व करते हैं, जहाँ रंग की तीव्रता उस नोड के भीतर प्रमुख क्लास के अनुपात को दर्शाती है। उदाहरण के लिए, बाएँ ब्रांच पर नारंगी नोड्स डायबिटीज लेबल से संबंधित हैं, जबकि नीला नोड नो-डायबिटीज से संबंधित है।

XAI की चुनौतियाँ और भविष्य की दृष्टि

जैसे-जैसे AI तकनीक विकसित और अधिक परिष्कृत होती जा रही है, एल्गोरिद्म को समझना और व्याख्या करना—यह जानने के लिए कि वे परिणाम कैसे उत्पन्न करते हैं—और भी चुनौतीपूर्ण हो रहा है, जिससे शोधकर्ता नए दृष्टिकोण तलाशना और मौजूदा तरीकों में सुधार करना जारी रख रहे हैं।

कई explainable AI मॉडल अंतर्निहित मॉडल को सरल बनाने की आवश्यकता रखते हैं, जिससे प्रेडिक्टिव प्रदर्शन में कमी आ सकती है। इसके अतिरिक्त, वर्तमान explainability तरीके निर्णय-प्रक्रिया के सभी पहलुओं को कवर नहीं कर सकते, जो विशेषकर अधिक जटिल मॉडलों के साथ, व्याख्या के लाभ को सीमित कर सकता है।

नए अनुसंधान तरीके explainable AI तकनीकों को सुदृढ़ करने पर केंद्रित हैं, ताकि नैतिक मुद्दों को संबोधित करने के लिए अधिक प्रभावी एल्गोरिद्म विकसित किए जा सकें और साथ ही उपयोगकर्ता-अनुकूल व्याख्याएँ तैयार की जा सकें।

अंततः, चल रहे अनुसंधान के साथ, हमारे पास पारदर्शिता, भरोसेमंदता और निष्पक्षता को बढ़ावा देने वाली और अधिक परिष्कृत विधियाँ होने की संभावना है।

निष्कर्ष

इस लेख ने explainable AI क्या है और ऐसे कुछ सिद्धांतों का अच्छा अवलोकन प्रदान किया है जो भरोसा बनाने में योगदान करते हैं और डेटा साइंटिस्ट्स व अन्य हितधारकों को क्रियाशील निर्णय लेने में मदद करने के लिए भरोसेमंद मॉडल बनाने हेतु प्रासंगिक कौशल-समुच्चय प्रदान कर सकते हैं।

हमने model-agnostic और model-specific तरीकों को भी कवर किया, पहले पर विशेष फोकस रखते हुए—LIME और SHAP का उपयोग करके। इसके अलावा, explainable AI से संबंधित चुनौतियाँ, सीमाएँ और कुछ शोध क्षेत्रों को भी उजागर किया गया है।

ऐसी तकनीक के पीछे के नैतिक पहलुओं के बारे में अधिक जानने के लिए हमारा Introduction to Data Ethics कोर्स देखें, जो डेटा एथिक्स के सिद्धांत, AI एथिक्स से उसका संबंध, और डेटा लाइफसाइकल के विभिन्न चरणों में उसकी विशेषताओं को कवर करता है।