डेटा डिमिस्टिफाइड: एआई पूर्वाग्रह के विभिन्न प्रकार

हमारी महीने भर चलने वाली डेटा डिमिस्टिफाइड श्रृंखला की अंतिम प्रविष्टि में आपका स्वागत है। डेटा साक्षरता माह के हिस्से के रूप में, इस श्रृंखला ने डेटा की दुनिया के प्रमुख सिद्धांतों को स्पष्ट किया और उन प्रश्नों के उत्तर देने की कोशिश की जिन्हें आप पूछने में संकोच कर सकते थे। यदि आप शुरुआत से शुरू करना चाहते हैं, तो श्रृंखला की हमारी पहली प्रविष्टि पढ़ें: डेटासेट क्या है?

इस प्रविष्टि में, हम पिछली प्रविष्टि की थीम को आगे बढ़ाते हुए एआई के संभावित हानिकारक प्रभावों, यह कैसे कुछ समूहों के प्रति पूर्वाग्रह को आगे बढ़ा सकता है, और एआई पूर्वाग्रह के विभिन्न प्रकारों पर चर्चा करेंगे जिनसे हर किसी को अवगत होना चाहिए। 

एआई पूर्वाग्रह की समस्या

आज अधिकांश एआई सिस्टम मशीन लर्निंग का लाभ उठाते हैं। मशीन लर्निंग, परिभाषा के अनुसार, अतीत के डेटा से पैटर्न सीखने और भविष्य की घटनाओं के लिए भविष्यवाणियाँ करने हेतु उन्नत सांख्यिकीय तकनीकों को लागू करती है। 

मशीन लर्निंग को व्यापक रूप से अपनाने से पक्षपातपूर्ण भविष्यवाणियों के मामलों में तेज वृद्धि हुई है। पक्षपातपूर्ण एआई एल्गोरिदम एआई समुदाय में एक गंभीर चिंता का विषय रहे हैं और यह मॉडल प्रशिक्षण के लिए उपयोग किए गए डेटा का परिणाम होते हैं। पूर्वाग्रह कई रूपों में प्रकट हो सकता है—यह सामाजिक या संरचनात्मक हो सकता है और किसी विशेष लिंग, रंग, धर्म या राष्ट्रीयता के प्रति मौजूद हो सकता है।

परिणामस्वरूप, एआई एल्गोरिदम प्रशिक्षण डेटा से पूर्वाग्रह सीख लेते हैं क्योंकि वे मानवीय निर्णय की नकल करने की कोशिश करते हैं। आइए अतीत के कुछ उदाहरणों पर फिर से नज़र डालें जहाँ पक्षपातपूर्ण एआई भविष्यवाणियों ने समाज और संपूर्ण मानवता पर नकारात्मक प्रभाव डाला: 

लैंगिक पूर्वाग्रह: Amazon का भर्ती इंजन

Amazon ने एक भर्ती इंजन विकसित किया जो आगे के साक्षात्कारों के लिए नौकरी आवेदकों के रिज़्यूमे की स्क्रीनिंग को स्वचालित करता था। हालाँकि, एल्गोरिदम ने अतीत के डेटा से सीखे गए पूर्वाग्रह को प्रतिबिंबित किया और अंततः केवल पुरुष उम्मीदवारों की प्रोफ़ाइलें चुनीं।

नस्लीय पूर्वाग्रह: PredPol एल्गोरिदम

PredPol, या प्रेडिक्टिव पुलिसिंग, ने उच्च आपराधिक गतिविधि वाले क्षेत्रों का हीटमैप बनाया और अल्पसंख्यक-विशिष्ट स्थानों की पहचान हॉट ज़ोन के रूप में की। एल्गोरिदम को ऐसे क्षेत्रों से रिपोर्ट की गई कई आपराधिक घटनाओं वाले पक्षपातपूर्ण इनपुट डेटा पर प्रशिक्षित किया गया था।

नस्लीय पूर्वाग्रह: COMPAS एल्गोरिदम

Correctional Offender Management Profiling for Alternative Sanctions (COMPAS) सॉफ़्टवेयर का उपयोग किसी अपराधी द्वारा दोबारा अपराध करने की संभावना का आकलन करने के लिए किया गया था। हालाँकि, 2016 में की गई एक जांच के हिस्से के रूप में एल्गोरिदम को पक्षपातपूर्ण पाया गया। सॉफ़्टवेयर ने अश्वेत अपराधियों को श्वेत अपराधियों की तुलना में पुनः अपराध करने की अधिक संभावना के रूप में लेबल किया। 

उपरोक्त उदाहरणों से स्पष्ट है कि मशीन लर्निंग एल्गोरिदम प्रशिक्षण डेटा से अन्य नियमितताओं के साथ-साथ पूर्वाग्रह भी सीख लेते हैं। जब तक मूल स्रोत पर उपचार न किया जाए, पूर्वाग्रह एआई/एमएल पाइपलाइनों में कई रूपों में प्रकट हो सकता है। जैसे-जैसे संगठनों और समाज में एआई अधिक व्यापक होता जा रहा है, सभी को एआई सिस्टम के विभिन्न प्रकार के पूर्वाग्रहों के बारे में जागरूक होना चाहिए। नीचे एआई में पूर्वाग्रह के तीन सबसे आम प्रकार दिए गए हैं। 

एआई पूर्वाग्रह के तीन आम प्रकार

पूर्वाग्रह (Prejudice bias)

जब प्रशिक्षण डेटा मौजूदा पूर्वाग्रहों, रूढ़ियों और सामाजिक धारणाओं को प्रतिबिंबित करता है, तो ये पूर्वाग्रह सीखे गए मॉडल में समाहित हो जाते हैं; ऐसे पूर्वाग्रह को प्रीजुडिस बायस कहा जाता है। उदाहरण के लिए, जब आप “डॉक्टर” खोजते हैं, तो खोज परिणामों में बड़ी संख्या में पुरुष डॉक्टरों की छवियाँ आती हैं। इसके विपरीत, “नर्स” की समान खोज महिला नर्सों की छवियाँ दिखाती है। यह समाज में लैंगिक रूढ़ियों के बारे में बहुत कुछ कहता है। 

नमूना चयन पूर्वाग्रह

नमूना चयन पूर्वाग्रह तब होता है जब प्रशिक्षण डेटा अध्ययनाधीन जनसंख्या का प्रतिनिधि नहीं होता। इसका एक उदाहरण त्वचा के कैंसर का पता लगाने के लिए प्रशिक्षित एआई सिस्टम हो सकता है। यदि मूल डेटासेट व्यापक जनसंख्या का प्रतिनिधि नहीं है, तो यह सिस्टम डेटासेट में कम-प्रतिनिधित्व वाले समूह के सदस्यों के लिए कमज़ोर प्रदर्शन करेगा। 

मापन पूर्वाग्रह

मापन पूर्वाग्रह डेटा संग्रह या मापन प्रक्रिया में त्रुटि से आता है। उदाहरण के लिए, यदि किसी इमेज पहचान प्रणाली के लिए डेटा देने में उपयोग किए गए कैमरे की छवियाँ कम गुणवत्ता की हैं, तो इससे विशिष्ट आबादियों के खिलाफ पक्षपातपूर्ण परिणाम आ सकते हैं। एक और उदाहरण मानवीय निर्णय से आ सकता है। उदाहरणस्वरूप, किसी चिकित्सा निदान एल्गोरिदम को वास्तविक लक्षणों के बजाय डॉक्टर के पास जाने जैसी प्रॉक्सी मैट्रिक्स के आधार पर बीमारी की संभावना का अनुमान लगाने के लिए प्रशिक्षित किया जा सकता है। 

उत्तरदायी एआई के लिए डेटा साक्षरता का विकास 

पूरे महीने भर, हमने व्यक्तियों और संगठनों के लिए डेटा साक्षरता के महत्व पर प्रकाश डाला है। डेटा साक्षरता गैर-तकनीकी हितधारकों को डेटा और एआई विशेषज्ञों के साथ संवाद करने और एआई सिस्टम की सीमाओं को समझने में सक्षम बनाती है। इससे भी महत्वपूर्ण, यह विषय विशेषज्ञों और एआई विशेषज्ञों के बीच दो-तरफ़ा बातचीत को बढ़ावा देती है जो किसी एआई सिस्टम के संभावित नुकसान पर विचारशील चर्चा की अनुमति देती है। 

इन वार्तालापों के लिए आवश्यक ज्ञान से स्वयं को सुसज्जित करने हेतु हमारा Understanding Machine Learning कोर्स करें और अपनी डेटा साक्षरता यात्रा शुरू करें। अधिक डेटा साक्षरता और डेटा डिमिस्टिफाइड सामग्री के लिए, निम्नलिखित संसाधन देखें:

• यहाँ से एआई सीखना शुरू करें
• हमारे Understanding Data Topics स्किल ट्रैक से शुरुआत करें
• DataFramed पॉडकास्ट को सब्सक्राइब करें
• हमारे आगामी इवेंट्स देखें
• शुरू से शुरू करें और डेटा डिमिस्टिफाइड की हमारी पहली प्रविष्टि पढ़ें