एल्गोरिथमिक पक्षपात क्या है?

एल्गोरिथमिक पक्षपात से तात्पर्य कंप्यूटर सिस्टम में होने वाली तंत्रगत और दोहराने योग्य त्रुटियों से है जो अन्यायपूर्ण परिणाम उत्पन्न करती हैं, जैसे किसी मनमाने उपयोगकर्ता समूह को दूसरों पर तरजीह देना। आज यह एक व्यापक चिंता का विषय है, क्योंकि आर्टिफिशियल इंटेलिजेंस (AI) और मशीन लर्निंग (ML) अनुप्रयोग हमारे जीवन के हर पहलू में तेजी से प्रवेश कर रहे हैं।

एल्गोरिथमिक पक्षपात समझाया गया

कल्पना कीजिए एक सरल निर्णय लेने वाले उपकरण की, जैसे कोई छांटने वाली टोपी जो लोगों को अलग-अलग श्रेणियों में रखती है। लेकिन अगर यह टोपी अपना काम सीखते समय केवल एक खास तरह के व्यक्ति से ही रूबरू हुई हो? तब वह उन व्यक्तियों का गलत आकलन कर सकती है जो 'सामान्य' मानकों में फिट नहीं बैठते, और जो फिट बैठते हैं उनकी ओर पक्षपात दिखा सकती है। यही एल्गोरिथमिक पक्षपात का सार है।

यह पक्षपात पक्षपाती या सीमित इनपुट डेटा, अनुचित एल्गोरिदम, या एआई विकास के दौरान बहिष्करणकारी प्रथाओं से उत्पन्न होता है। इस मुद्दे का समाधान करना अत्यंत महत्वपूर्ण है, क्योंकि एआई सिस्टम अब स्वास्थ्य सेवा, वित्त और आपराधिक न्याय जैसे संवेदनशील क्षेत्रों में शामिल हैं, जहां पक्षपाती निर्णय हानिकारक प्रभाव डाल सकते हैं।

कई कारक एल्गोरिथमिक पक्षपात में योगदान देते हैं:

• डेटा पक्षपात। यदि एआई सिस्टम को प्रशिक्षित करने के लिए उपयोग किया गया डेटा पूरी आबादी का प्रतिनिधित्व नहीं करता, तो एल्गोरिदम के निर्णय उसी समूह का पक्ष ले सकते हैं जिस पर उसे प्रशिक्षित किया गया था।
• डिज़ाइन में पूर्वाग्रह। यदि एआई डिज़ाइनरों में निहित पूर्वाग्रह हैं, तो वे अनजाने में सिस्टम के व्यवहार में स्थानांतरित हो सकते हैं।
• सामाजिक-तकनीकी कारक। इनमें यह शामिल है कि सामाजिक, आर्थिक और सांस्कृतिक संदर्भ एआई सिस्टम के डिज़ाइन, परिनियोजन और उपयोग को कैसे प्रभावित करते हैं, जो पक्षपात ला सकते हैं।

मशीन लर्निंग की प्रक्रिया के दौरान कई प्रकार के एल्गोरिथमिक पक्षपात उत्पन्न हो सकते हैं। उदाहरण के लिए, प्री-प्रोसेसिंग पक्षपात पक्षपाती डेटा-सफाई प्रक्रियाओं से आता है, कन्फर्मेशन बायस तब होता है जब एआई सिस्टम पहले से मौजूद मान्यताओं या रूढ़ियों की पुष्टि करते हैं, एक्सक्लूजन बायस तब होता है जब कुछ समूहों को प्रशिक्षण डेटा से व्यवस्थित रूप से बाहर रखा जाता है, और एल्गोरिथमिक या मॉडल पक्षपात कुछ परिणामों या समूहों का पक्ष लेने से उत्पन्न होता है। इन प्रकारों को समझना निष्पक्ष और समानतापूर्ण एआई सिस्टम बनाने के लिए आवश्यक है।

एल्गोरिथमिक पक्षपात के उदाहरण

वास्तविक दुनिया के उदाहरण एल्गोरिथमिक पक्षपात की धारणा को स्पष्ट कर सकते हैं:

• भर्ती एल्गोरिदम। Amazon ने एक बार अपनी भर्ती प्रक्रिया को स्वचालित करने के लिए एक एआई सिस्टम बनाया। एल्गोरिदम को दस वर्षों में कंपनी को भेजे गए रेज़्यूमे पर प्रशिक्षित किया गया था, जो मुख्यतः पुरुषों से आए थे। नतीजतन, सिस्टम ने पुरुष उम्मीदवारों को महिलाओं पर तरजीह देना शुरू कर दिया, जो स्पष्ट पक्षपात को दर्शाता है।
• चेहरा पहचानने वाले सिस्टम। कई अध्ययनों में पाया गया है कि निगरानी या स्मार्टफोन अनलॉकिंग में उपयोग होने वाले चेहरे की पहचान वाले एल्गोरिदम अक्सर गहरी त्वचा वाले और महिला चेहरों पर खराब प्रदर्शन करते हैं। इसका मुख्य कारण प्रशिक्षण डेटासेट में विविधता की कमी है।

आगे देखते हुए, जैसे-जैसे एआई सिस्टम हमारे रोज़मर्रा के जीवन में अधिक समेकित होते जाएंगे, अनियंत्रित एल्गोरिथमिक पक्षपात के संभावित प्रभाव और भी गहन हो सकते हैं। प्रिडिक्टिव पुलिसिंग कुछ समुदायों को अनुचित रूप से निशाना बना सकती है, क्रेडिट स्कोरिंग एल्गोरिदम कुछ सामाजिक-आर्थिक समूहों को असंगत रूप से नुकसान पहुंचा सकते हैं, और वैयक्तिकृत शिक्षा उपकरण कुछ छात्रों के लिए सीखने के अवसरों को सीमित कर सकते हैं। समाज पर एआई के भविष्य के प्रभाव इस बात पर जोर देते हैं कि एल्गोरिथमिक पक्षपात को अभी संबोधित किया जाए ताकि एआई-चालित निर्णय निष्पक्ष, न्यायसंगत और समाज के सभी पहलुओं का प्रतिनिधि हों।

एल्गोरिथमिक पक्षपात से बचने के सर्वोत्तम तरीके

एल्गोरिथमिक पक्षपात का समाधान एआई सिस्टम विकास के विभिन्न चरणों में सजग प्रयासों की मांग करता है:

• विविध और प्रतिनिधिक डेटा। सुनिश्चित करें कि मशीन लर्निंग मॉडलों के प्रशिक्षण के लिए उपयोग किया गया डेटा उन सभी जनसमूहों का प्रतिनिधित्व करता है जिनकी सिस्टम सेवा करेगा।
• पक्षपात ऑडिटिंग। संभावित पक्षपात और न्यायसंगतता के लिए एआई सिस्टम का नियमित रूप से परीक्षण और समीक्षा करें।
• पारदर्शिता। यह स्पष्ट दस्तावेज़ीकरण बनाए रखें कि एआई सिस्टम द्वारा निर्णय कैसे लिए जाते हैं।
• समावेशी विकास टीमें। एआई डेवलपर्स की विविध टीम होने से ऐसे पक्षपातों की जाँच-संतुलन में मदद मिलती है जो अन्यथा अनदेखे रह सकते हैं।

राय: एल्गोरिथमिक पक्षपात से निपटने के लिए हमें अलग दृष्टिकोण चाहिए

पहली बार मुझे तब एहसास हुआ कि मेरा डेटासेट पक्षपाती है जब मैं सेंटिमेंट एनालिसिस मॉडल को प्रशिक्षित कर रहा था। मैंने पाया कि कक्षाओं के बीच असंतुलित वितरण भी पक्षपातपूर्ण नतीजे दे सकता है, जहां मेरा मॉडल “Happy” लेबल की भविष्यवाणी “Neutral” की तुलना में अधिक सटीक कर रहा था। मैंने यह समस्या डेटा के ओवरसैंपलिंग/अंडरसैंपलिंग से हल कर ली, लेकिन इससे मुझे पारदर्शिता और संतुलित डेटासेट के महत्व के प्रति अधिक जागरूकता हुई, जो निष्पक्ष स्वचालित सिस्टम बनाने के लिए जरूरी है।

विविध डेटा, पक्षपात ऑडिटिंग, पारदर्शिता और समावेशी टीमों के अलावा, हमें समझाने योग्य एआई जैसे सिस्टम चाहिए जो एल्गोरिदम में पक्षपात का पता लगा सकें। इसके अतिरिक्त, कानून बनाए जाने चाहिए जो कंपनियों को एआई में Fairness, Accountability, Transparency, and Ethics (FATE) के अनुरूप होने के लिए बाध्य करें।

मेरे विचार में, सभी डेटा में संभवतः कुछ न कुछ पक्षपात होता है क्योंकि यह मनुष्यों से एकत्र किया जाता है, जिनमें नस्ल, रंग, धर्म, व्यवस्थाओं और मान्यताओं से संबंधित अंतर्निहित पूर्वाग्रह होते हैं। फिलहाल इस समस्या को पूरी तरह समाप्त करना काफी कठिन है। हालांकि, अधिक उन्नत एआई के आगमन के साथ, हम ऐसे एल्गोरिदम देख सकते हैं जो अपने परिवेश से अधिक संतुलित तरीकों से सीख सकें और ऐसे अनुप्रयोग बनाएँ जो सभी लोगों के लिए समान रूप से काम करें। उदाहरण के लिए, OpenAI का "superalignment" पर किया गया काम इस बात का लक्ष्य रखता है कि मानव बुद्धि से आगे निकलने वाले एआई सिस्टम भी मानव मूल्यों और लक्ष्यों के अनुरूप बने रहें।

आशा यह है कि जैसे-जैसे एआई क्षमताएँ आगे बढ़ेंगी, हम उनका उपयोग मानवीय पक्षपात का प्रतिकार करने और ऐसा एआई विकसित करने में कर पाएँगे जो हम सभी के हित में काम करे, न कि हमारे प्रतिकूल। उपयुक्त निगरानी और विचारशील डिज़ाइन एआई की उस क्षमता को साकार करने की कुंजी होंगे जो तंत्रगत पक्षपात से लड़ सके।

क्या आप एआई के बारे में और सीखना चाहते हैं? ये संसाधन देखें:

• अंडरस्टैंडिंग मशीन लर्निंग कोर्स
• एआई एथिक्स कोर्स
• लर्न ChatGPT कोर्स
• मशीन लर्निंग क्या है?
• DataCamp के सभी एआई कोर्स