यूपी का फ़ेसियल रिकॉग्निशन तकनीक के इस्तेमाल का मक़सद भेदभाव वाला बर्ताव तो नहीं ?

फ़ेशियल रिकॉग्निशन तकनीक में एक तरह की ढांचागत कमी है। इसके डेटासेट मानव रूप से डिज़ाइन किये गये हैं। अगर ऐतिहासिक आपराधिक डेटा को इस एल्गोरिथ्म में डाल दिया जाता है,तो फ़ैसला लेने की इसकी क्षमताओं में फ़ेरबदल हो सकता है।

मुअज्जम नासिर, आशीष कुमार

02 Mar 2021

फ़ोटो: साभार: द संडे एक्सप्रेस

फ़ेशियल रिकॉग्निशन तकनीक में एक तरह की ढांचागत कमी है। डेटासेट मानव रूप से डिज़ाइन किये गये हैं। अगर ऐतिहासिक आपराधिक डेटा को एल्गोरिथ्म में डाल दिया जाता है, तो फ़ैसला लेने की इसकी क्षमताओं में फ़ेरबदल हो सकता है। यह शुरुआती पूर्वाग्रह की उस भावना को प्रेरित करता है,जो प्रचलित सामाजिक संरचनाओं पर आधारित होती है। महिलाओं के ख़िलाफ़ होने वाले संभावित अपराधों को रोकने के लिए लखनऊ पुलिस के साथ इस एफ़आरटी को अमल में लाने के अपने इरादे की घोषणा करते हुए सरकार क़ानूनी नियंत्रण और संतुलन से बचने की कोशिश कर सकती है। मुअज्जम नासिर और आशीष कुमार लिखते हैं कि राज्य की सुरक्षा का लाभ उठाने के लिए महिलाओं को अप्रत्यक्ष रूप से उनकी निजता और स्वतंत्र अभिव्यक्ति के अधिकार को छोड़ दिये जाने के लिए मजबूर किया जा रहा है।

2018 में क़ानून को अमल में लाने को लेकर अमेज़ॉन ने अपने रिकॉग्निशन,यानी फ़ेसियल रिकॉग्निशन तकनीक (FRT) के इस्तेमाल का ग़लत तरीक़े से बचाव किया था। इसके लिए इसने दलील दी थी कि अगर इस समय इसके लागू किये जाने में कोई खामी रह गयी है,तो इस वजह से एफ़आरटी को खारिज नहीं किया जा सकता। यह कुछ-कुछ उसी तरह की बात है,जिस तरह कि अगर तापमान के ग़लत स्तर को निर्धारित कर देने के चलते पिज्जा जल जाता है, तो इस वजह से चूल्हे को फेंक तो नहीं दिया जाता।

लेकिन,इस बात के दो साल बाद,अमेज़ॉन ने आख़िरकार वास्तव में उस चूल्हे को उठाकर फेंक ही दिया। इसने अमेरिकी पुलिस द्वारा अमल में ला जा रहे उस रिकॉग्निशन के इस्तेमाल पर 12 महीने के लिए प्रतिबंध लगा दिया।

लेकिन, भारत ने अब उस चूल्हे को उधार ले लिया है,और उस चूल्हे पर पकने वाला पिज्जा इसके सबसे बड़े राज्य,उत्तर प्रदेश में जल रहा है। हाल ही में लखनऊ पुलिस ने महिलाओं के ख़िलाफ़ होने वाले संभावित अपराधों को रोकने के लिए आर्टिफ़िशियल इंटेलीजेंस संचालित इस एफ़आरटी के लगाये जाने के अपने इरादे की घोषणा कर दी है। यह प्रस्तावित हस्तक्षेप राज्य सरकार की ओर से पोशीदा निगरानी के लिए आर्टिफ़िशियल इंटेलीजेंस के इस्तेमाल को लेकर समय-समय पर आगे बढ़ते रहने का हिस्सा है। लेकिन,एफ़आरटी स्वाभाविक रूप से दोषपूर्ण है और इसमें तटस्थ विधान का अभाव है। यह अप्रत्यक्ष रूप से राज्य को क़ानूनी नियंत्रण और संतुलन से बचने की इजाज़त देता है। इसके अलावा, इसका इस्तेमाल प्राथमिक तौर पर व्यक्ति विशेष के नाम की गोपनीयता का उल्लंघन है और असंवैधानिक भी है।

असंगत स्वर

ऐसे में सवाल उठता है कि एफ़आरटी है क्या ? असल में यह बायोमेट्रिक तकनीक का एक ऐसा रूप है,जो फ़ोटोग्राफ़िक क्षमता वाले उपकरण का इस्तेमाल करता है। इस तकनीक को एक ऐसे एल्गोरिथ्म से लैस किया जाता है,जिसमें "कृत्रिम तंत्रिका नेटवर्क" (ANN- Artificial Neural Network) होता है। इस एएनएन का इस्तेमाल एफ़आरटी-आधारित वर्गीकरण का केंद्र है।

एएनएन एक ऐसा "सूचना प्रोसेसिंग मॉडल" है, जो उपलब्ध आंकड़ों से एक नयी बन रही छवि का पता लगाने में मदद करता है। मसलन,अलग-अलग नस्ल के कुत्तों का डेटा एकत्र किया जाता है और उन्हें एएनएन में डाल दिया जाता है। इसके बाद,यह एल्गोरिथ्म उस कुत्ते के चेहरे की विशिष्टताओं को मापकर उसका एक डिजिटल फ़ेसप्रिंट बनायेगा। इन विशिष्टताओं में आंखों के बीच की दूरी,नाक की चौड़ाई,गाल की हड्डियों के आकार और जबड़े के निचले किनारे की आकृति की लंबाई शामिल होते हैं। इसके बाद,अगर हम किसी कुत्ते की एक नयी छवि दे देते हैं, तो एनएनएन मौजूदा डेटासेट के साथ तुलना करके इसकी नस्ल की भविष्यवाणी कर देगा। यह एल्गोरिथ्म अलग-अलग अनुमानों के ज्यामिति में निकटता का आकलन करते हुए भविष्यवाणी करता है।

इस एफ़आरटी में एक बारीक़ी से बुना हुआ तंत्र होता है। हालांकि,इसमें एक ढांचागत कमी भी है। इन डेटासेट की डिज़ाइन मानव रूप से की गयी होती है। अगर ऐतिहासिक आपराधिक डेटा को इस एल्गोरिथ्म में डाल दिया जाता है, तो फ़ैसला लेने की इसकी क्षमताओं में फ़ेरबदल हो सकता है। यह प्रचलित सामाजिक संरचनाओं पर आधारित शुरुआती पूर्वाग्रह की भावना को प्रेरित करता है।

अप्रत्यक्ष भेदभाव

अमेरिका में इस तरह के पूर्वाग्रह का रूप नस्लीय और लिंगगत है। अमेरिकी न्याय विभाग ने इस बात पर ग़ौर किया है कि "गोरों के मुक़ाबले अश्वेतों के पकड़े जाने की संभावना दो गुना ज़्यादा होती है।" अमेरिकन सिविल लिबर्टीज यूनियन ने इस बात का ख़ुलासा किया था कि रेकग्निशन(Rekognition) ने 28 अमेरिकी सांसदों को ग़लत तरीक़े से अपराधियों के तौर पर चिह्नित किया था। इन झूठे मेल खाने वालों में एक अजीब समानता थी और यह थी कि ये सबके सब सांसद अश्वेत रंग वाले ही थे।इसके अलावा, इस एफ़आरटी एल्गोरिथ्म का प्रदर्शन काली-चमड़ी वाली महिलाओं को लेकर सबसे ख़राब था। काले रंग वाली इन इन महिलाओं के मुक़ाबले उनके ही देश की गोरी चमड़ी वाली महिलाओं को लेकर की जाने वाली इस भविष्यवाणी के सटीक होने की संभावना 60% ज़्यादा थी।

भारत में भी अवचेतन रूप से भेदभावपूर्ण आपराधिक न्याय प्रणाली के साथ इसी तरह की समानतायें देखी जा सकती हैं। आदतन अपराधी अधिनियम,1952, आधिकारिक तौर पर पहले से ही 237 जातियों को जन्मजात आपराधि के तौर पर चिह्नित करता है। मौत की सज़ा मिलने का अनुपात धार्मिक अल्पसंख्यकों और मुख्यधारा से कटे हुए समुदायों के ख़िलाफ़ कहीं ज़्यादा है। जिन अभियुक्तों को मौत की सज़ा मिली है,उनमें 70% से ज़्यादा लोग इन्हीं समुदायों से थे।

हाल ही में भारत के नागरिकता क़ानून में संशोधन के विरोध में असंतुष्ट लोगों की तादाद में मुसलमानों की संख्या सबसे ज़्यादा थी। इसका नतीजा यह हुआ था कि उत्तर प्रदेश पुलिस ने जिन 1,100 से ज़्यादा असंतुष्ट लोगों की पहचान करने और उन्हें गिरफ़्तार करने के लिए एफ़आरटी का इस्तेमाल किया था,उनमें सबसे बड़ी संख्या मुसलमानों की ही थी। जो एल्गोरिथ्म एफ़आरटी में संचारित की गयी है,उसके भेदभावपूर्ण रवैये वावा अपना एक सामाजिक निहितार्थ हैं। दरअस्ल,यह अप्रत्यक्ष भेदभाव की उस धारणा को खुराक देता है,जिसमें बाहरी तौर पर तटस्थ नीतियों का ख़ास-ख़ास समुदायों पर एक नकारात्मक प्रभाव पड़ता रहता है।

मधु कंवर बनाम उत्तर रेलवे मामले में दिल्ली हाई कोर्ट ने इस बात की पुष्टि कर दी थी कि इस तरह का अप्रत्यक्ष भेदभाव अनुच्छेद 15 के तहत भेदभाव पर लगे प्रतिबंध का उल्लंघन है। सबरीमाला,जोसेफ़ शाइन और नवतेज जोहर मामले में सुप्रीम कोर्ट के न्याय सिद्धांत ने अनुच्छेद 15 (1) के दायरे को "संस्थागत और व्यवस्थागत भेदभाव" में शामिल कर लिया था। गौतम भाटिया ने कहा है कि इस तरह की चीज़ों को अंजाम देना भारतीय संविधान के प्रावधान में अप्रत्यक्ष भेदभाव माने जाने वाले तथ्यों की पुष्टि करता है। इस तरह, एफ़आरटी के ज़रिये भारत में पहले से ही स्थापित समानता के कानून का उल्लंघन किया जा सकता है।

क़ानून का नहीं होना

अदालत ने अपने ऐतिहासिक पुट्टस्वामी फ़ैसले में राज्य के गोपनीयता के उल्लंघन को वैध माने जाने के लिए "आनुपातिकता परीक्षण" के मानदंड को सामने रखा था। राज्य की इस तरह की कार्रवाई को ख़ास तौर पर क़ानून द्वारा अनुमोदित किया जाना चाहिए। भारत में एफ़आरटी को लेकर इस तरह का भेदभाव से रहि कोई क़ानून ही नहीं है।

इस तरह की चीज़ों को सक्षम बनाने वाला पर्सनल डेटा प्रोटेक्शन बिल (PDP),2019 संसद में लंबित है। अगर,मान भी लिया जाये कि पीडीपी क़ानून होता,तब भी एफ़आरटी ने उस क़ानून का उल्लंघन ही किया होता। इसके पीछे की वजह यह है कि पीडीपी की धारा 11 के मुताबिक़,व्यक्तिगत डेटा की प्रोसेसिंग शुरू करते समय डेटा पर नियंत्रण रखने वाले कार्यालय की सहमति ज़रूरी है।

इसके अलावा,धारा 11 (2) (सी) के तहत, इस सहमति को विशिष्ट होना चाहिए। डेटा नियंत्रण कार्यालय को इसके "प्रोसेसिंग के उद्देश्य को निर्धारित करने" में सक्षम होना चाहिए। एफ़आरटी के इस इस्तेमाल में सूचित सहमति का अभाव है। भले ही कोई व्यक्ति पहचान की इस प्रक्रिया में भागीदारी का विरोध करना चाहता हो, लेकिन सार्वजनिक स्थानों पर एफ़आरटी के कैमरों का इस्तेमाल तटस्थ रूप से लोगों को नहीं छोड़ेगा।

2017 में गूगल ने आर्टिफ़िशियल इंटेलीजेंस आधारित अपने ऐप-लेंस में "छवि की पहचान" के फ़ीचर को प्रस्तुत किया था। इस ऐप का मक़सद रेस्तरां और बार जैसी सार्वजनिक जगहों के बारे में घटना के घटने के समय की जानकारी देने के लिए संवर्धित वास्तविकता(Augmented Reality दरअस्ल अक्षरों,ग्राफ़िक्स,ऑडियो, और वास्तविक दुनिया की वस्तुओं के साथ एकीकृत अन्य आभासी विस्तार के तौर पर सूचना का रियल टाइम यानी घट रही घटनाओं के समय का उपयोग है।) का इस्तेमाल करना था। हालांकि, गूगल उन चित्रों और वस्तुओं को नियंत्रित नहीं कर सका,जिन्हें लोग कैप्चर और स्कैन कर सकते थे। मसलन,कोई तीसरा व्यक्ति किसी रेस्तरां में भोजन के बारे में जानकारी हासिल करने की प्रक्रिया में किसी व्यक्ति को कैप्चर कर सकता है। यह डेटा गूगल क्लाउड पर चला गया, जिससे गोपनीयता भंग होने का खतरा काफ़ी बढ़ गया। एफ़आरटी भी इसी तरह की एक छवि-मान्यता प्रणाली के आधार पर बनाया गया है। जो कुछ कैप्चर किया जाता है और जो कोई इसका संग्रह करता है, उस पर नियंत्रण की कमी ही असल में क़ानून की चिंता है और सरकार कोई क़ानून नहीं बनाकर इससे बच रही है।

असंवैधानिक शर्त या स्थिति

पुट्टस्वामी मामले में अदालत ने फ़ैसला दिया था कि "व्यक्तिगत तौर पर नहीं पहाचाना जाना" भी गोपनीयता का ही एक पहलू है। इसके मुताबिक़, कोई व्यक्ति अगर सार्वजनिक स्थान पर है, तो भी उसकी गोपनीयता ख़त्म नहीं की जा सकती है। लेकिन,एफ़आरटी किसी व्यक्ति की गोपनीयता के इस अधिकार का दोहरे तरीक़े से उल्लंघन कर सकता है। सबसे पहले तो एफ़आरटी आधारित इन कैमरों की घूरती नज़र किसी व्यक्ति का "पीछा और उसे चिह्नित" कर सकती है। दूसरा कि इसका एल्गोरिदम इस जानकारी को व्यक्ति के अनाम डेटा के अन्य पहलुओं से जोड़ सकता है। इसमें डॉक्टर के यहां उसके जाने और इस दौरे को चिह्नित करता एफ़आरटी शामिल हैं। इसके बाद, इसका इस्तेमाल उस व्यक्ति के पिछले मेडिकल रिकॉर्ड से जोड़ने में किया जा सकता है। इस तरह,यह दोहरी प्रक्रिया नागरिकों की "गतिविधि-आधारित पहचान" निर्मित करती है,जिससे नागरिकों की व्यक्तिगत गोपनीयता का उल्लंघन होता है।

गोपनीयता पर हमले का स्तर तब और बढ़ जाता है,जब निगरानी सरकार और उसकी संस्थाओं की तरफ़ से की जा रही होती है। सरकार की तरफ़ से क़ैदियों पर निगाह रखे जाने वाली किसी जगह की तरह बनाने वाली यह गतिविधि आत्म-चेतना या सेंसरशिप का रास्ता बनाती है। निगरानी करते कैमरे को देखकर कोई शख़्स अपने पसंद का रास्ता बदल सकता है या पहचान लिये जाने के डर के चलते विरोध करने के अपने संवैधानिक अधिकार का इस्तेमाल नहीं कर सकता है। यह नागरिकों को नियंत्रित करने का एक सामाजिक मानदंड तैयार करता है और आख़िरकार,अभिव्यक्ति की आज़ादी पर एक क़रार प्रहार करता है।

इसके अलावा,एफ़आरटी का यह इस्तेमाल एक "असंवैधानिक शर्त या स्थिति" भी पैदा करता है। अहमदाबाद सेंट जेवियर्स कॉलेज बनाम गुजरात राज्य मामले में शीर्ष अदालत ने फ़ैसला सुनाया था कि "सरकारी विशेषाधिकार दिये जाने को लेकर लगायी गयी कोई भी ऐसी शर्त,जिसके लिए विशेषाधिकार प्राप्त लोगों को कुछ संवैधानिक अधिकार को छोड़ देने की ज़रूरत होती है,ऐसी शर्त या स्थिति एक असंवैधानिक शर्त या स्थिति होगी।"।

उत्तर प्रदेश में इस एफ़आरटी का इस्तेमाल "महिला सुरक्षा" की बुनियाद पर किया जा रहा है। राज्य की सुरक्षा का लाभ दिये जाने के लिए महिलाओं को अप्रत्यक्ष रूप से अपने निजता और अभिव्यक्ति की स्वतंत्रता के अधिकार को छोड़ देने के लिए मजबूर किया जा रहा है। केरल शिक्षा विधेयक में अदालत ने फैसला सुनाया था कि नागरिकों को मौलिक अधिकारों की ज़रूरत और इन अधिकारों के छोड़ दिये जाने के बीच एक आकर्षक विकल्प बनाने को लेकर मजबूर नहीं किया जा सकता है। इस तरह,निजता और अभिव्यक्ति की स्वतंत्रता के अधिकार की वेदी पर महिलाओं की सुरक्षा के लिए एफ़आरटी का यह इस्तेमाल "चुनने और छोड़ दिये जाने का भ्रम" ही पैदा करेगा।

ढांचागत विसंगति

क़ानून और तकनीक की इस कड़ी के बीच का संतुलन हासिल करने के लिहाज़ से यह एफ़आरटी एक और बाधा है।एफ़आरटी का मूल आधार,यानी इसका एल्गोरिथ्म,समाज में फ़ैली अहम सामाजिक ग़ैर-बराबरी और ऐतिहासिक अन्याय के चलते ढांचागत विसंगतियों से भरा हुआ है। भारत का जो स्वरूप है,उस लिहाज़ से इसके इस्तेमाल के तरीक़े से काफ़ी प्रभाव पड़ता है,क्योंकि यह स्वरूप परंपरागत रूप से ग़ैर-बराबरी वाला रहा है।

भारत में एफ़आरटी और डेटा सुरक्षा से सम्बन्धित किसी विधायी व्यवस्था के नहीं होने से यह स्थिति और गहरी हो जाती है,क्योंकि इससे तकनीक के इस्तेमाल को लेकर राज्य को खुली छूट मिल जाती है। राज्य व्यक्तिगत गोपनीयता में दखलंदाज़ी कर सकता है और इससे राज्य को लगातार निगाह रखे जाने वाले एक क़ैदखाने की जगह बनाने की छूट मिल सकती है।

जॉन पेरी बार्लो 1996 में लिखी किताब,डिक्लेरेशन ऑफ़ इंडिपेंडेंस ऑफ़ द साइबरस्पेस में तकनीक के साथ अपनी काल्पनिक बातचीत में लिखते हैं, “तुमने न तो हमारी सहमति ली और न हमसे कोई आग्रह ही किया। हमने तुम्हें आमंत्रित भी नहीं किया, और न ही तुम हमारी दुनिया को जानते हो।” इस तरह, तकनीकी प्रगति को नागरिक सहमति की चारदीवारियों के भीतर सीमित करना होगा और एफ़आरटी का यह इस्तेमाल इस तरह की सहमति का एक सीधा-सीधा तिरस्कार है।

यह लेख मूल रूप से द लिफ़लेट में प्रकाशित हुआ था।

(मुअज़्ज़म नासिर और आशीष कुमार रायपुर के हिदायतुल्ला नेशनल लॉ यूनिवर्सिटी के छात्र हैं। इनके विचार निजी हैं।)

अंग्रेज़ी में प्रकाशित मूल आलेख को पढ़ने के लिए नीचे दिये गये लिंक पर क्लिक करे

Is UP’s Use of Facial Recognition Technology Aimed at Discriminatory Treatment?

UP Government

BJP

CM Yogi Adityanath

FRT

Judiciary