आप एआइ की निगरानी में हैं!

- प्रशांत के. रॉय

यह 2017 में स्वतंत्रता दिवस के बाद के किसी हफ्ते की बात है. मेरे एक स्टार्टअप संस्थापक मित्र के दिमाग में शानदार विचार कौंधा: क्यों न किसी तरह की क्रेडिट हिस्ट्री न रखने वालों को माइक्रो ऋण मुहैया कराए जाएं और उनके मोबाइल रिचार्ज जैसा असंबद्ध डेटा इस्तेमाल किया जाए.

बीयर पीते-पीते उनकी टीम ने सोचा कि बैंक स्टेटमेंट के साथ क्या-क्या किया जा सकता है. मैंने पूछा, क्या निजता का मुद्दा आड़े नहीं आएगा? उन्होंने कहा, ''अरे नहीं, इसमें तो यूजर्स का ही फायदा है. इसलिए वे खुशी-खुशी बिल और स्टेटमेंट साझा कर देंगे. वैसे भी भारत में गोपनीयता को लेकर कोई कानून नहीं है.”

दो दिन बाद ही सुप्रीम कोर्ट ने फैसला सुनाया कि निजता संविधान के अनुच्छेद 21 के तहत एक मौलिक अधिकार है. यह ऐतिहासिक फैसला हमारे जीवन में बदलाव लाने वाला था मगर बेहद धीमी गति के साथ. डिजिटल व्यक्तिगत डेटा संरक्षण (डीपीडीपी) कानून अंतत: छह साल बाद बना. फिर दो साल और अटका रहा, जब तक इसके नियम और नियामक 2025 में अधिसूचित नहीं किए गए.

अभी संगठनों के पास इस पर पूरी तरह अमल के लिए 2027 तक समय है. फिर भी, यह यूरोप की तरह पूर्ण गोपनीयता कानून नहीं है, और डेटा से संबंधित प्रावधान एआइ के लिहाज से अपर्याप्त हैं. इसमें एल्गोरिद्म जवाबदेही, स्वचालित निर्णयों के मामले में स्पष्टीकरण का अधिकार और एआइ-आधारित पूर्वाग्रहों पर जवाबदेही (जिन्हें यूरोपीय कानून में जगह मिली है) जैसे प्रावधानों का अभाव है. फिर, सरकार और कानून प्रवर्तन एजेंसियां व्यापक स्तर पर इसके दायरे से बाहर हैं. वह वैसे एक अलग मुद्दा है.

खैर, हम यहां बात कर रहे हैं पूरी तरह डेटा पर आधारित एआइ की, जो एक भूखे राक्षस की तरह हमारा डेटा खाकर अपना आकार बढ़ा रहा है. डीपीडीपी कानून मुख्यत: उपयोगकर्ता की सहमति पर निर्भर करता है मगर आप वास्तव में किस बात की सहमति देंगे? आप इसका अंदाजा ही नहीं लगा सकते कि एआइ आपके डेटा का अंतत: क्या इस्तेमाल करेगा. ऐसे में, एआइ की जटिलता को देखते हुए आपकी सहमति की कोई कीमत नहीं रह जाती.

अब पुरानी बात पर लौटते हैं: यूजर की ओर से अपलोड किए बिना भी बैंक स्टेटमेंट का क्या-क्या इस्तेमाल हो सकता है? विभिन्न वित्तीय संस्थाओं के बीच डेटा साझा करने वाले अकाउंट एग्रीगेटर आपके बैंक स्टेटमेंट को स्कैन करके आपके लेन-देन संबंधी व्यवहार का पता लगाते हैं. ऐसी ही एक कंपनी के सीईओ ने रिपोर्टर को उदाहरण देकर समझाया: ''अगर किसी यूजर ने बार-बार 16 रुपए का यूपीआइ भुगतान कर सिगरेट खरीदी तो यह जानकारी हम बीमा कंपनियों को दे सकते हैं.’’ सहमति का क्या? जाहिर है, यूजर बीमा पाने के लिए अपने बैंक स्टेटमेंट तक पहुंच की अनुमति देता है मगर उसे अंदाजा नहीं होता कि यह छोटी-सी जानकारी उसके बीमा प्रीमियम को कैसे बढ़ा सकती है.

वहीं, एआइ ने हर क्षेत्र को बदल दिया है. अब तक अकाउंटेंट, वकील, कलाकार और लेखक आदि खुद को सुरक्षित मानते थे मगर एआइ उनकी भी जगह ले रहा है. यह हमारे जीवन और कामकाज को पूरी तरह बदल रहा है और विशेषज्ञता हर किसी की पहुंच में आ रही है. मगर इसका एक स्याह पहलू भी है और इसकी कीमत हम सब चुका रहे हैं.

हम डेटा जुटाने से आगे बढ़कर अब एक ऐसे आर्थिक मॉडल में पहुंच गए हैं जहां एआइ का इस्तेमाल हमारी सोच और व्यवहार का पता लगाने के लिए किया जा रहा तथा फिर उसे बेचकर लाभ उठाया जा रहा है. इसे सर्विलांस कैपिटलिज्म (निगरानी पूंजीवाद) की संज्ञा दी गई है. यह शब्द शोशना जुबोफ ने अपनी मशहूर किताब में गढ़ा था, जिसमें उन्होंने बताया है कि कैसे बड़ी टेक कंपनियों ने हमारी ऑनलाइन गतिविधियों की निगरानी करके हासिल किए हमारे निजी डेटा को अपने मुनाफे का साधन बनाकर पूंजीवादी व्यवस्था को बदल दिया है.

इस डरावनी तस्वीर के बीच निगरानी लाभांश शब्द थोड़ा उदार और वैध लगता है. इसका अर्थ है कि सुरक्षा या व्यवहार पर नजर रखने के लिए जुटाए गए डेटा का इस्तेमाल सामाजिक-आर्थिक, पर्यावरणीय या अन्य लाभों के लिए किया जा सकता है. मसलन, उबर के डेटा का उपयोग सार्वजनिक परिवहन को बेहतर बनाने या गूगल मैप्स के डेटा का उपयोग दुर्घटनाएं घटाने के लिए किया जा सकता है.

मगर यह संभावना कहीं ज्यादा है कि इस डेटा का बड़े पैमाने पर निजी हितों के लिए दुरुपयोग किया जाएगा. जब यह डेटा सामान्य प्रणाली में दाखिल होता है तो सर्विलांस प्राइसिंग जैसी चीजें सामने आती हैं. राइड बुक करने वाले ऐप आपके पास महंगा फोन या उसकी बैटरी कम चार्ज होने पर उस समय राइड के लिए अधिक शुल्क वसूल सकते हैं, जब आपको उसकी सक्चत जरूरत होती है.

कैलिफोर्निया में 2025 में पेश एक 'सर्विलांस प्राइसिंग’ बिल में कहा गया कि व्यवसाय अब सिर्फ विज्ञापनों के लिए डेटा ट्रैक नहीं करते बल्कि एआइ का इस्तेमाल करके उन्होंने हर उपभोक्ता को अपनी सूक्ष्म-अर्थव्यवस्था का हिस्सा बना लिया है. आपकी ब्राउजिंग हिस्ट्री और जगह की जानकारी का इस्तेमाल करके वे यह पता लगाते हैं कि आप कहां खर्च कर सकते हैं. इसके आधार पर कंपनियां ऐसा बाजार बना रही हैं जहां किसी उत्पाद की कीमत आपकी डिजिटल प्रोफाइल के आधार पर बदल जाती है. उस बिल में कहा गया, ''व्यवसाय मूल्य निर्धारण के लिए बड़े पैमाने पर निजी डेटा का इस्तेमाल कर रहे हैं.’’

भारत में भारतीय प्रतिस्पर्धा आयोग (सीसीआइ) ने 2025 के एक अध्ययन में एल्गोरिद्म आधारित निष्कर्षों पर गौर किया तो पाया कि कैसे विभिन्न प्लेटफॉर्म के एआइ-आधारित प्राइसिंग सिस्टम एक-दूसरे पर नजर रखते हैं. बिना किसी मानवीय हस्तक्षेप या लिखित समझौते के ही इनकी आपसी 'साठगांठ’ चलती रहती है. वे पारदर्शिता दर्शाने के लिए भले ही उपयोगकर्ताओं को प्रतिस्पर्धी कीमतें दिखाते हों मगर उनके एल्गोरिद्म सक्रिय तौर पर कीमतों को एक-दूसरे के अनुरूप बदलते रहते हैं. सीसीआइ की योजना इसे एल्गोरिद्मिक सेल्फ-ऑडिट और पारदर्शिता नियमों के जरिए नियंत्रित करने की है.

उपयोगकर्ता को नुक्सान
हर जगह एआइ-आधारित निगरानी का एक बड़ा खतरा यह है कि कई चीजें एक साथ मिल जाने पर यूजर को बड़ा नुक्सान पहुंच सकता है. ऑनलाइन दुनिया की एक बानगी देखिए: आप परिवार के लिए हवाई टिकट बुक करते वक्त आपसे पूछा जाता है, ''क्या 499 रुपए में बीमा जोड़ना है?’’ आपके विकल्प होते हैं: ''हां, मैं अपने परिवार को सुरक्षित रखना चाहता हूं’’ या ''नहीं, मैं उनकी जान जोखिम में डालना चाहता हूं.’’ तो आप क्या करेंगे? या फिर: ''5 मिनट में कैब पाएं या 50 रुपए पाएं!’’ आप बुक करते हैं, कैब 20 मिनट में आती है, और बाद में आपको पता चलता है कि वे 50 रुपए 'वर्चुअल कॉइन्स’ थे जिन्हें सिर्फ एक हफ्ते के भीतर इस्तेमाल किया जा सकता है.

इसे डार्क पैटर्न कहा जाता है: यह ऐसा इंटरफेस होता है जिसमें आपको डराकर, शर्मिंदा करके या अनावश्यक जल्दबाजी दिखाकर चीजें खरीदने को बाध्य कर दिया जाता है. और इसे विशेष तौर पर आपके लिए ही तैयार किया जाता है.
अब इसमें निगरानी लाभांश को जोड़ दें—एआइ हजारों यूजर की प्रतिक्रियाओं को जुटाता है और प्लेटफॉर्म मालिकों को बताता है कि कौन-से शब्द या विकल्प लोगों को बीमा खरीदने को सबसे ज्यादा मजबूर करते हैं. सोचिए, बस कुछ शब्द बदलकर तुरंत करोड़ों की कमाई बढ़ जाती है!

साल, 2023 में उपभोक्ता मंत्रालय ने 13 प्रकार के डार्क पैटर्न को प्रतिबंधित किया था और 2025 में प्लेटफॉर्मों को सेल्फ-ऑडिट का निर्देश दिया. लगभग 26 प्रमुख ई-कॉमर्स कंपनियों ने घोषणा की कि वे डार्क पैटर्न मुक्त हैं. कुछ घोषणाओं पर सवाल उठाए गए, जिसके कारण नियामक ने उनकी जांच शुरू की. कुछ बड़े प्लेटफॉर्म अभी तक अनुपालन में असमर्थ हैं, क्योंकि उनका कहना है कि लाखों विक्रेताओं पर इस तरह का अनुपालन लागू करना मुश्किल है.

वैसे, सर्विलांस का सबसे खतरनाक पहलू सरकारी 'जन सुरक्षा’ प्रयासों से उभर सकता है. एआइ सर्विलांस से जन सुरक्षा और खतरों को पहचानना आसान हो जाता है मगर इसके साथ ही कानून प्रवर्तन एजेंसियों की गैर-पारदर्शी कार्यप्रणाली पर निर्भरता काफी बढ़ जाती है. एआइ का निर्णय लेना एक ब्लैक बॉक्स की तरह है, जहां अगर किसी व्यक्ति पर 'खतरा’ होने का ठप्पा लगा दिया गया (जैसे चेहरा पहचानने की तकनीक में किसी गलती की वजह से) तो पीड़ित के लिए यह साबित करना आसान नहीं होगा कि तकनीकी तौर पर कोई गलती हुई है. यहीं से उसके संवैधानिक अधिकारों का हनन शुरू होता है.

वीडियो सर्विलांस सबसे बड़ा खतरा बनकर उभरी है. एआइ-संचालित वीडियो मॉनिटरिंग अब तत्काल असामान्य व्यवहार का पता लगाने का ब्योरा दर्ज करने तक सीमित नहीं रह गई है. नतीजतन, निर्दोष लोगों को भी अपराधी चिन्हित कर दिया जा रहा है या जैसा, चीन में देखा गया कि लोग डर के मारे खुद ही सेंसरशिप लगा रहे हैं, जिससे जन विरोध के सभी रास्ते बंद होने लगे हैं.

अगले कुछ वर्ष ये तय करने के लिहाज से बेहद अहम होंगे कि भारत में एआइ का भविष्य जवाबदेही पर आधारित होगा या निगरानी लाभांश पर. भारत ने यूरोप के सख्त नियमों से दूर रहने का फैसला किया है, वहीं अमेरिका ने नरम रुख अपनाया है. प्रतिस्पर्धा, उपभोक्ता संरक्षण, डेटा सुरक्षा से जुड़े भारत के मौजूदा और आकार ले रहे कानूनों के साथ बैंकिंग, शेयर बाजार और अन्य क्षेत्रों से संबद्ध नियामकों को खुद को एआइ के दुरुपयोग से होने वाले नुक्सानों से निबटने के लिए तैयार करना होगा. हमारे नीति-निर्माताओं को भी इस दिशा में तत्काल जरूरी कदम उठाने की जरूरत है.

भारत को एआइ का असल लाभ उठाने और हर तबके तक डिजिटल पहुंच के वादे को पूरा करने के लिए जोखिम-आधारित एआइ ढांचे के साथ-साथ पारदर्शिता को भी कानूनी जामा पहनाना होगा और सरकारी स्तर पर छूट की न्यायिक और विधायी निगरानी पक्की करनी होगी. अन्यथा, निगरानी लाभांश का नतीजा मौलिक अधिकारों के हनन के तौर पर सामने आएगा.

(प्रशांत के. रॉय प्रौद्योगिकी लेखक और वैश्विक कंपनियों के सार्वजनिक नीति सलाहकार हैं)

खास बातें
बड़े पैमाने पर यूजर की सहमति पर आधारित भारत का डेटा सुरक्षा कानून एआइ की अपारदर्शी कार्यप्रणाली से निबटने में सक्षम नहीं.

एआइ की मदद से निजी कंपनियां यूजर के बर्ताव का अनुमान लगाने के लिए उनका निजी डेटा निकालती हैं और उसका व्यावसायिक दोहन करती हैं.

भारत को एआइ के जोखिम-आधारित नियम बनाते हुए पारदर्शिता लागू करनी चाहिए और सरकार को मिलने वाली रियायतों पर भी निगरानी रखनी चाहिए.