अब तक मैं दुनिया के कई ‘अंत’ देख चुका हूं. मिलेनियम बग आधी रात को आसमान से विमानों को गिराने वाला था. इंटरनेट को अखबारों का काम तमाम कर देना था. वह अब भी कोशिश कर रहा है. हर बार मशीनें अपनी बगावत की भविष्यवाणी करने वाले लोगों से कम डरावनी निकलीं. सो, इस हफ्ते की कवर स्टोरी को मैंने कुछ संदेह के साथ पढ़ा. अब मेरा संदेह कम हो गया है.
जुलाई में ओपनएआइ की प्रयोगशाला में परखे जा रहे एआइ एजेंटों का एक झुंड अपने सैंडबॉक्स से बाहर निकला और ओपन-सोर्स डेवलपरों के केंद्र हगिंग फेस पर हमला कर दिया. किसी ने उन्हें ऐसा करने को नहीं कहा था.
उन्होंने अपने दम पर दिखाया कि एआइ एजेंट दिए गए काम से आगे जा सकते हैं, अपने लिए लक्ष्य तय कर सकते हैं और खुद को ऐसे सुधार सकते हैं जो उनके निर्माताओं की समझ से बाहर हो. उन्होंने आपसी बातचीत के लिए एक ‘गुप्त भाषा’ भी विकसित कर ली. विज्ञान कथाएं अक्सर चेताती रही हैं कि कंप्यूटर आखिरकार इंसानी समझ और नियंत्रण से बाहर हो सकते हैं. अब इसका साफ सबूत सामने था.
मुझे घटना से ज्यादा उसकी प्रतिक्रिया बेचैन करती है. करीब एक हफ्ते बाद नोबेल विजेता जेफ्री हिंटन—जिन्हें अक्सर ‘‘एआइ का गॉडफादर’ कहा जाता है और जिन्होंने टेक्नोलॉजी के खतरों से आगाह करने के लिए गूगल की नौकरी छोड़ दी थी—ने हगिंग फेस की घटना को “छोटा चेरनोबिल” बताया, जो मानवता के लिए खतरे का संकेत था.
सितंबर में एंथ्रोपिक के शोधकर्ता जैकब कॉक्सन ने नौकरी छोड़कर वायरल पोस्ट में लिखा कि “एआइ बनाने वाले सचमुच मानते हैं कि यह दशक के अंत तक हम सबको मार सकता है.” उन्होंने “इंसानों से ज्यादा ताकतवर सिस्टम्स” की चेतावनी दी.
हैरानी की बात है कि उद्योग के दिग्गजों ने इसे नकारने के बजाए हामी भरी. एंथ्रोपिक के संस्थापक-सीईओ डारियो अमोदेई ने कहा कि उन्हें डर है, “6-12 महीने में ऐसा झुंड पूरे इंटरनेट पर कब्जा कर सकता है.” ओपनएआइ के संस्थापक-सीईओ सैम ऑल्टमैन ने दो “भयावह” हालात की चेतावनी दीः एआइ का गलत हाथों में जाना या खुद बेकाबू हो जाना.
एक और नोबेल विजेता तथा गूगल डीपमाइंड के चेयरमैन डेमिस हसाबिस ने “एटमी और जैविक जोखिमों” की ओर इशारा किया. यहां तक कि एआइ को नया नाम ‘सुपर इंटेलिजेंस’ देने वाले अमेरिकी राष्ट्रपति डोनाल्ड ट्रंप भी हरकत में आए.
निजी और सरकारी अहम क्षेत्रों में एआइ को तेजी से मगर असमान ढंग से अपनाने के कारण भारत भी बाकी दुनिया के साथ सीधे गहरे पानी में उतर गया है. यूपीआइ से रेल और विमानन सुरक्षा तक, शासन से रक्षा प्रणालियों, बैंकिंग, बिजली, दूरसंचार, बंदरगाहों, अस्पतालों और वैश्विक आइटी सेवा सप्लाइ चेन तक भारत हमले के लिए बहुत बड़ा ‘अटैक सर्फेस’ है.
साइबर सुरक्षा को लेकर हमारा लापरवाह रवैया भी मददगार नहीं. वाइ2के के समय हमारी टेक्नोलॉजी और सेवा कंपनियों ने आपात मोर्चा संभाला था, लेकिन एआइ की कहानी में भारत को काफी हद तक हाशिए की ताकत माना जाता है—ऐसी टेक्नोलॉजी का यूजर जिसका बुनियादी कोड कहीं और लिखा जाता है.
किसी बेकाबू झुंड से ज्यादा चिंता इस बात की होनी चाहिए. लेकिन डरी हुई दुनिया को सुरक्षा चाहिए और वैश्विक कंपनियों को तो फौरन. इस कारोबार को भारत अच्छी तरह जानता है. इस हफ्ते का हमारा आवरण पैकेज बताता है कि यह खतरा बड़ा मौका कैसे बन सकता है.
हमने घटनाक्रम के करीब बैठे सात विशेषज्ञों से इसकी गुत्थी समझाने को कहा. नैसकॉम के अध्यक्ष राजेश नाम्बियार अपने लेख में लिखते हैं, “मेरा मानना है कि यह भारत के लिए मौका है.” भारत का 4.46 अरब डॉलर का साइबर सुरक्षा सेवा क्षेत्र वैश्विक कंपनियों की अंदरूनी एआइ प्रणालियों की निगरानी और सुरक्षा के लिए तैयार है.
पूर्व केंद्रीय मंत्री, निवेशक और वरिष्ठ शिक्षाविद् जयंत सिन्हा कहते हैं, “भारत को वैश्विक एआइ सुरक्षा संस्था की अगुआई करनी चाहिए.” वे स्वदेशी एआइ की रीढ़ के तौर पर “गीगावॉट पैमाने की कंप्यूटिंग क्षमता” बनाने की मांग करते हैं. स्वदेशी एआइ की भारत की कोशिश सर्वम एआइ के सह-संस्थापक प्रत्यूष कुमार इसमें जरूरी इंसानी पहलू जोड़ते हैं.
मामला केवल “मॉडल को प्रशिक्षित, तैनात और बेहतर करने की क्षमता” का नहीं, बल्कि “लोगों को तैयार करने” का है. उनके मुताबिक, विशेषज्ञता ही बौद्धिक संपदा पैदा करेगी. आइबीएम इंडिया के गौरव अग्रवाल ‘ऑर्केस्ट्रेशन आधारित एआइ गवर्नेंस’ की पैरवी करते हैं—ऐसा समग्र ढांचा जो कंपनी के एआइ कामकाज के हर स्तर पर सुरक्षा उपाय जोड़े. गूगल डीपमाइंड के मनीष गुप्त इसे “मशीन की रफ्तार से रक्षा” कहते हैं और इसे ढांचे में शुरू से शामिल “प्रमुख वैज्ञानिक विषय” की तरह अपनाने की सलाह देते हैं.
सबसे तीखा विरोध इन्फोसिस के पूर्व सीईओ और अब एआइ सेवा कंपनी हैंग टेन सिस्टम्स के संस्थापक-सीईओ तथा स्टैनफोर्ड के सलाहकार विशाल सिक्का का है. नकारात्मक उन्माद को शांत करते हुए वे कहते हैं, “कयामत और बिक्री की बातें एक ही लोग कर रहे हैं...एआइ को ईश्वर जैसी ताकत बताने से डर और मूल्यांकन—दोनों बढ़ते हैं.”
इसके बजाए वे एआइ की अपार रचनात्मक क्षमता पर ध्यान देना पसंद करते हैं. फ्रैक्टल एनालिटिक्स के संस्थापक श्रीधर वेलमकण्णी भी “आदर्श दुनिया से कयामत” के बीच झूलने और फिर जरूरत से ज्यादा नियम बनाकर “बहुत बड़ी भूल” करने से आगाह करते हैं.
भारत के सामने फिलहाल रोबोट की बगावत का खतरा नहीं है. उसके जोखिम ज्यादा मामूली हैंः खराब सुरक्षा वाला सर्वर, ऐसा पासवर्ड जिसे किसी ने बदला नहीं, ऐसा वेंडर जिसकी जांच नहीं हुई. कोई झुंड उसी दरवाजे से घुसता है जिसे किसी ने खुला छोड़ दिया हो.
हम अपने दरवाजों पर ताले लगा सकते हैं या दुनिया को ताले बेच सकते हैं. मैं चाहूंगा कि हम दोनों करें. एआइ की सारी अच्छाई और बुराई की जड़ इंसानी अक्ल में है. जैसा कि भीतर के एक लेख में कहा गया है, ‘संगीत पियानो में नहीं होता.’
