एआइ युग में सुरक्षा उपायों की फिक्र

मनीष गुप्त

हम गूगल डीपमाइंड में सुरक्षा को बाद में जोड़ी जाने वाली चीज नहीं, बल्कि बुनियादी ढांचे में शुरू से शामिल एक प्रमुख वैज्ञानिक पहलू मानते हैं. हमारा ‘फ्रंटियर सेफ्टी फ्रेमवर्क’ गंभीर खतरों से निबटने की तैयारी और उनकी निगरानी के लिए तय नियमों का खाका है.

इसी के सुझाए मुताबिक, हमारे मॉडल को विकसित करने की पूरी प्रक्रिया के दौरान उनकी कड़ी जांच होती है. इसमें आंतरिक रेड-टीमिंग के जरिए प्रॉम्प्ट इंजेक्शन जैसी कमजोरियों को सिलसिलेवार ढंग से खोजना और तीसरे पक्ष के विशेषज्ञों से बाहरी जांच कराना शामिल है.

हम यूजर की निजता का ख्याल रखने वाली प्रणालियां भी बनाते हैं. मसलन, मेडजेम्मा ऐसा ढांचा देता है जिसमें निजता को प्राथमिकता देते हुए संवेदनशील स्वास्थ्य डेटा को अस्पताल या संगठन के सुरक्षित तंत्र से बाहर भेजे बिना वहीं प्रोसेस किया जा सकता है.

जिम्मेदार डिजाइन का काम किसी उत्पाद को लॉन्च के बाद भी जारी रहता है. हम यूजर की प्रतिक्रिया लेने के अलावा पक्षपात की जांच के सक्रिय तरीके अपनाते हैं, ताकि मॉडल लगातार अपनी सटीकता सुधारें. हम मॉडल के आउटपुट में क्रिप्टोग्राफिक पहचान भी सीधे जोड़ते हैं. सिंथआइडी के जरिए एआइ से बने मीडिया में ऐसे वॉटरमार्क होते हैं जो दिखाई-सुनाई नहीं देते.

स्वायत्त एआइ डेवलपरों को बेहद तेज रफ्तार देता है, लेकिन इसके लिए मशीन की रफ्तार से काम करने वाली सुरक्षा भी चाहिए. हम अपनी भूमिका ऐसे साझा तकनीकी इन्फ्रास्ट्रक्चर के सह-निर्माता के रूप में देखते हैं, जो पूरे ईको-सिस्टम में सुरक्षा करने वालों को जरूरी साधनों से लैस करे.

हमने अपना खास साइबर सुरक्षा एजेंट सेक-जेमिनी वी3 भारत सरकार और कंपनियों के भरोसेमंद परीक्षकों को उपलब्ध कराया. यह वास्तविक समय में घटनाओं से निबटने, डिजिटल फॉरेंसिक जांच और मालवेयर विश्लेषण को अपने-आप करता है. हमारा कोडमेंडर एजेंट विकास के शुरुआती चरण में ही कोड की सुरक्षा मजबूत करता है.

तेजी से स्वायत्त होती प्रणालियों को सुरक्षित रखने के लिए हम अपने एआइ कंट्रोल रोडमैप पर चलते हैं. इस ढांचे में गैर-भरोसेमंद एआइ एजेंटों को ‘अंदरूनी खतरा’ मानते हुए उन्हें सुरक्षित दायरे से बाहर निकलने और दूसरे सिस्टम तक पहुंचने से रोका जाता है.

सुरक्षा की कई परतों वाले इस तरीके के तहत हमने कैपसेम (एजेंटों के लिए क्षमता सुरक्षा) को ओपन-सोर्स किया है, ताकि स्वायत्त एजेंटों को वर्चुअल मशीनों के भीतर अलग रखा जा सके. इसके साथ ही हम डिवाइस-बाउंड सेशन क्रेडेंशियल्स जैसे खुले मानकों पर भी काम कर रहे हैं ताकि चुराई गई सेशन कुकी किसी काम की न रहे.

संचालन की जिम्मेदारियां साफ तौर पर तय न हों तो केवल तकनीकी सुरक्षा कवच काफी नहीं. एआइ की सीमाएं तय करने का एकतरफा अधिकार किसी एक प्रयोगशाला या कंपनी के पास नहीं होना चाहिए.

गूगल डीपमाइंड के चेयरमैन और सह-संस्थापक सर डेमिस हसाबिस ने हाल ही उद्योग जगत के लिए साझा मानक संस्था बनाने का प्रस्ताव रखा है, जो उन्नत एआइ मॉडल के स्पष्ट मानक और सुरक्षा सीमाएं तय करे. इसमें सार्वजनिक सुरक्षा के गंभीर खतरों से निबटने और साझा बेहतरीन तौर-तरीके तैयार करने के लिए 2023 में फ्रंटियर मॉडल फोरम की सह-स्थापना भी शामिल है.

एआइ की पूरी वैल्यू चेन में गवर्नेंस की जिम्मेदारी उचित अनुपात में बांटी जाए. डेवलपर बुनियादी जिम्मेदारी—मूल सुरक्षा, कड़ी जांच और पारदर्शी डॉक्युमेंटेशन—संभालें. वहीं, इसे इस्तेमाल करने वाले संस्थान और विभिन्न क्षेत्रों के नियामक ऊपरी सुरक्षा सीमा तय करें.

यानी आपात चिकित्सा में मरीजों की प्राथमिकता तय करना, कृषि कर्ज और बैंकिंग सावधानी जैसे क्षेत्रों के लिए खास सुरक्षा उपाय, जिन्हें कोई मॉडल डेवलपर अपने स्तर पर तय नहीं कर सकता. इससे अहम कामकाज पर इंसानों का नियंत्रण बना रहेगा.

इसी तरह, एआइ मॉडल का विकास केवल प्रयोगशाला की परिस्थितियों तक सीमित नहीं रह सकता. टेक्नोलॉजी को सचमुच उपयोगी और भरोसेमंद बनाने के लिए मॉडल को स्थानीय सचाइयों, क्षेत्रीय संदर्भ और समाज का सही प्रतिनिधित्व करने वाले डेटा के आधार पर तैयार करना होगा.

भारत में हम हिंदी भाषा के लिए एआइल्युमिनेट सेफ्टी बेंचमार्क तैयार करने के वास्ते आइआइटी मद्रास के सेंटर फॉर रिस्पॉन्सिबल एआइ (सीईआरएआइ) और एमएलकॉमन्स के साथ काम कर रहे हैं. अपनी एम्प्लिफाइ पहल के तहत हम विभिन्न क्षेत्रों के विविध डेटासेट तैयार करने के लिए एआइ सेफ्टी कॉमन्स में योगदान दे रहे हैं. साथ ही भारतीय उद्योग में सिक्योर एआइ फ्रेमवर्क को अपनाने के लिए सीईआरएआइ से साझेदारी कर रहे हैं.

सबसे अहम बात यह कि पूरे तंत्र को साथ लेकर चलने का यह तरीका लोगों की जिंदगी पर ठोस असर डालता है. एम्स की क्लिनिकल टीमें त्वचा रोग, ओपीडी में मरीजों की प्राथमिकता तय करने और कुष्ठ रोग की जांच जैसी स्थानीय जरूरतों के लिए मेडजेम्मा को ढाल रही हैं.

आइआइएससी बेंगलूरू के साथ हमारी साझेदारी वाली प्रोजेक्ट वाणी पहल में 100 से ज्यादा भारतीय भाषाओं के 31,000 घंटे से ज्यादा के वॉइस डेटा को ओपन-सोर्स किया गया है. इससे एमवायर लैब्स जैसे स्थानीय इनोवेटर गारो जैसी कम प्रतिनिधित्व वाली भाषाओं के लिए सटीक वॉइस मॉडल तैयार कर रहे हैं.

कृषि क्षेत्र में हमारी एंथ्रो-कृषि टीम के कृषि एआइ मॉडल तेलंगाना सरकार के एडेक्स प्लेटफॉर्म जैसे साझेदारों को फसलों के लिए जरूरत के मुताबिक सलाह देने में मदद कर रहे हैं.

बुनियादी ढांचे में शुरू से सुरक्षा उपाय शामिल करके, वैश्विक मानकों के साथ तालमेल बैठाकर और स्थानीय क्षेत्रीय विशेषज्ञों के साथ मिलकर काम करने से हम यह पक्का करते हैं कि टेक्नोलॉजी आगे बढ़े, लेकिन उसकी कमान इंसान के हाथ में रहे. क्योंकि असली दौड़ समाज के लिए सही नतीजे हासिल करने की है—ऐसा एआइ बनाने की, जो सबके लिए पारदर्शी, मददगार और ताकत देने वाला बना रहे.

लेखक गूगल डीपमाइंड में सीनियर डायरेक्टर (रिसर्च) हैं