Meta CEO ने AI में Alignment, Trust और Accountability को बताया जरूरी

Jensen Huang बोले- AI Safety इंजीनियरिंग का विषय

नई दिल्ली: आर्टिफिशियल इंटेलिजेंस यानी AI की तेजी से बढ़ती क्षमता के साथ उसकी सुरक्षा को लेकर बहस भी तेज हो गई है। AI इंडस्ट्री में एक तरफ ऐसे विशेषज्ञ और कंपनियां हैं जो ज्यादा सक्षम AI सिस्टम विकसित करने से पहले सुरक्षा उपायों को मजबूत करने की बात कर रहे हैं, जबकि दूसरी तरफ यह तर्क दिया जाता है कि AI विकास को धीमा करने के बजाय बेहतर इंजीनियरिंग और टेस्टिंग पर जोर दिया जाना चाहिए। इसी बहस के बीच Meta के CEO Mark Zuckerberg ने AI मॉडल की सुरक्षा को लेकर अपनी रणनीति साझा की है। उन्होंने बताया कि Meta ने अपने एक नए एडवांस्ड AI मॉडल Muse की लॉन्चिंग को अतिरिक्त सुरक्षा जांच के लिए कई महीनों तक रोके रखा था।

Zuckerberg ने बताई AI Safety की तीन अहम बातें
Zuckerberg के मुताबिक, AI के विकास में केवल मॉडल को ज्यादा शक्तिशाली बनाना पर्याप्त नहीं है। कंपनियों को यह भी सुनिश्चित करना होगा कि उनके सिस्टम सुरक्षित तरीके से काम करें और यूजर्स का भरोसा कायम रहे। उन्होंने AI से जुड़े तीन प्रमुख पहलुओं पर जोर दिया:

Alignment
AI मॉडल को इस तरह विकसित करना जरूरी है कि वह यूजर्स की मंशा और निर्देशों के अनुरूप काम करे। यानी सिस्टम का व्यवहार उसके इस्तेमाल करने वाले व्यक्ति की अपेक्षाओं के साथ बेहतर तरीके से जुड़ा हो।
Trust
AI सिस्टम पर यूजर्स का भरोसा बनाए रखना भी महत्वपूर्ण है। अगर लोगों को लगे कि AI उनकी अपेक्षा के मुताबिक काम नहीं करता या उसके इस्तेमाल में सुरक्षा संबंधी जोखिम हैं, तो वे ऐसे सिस्टम से दूरी बना सकते हैं।
Accountability
AI के कारण किसी तरह का नुकसान होने की स्थिति में जिम्मेदारी तय करने की व्यवस्था भी जरूरी है। Zuckerberg का तर्क है कि AI कंपनियों को अपने सिस्टम के संभावित जोखिमों को पहले से समझने और उन्हें कम करने की दिशा में काम करना चाहिए।

लॉन्च से पहले Muse की हुई अतिरिक्त सुरक्षा जांच
Zuckerberg के अनुसार, Meta ने Muse मॉडल को लॉन्च करने से पहले अतिरिक्त सुरक्षा टेस्टिंग और सिक्योरिटी रिव्यू किए। उनका कहना है कि AI लैब्स को अपने मॉडल को सुरक्षित तरीके से ट्रेन करने और उसकी क्षमताओं का मूल्यांकन करने की जिम्मेदारी लेनी चाहिए। उन्होंने यह भी कहा कि AI Safety का काम केवल एक कंपनी के लिए करना पर्याप्त नहीं होगा। अलग-अलग AI कंपनियों को बाहरी विशेषज्ञों और आलोचकों से भी अपने मॉडल की समीक्षा करानी चाहिए। Meta की Superintelligence Labs पहले से ही विभिन्न क्षेत्रों के स्वतंत्र विशेषज्ञों और आलोचकों के साथ मॉडल की समीक्षा पर काम कर रही है।

बाहरी विशेषज्ञों की समीक्षा से बढ़ेगा भरोसा
Zuckerberg का कहना है कि जब AI मॉडल की जांच केवल कंपनी के अंदर के लोगों के बजाय बाहरी विशेषज्ञ भी करते हैं, तो यूजर्स और सरकारों का भरोसा बढ़ सकता है। उनके मुताबिक, इससे पूरी AI इंडस्ट्री को फायदा हो सकता है। उनका मानना है कि जो कंपनियां Alignment और Trust पर ध्यान देंगी, उनके AI सिस्टम को यूजर्स के बीच स्वीकार्यता मिल सकती है। यह चर्चा ऐसे समय में हो रही है जब AI कंपनियां लगातार नए और अधिक सक्षम मॉडल लॉन्च कर रही हैं और उनके संभावित सामाजिक, आर्थिक तथा सुरक्षा प्रभावों को लेकर दुनिया भर में चर्चा जारी है।

Jensen Huang का AI Safety पर अलग नजरिया
AI Safety को लेकर NVIDIA CEO Jensen Huang ने भी अपनी राय रखी है। Salesforce के Dreamforce कॉन्फ्रेंस में Huang ने AI की तुलना इंटरनेट से करते हुए कहा कि जिस तरह इंटरनेट ने लोगों के लिए जानकारी तक पहुंच को बदल दिया था, उसी तरह AI लोगों को नई क्षमताएं दे रहा है। Huang के अनुसार, AI Safety मूल रूप से इंजीनियरिंग का विषय है, केवल कानूनी मुद्दा नहीं। उनका तर्क है कि AI सिस्टम इंसानों द्वारा बनाए जाते हैं और इंजीनियरिंग के जरिए इनके व्यवहार और सुरक्षा को नियंत्रित करने के तरीके विकसित किए जा सकते हैं। इसलिए उनके मुताबिक AI विकास को अनावश्यक रूप से धीमा करने के बजाय कंपनियों को उन उत्पादों को लॉन्च करना चाहिए जिनकी सुरक्षा को लेकर पर्याप्त भरोसा हो। Huang ने यह भी कहा कि बाजार और यूजर्स का व्यवहार कंपनियों को जवाबदेह बनाने में भूमिका निभा सकता है।

AI Industry के सामने बड़ा सवाल
Zuckerberg और Huang के बयानों से AI Safety को लेकर बहस के दो अलग-अलग पहलू सामने आते हैं। एक ओर अतिरिक्त टेस्टिंग, बाहरी समीक्षा, Alignment और Trust पर जोर है, वहीं दूसरी ओर AI विकास की गति को बनाए रखते हुए सुरक्षा को इंजीनियरिंग के जरिए हल करने की बात कही जा रही है। आने वाले समय में AI मॉडल जितने अधिक सक्षम होंगे, कंपनियों के सामने उनके इस्तेमाल से जुड़े जोखिमों की पहचान और सुरक्षा उपायों को मजबूत करने की चुनौती भी उतनी ही महत्वपूर्ण हो सकती है। फिलहाल AI इंडस्ट्री में यह सवाल लगातार चर्चा में है कि तेजी से बढ़ती AI क्षमताओं और मजबूत सुरक्षा मानकों के बीच संतुलन कैसे बनाया जाए।