3 साल में AI इंसानों से छीन सकता है कंट्रोल? ‘Godfather of AI’ Hinton की बड़ी चेतावनी
सुपरइंटेलिजेंट AI से क्यों डर रहे हैं वैज्ञानिक?
AI से खतरा या इंसानों के लिए नई ताकत?
नई दिल्ली: आर्टिफिशियल इंटेलिजेंस यानी AI को लेकर दुनिया में एक बार फिर गंभीर बहस छिड़ गई है। AI के क्षेत्र के दिग्गज और अक्सर “Godfather of AI” कहे जाने वाले नोबेल विजेता Geoffrey Hinton ने सुपरइंटेलिजेंट AI के संभावित खतरों को लेकर चेतावनी दी है। उनका कहना है कि अगर भविष्य में ऐसी AI विकसित हो गई जो इंसानों से हर क्षेत्र में ज्यादा बुद्धिमान हो, तो सबसे बड़ा सवाल यह होगा कि क्या इंसान उसे नियंत्रित कर पाएंगे या वह इंसानों को नियंत्रित करने लगेगी।
हालांकि सोशल मीडिया और कुछ रिपोर्टों में इसे “अगले तीन साल में AI इंसानों को मिटा देगा” के रूप में पेश किया जा रहा है। यहां यह स्पष्ट करना जरूरी है कि तीन साल के भीतर AI takeover का हाई-रिस्क आकलन AI सुरक्षा शोधकर्ता Paul Christiano से जुड़ा है, जबकि Hinton ने इससे जुड़े खतरे को गंभीर बताते हुए सुपरइंटेलिजेंस के संभावित आगमन और मानव नियंत्रण के सवाल पर चिंता जताई है।
सुपरइंटेलिजेंट AI से क्यों डर रहे हैं वैज्ञानिक?
Hinton का तर्क है कि मानव इतिहास में पहली बार ऐसी मशीनें विकसित की जा रही हैं, जो भविष्य में इंसानों से ज्यादा बुद्धिमान हो सकती हैं। उन्होंने कहा है कि मानवता ने पहले कभी अपने से अधिक बुद्धिमान entities नहीं बनाई हैं, इसलिए यह अनुमान लगाना बेहद मुश्किल है कि ऐसी स्थिति में क्या होगा। Hinton के मुताबिक, सबसे बड़ा सवाल यह नहीं है कि AI इंसानों से ज्यादा बुद्धिमान होगी या नहीं, बल्कि यह है कि उसके लक्ष्य क्या होंगे और क्या उसके लक्ष्य मानव हितों के साथ बने रहेंगे। उन्होंने यह भी चेताया है कि अगर कोई बेहद सक्षम AI सिस्टम मानव नियंत्रण से बाहर हो गया तो नुकसान के लिए उसे सीधे रोबोट या हथियार चलाने की भी जरूरत नहीं होगी। इसका इस्तेमाल बड़े पैमाने पर साइबर हमलों, गलत सूचना, लोगों के व्यवहार को प्रभावित करने या खतरनाक जैविक और कंप्यूटर वायरस विकसित करने जैसे कामों में हो सकता है।
तीन साल वाली चेतावनी कहां से आई?
AI takeover को लेकर तीन साल की समयसीमा Paul Christiano के हालिया आकलन से जुड़ी है। 2026 में दिए गए अपने व्याख्यान में Christiano ने कहा कि अगले तीन वर्षों में AI takeover का जोखिम काफी गंभीर हो सकता है। उन्होंने “AI takeover” का अर्थ ऐसी स्थिति से बताया जिसमें AI सिस्टम पृथ्वी पर महत्वपूर्ण फैसलों में इंसानों की जगह प्रभावी रूप से नियंत्रण करने लगें। यह एक जोखिम का आकलन है, निश्चित भविष्यवाणी नहीं। खुद Hinton भी कह चुके हैं कि सुपरइंटेलिजेंट AI के कारण मानव विलुप्ति की संभावना को वैज्ञानिक तरीके से सटीक प्रतिशत में बताने का हमारे पास पर्याप्त आधार नहीं है। सितंबर 2026 में उन्होंने कहा था कि 10% का अनुमान भी केवल एक rough judgment है और कोई व्यक्ति इस संभावना का विश्वसनीय वैज्ञानिक आंकड़ा नहीं दे सकता।
Hinton ने सरकारों को भी चेताया
Hinton का मानना है कि सरकारें AI के विकास की रफ्तार के मुकाबले बहुत धीमी गति से प्रतिक्रिया दे रही हैं। सितंबर में उन्होंने अमेरिकी सांसदों को चेतावनी दी थी कि AI पर प्रभावी safeguards लागू करने के लिए शायद बहुत कम समय बचा है। उन्होंने AI विकास में सुरक्षा परीक्षण और मजबूत नियमन की जरूरत पर जोर दिया।
उनका कहना है कि अत्यधिक सक्षम AI के आने से पहले यह सुनिश्चित करना जरूरी है कि उसके लक्ष्य ऐसे न हों जो इंसानों के लिए नुकसानदेह बन जाएं। उनके अनुसार, समस्या यह नहीं है कि AI कितनी बुद्धिमान होगी, बल्कि यह सुनिश्चित करना जरूरी है कि वह अपनी क्षमता का इस्तेमाल मानवता के खिलाफ न करे।
क्या मौजूदा AI इंसानों को कंट्रोल कर रही है?
नहीं। मौजूदा AI सिस्टम को लेकर ऐसी स्थिति अभी मौजूद नहीं है कि वे स्वतंत्र रूप से पूरी मानव सभ्यता पर नियंत्रण कर रहे हों। वर्तमान बहस मुख्य रूप से भविष्य में विकसित हो सकने वाली अत्यधिक सक्षम या superintelligent AI के संभावित जोखिमों को लेकर है। विशेषज्ञों के अनुसार, ऐसे सिस्टम को वास्तविक खतरा बनने के लिए लंबे समय तक स्वायत्त योजना बनाना, निगरानी से बचना, वास्तविक दुनिया के महत्वपूर्ण सिस्टम तक पहुंच हासिल करना और shutdown प्रयासों का विरोध करने जैसी क्षमताएं हासिल करनी होंगी। इसीलिए Hinton और दूसरे AI safety researchers का जोर AI development रोकने से ज्यादा सुरक्षित AI बनाने, testing बढ़ाने और मानव नियंत्रण बनाए रखने पर है।
AI से खतरा या इंसानों के लिए नई ताकत?
AI को लेकर तस्वीर सिर्फ डरावनी नहीं है। Hinton खुद मानते हैं कि AI स्वास्थ्य, शिक्षा और विज्ञान में बेहद बड़े फायदे ला सकती है। लेकिन उनका तर्क है कि जितनी तेजी से AI शक्तिशाली हो रही है, उतनी ही तेजी से उसके सुरक्षा उपाय विकसित करना भी जरूरी है।
अब दुनिया के सामने असली चुनौती यही है—AI को कितना शक्तिशाली बनाया जाए और उसकी शक्ति पर मानव नियंत्रण कैसे सुनिश्चित किया जाए। अगर superintelligent AI वास्तव में इंसानों से कई गुना सक्षम हो जाती है, तो उसके बाद नियंत्रण के नियम बनाना मुश्किल हो सकता है। इसलिए वैज्ञानिकों का एक वर्ग चेतावनी दे रहा है कि सुरक्षा पर काम AI की क्षमताओं के साथ-साथ, बल्कि उससे पहले, तेज किया जाना चाहिए।
