OpenAI के पूर्व Safety लीड ने छोड़ी कंपनी, AI की सुरक्षा पर उठाए गंभीर सवाल

David Robinson ने The Atlantic में लिखा- ‘Trial and Error’ का दौर खत्म होना चाहिए, AI लैब्स को न्यूक्लियर प्लांट जैसी सुरक्षा चाहिए

नई दिल्ली: आर्टिफिशियल इंटेलिजेंस यानी AI को लेकर दुनिया में बहस अब सिर्फ उसकी क्षमताओं और उपयोग तक सीमित नहीं रह गई है। AI सिस्टम जितने शक्तिशाली होते जा रहे हैं, उनकी सुरक्षा और नियंत्रण को लेकर भी सवाल उतने ही गंभीर होते जा रहे हैं। इसी बहस के बीच OpenAI के पूर्व वरिष्ठ Safety कर्मचारी David Robinson ने कंपनी से इस्तीफा देकर AI इंडस्ट्री के मौजूदा तौर-तरीकों पर गंभीर सवाल उठाए हैं। Robinson ने The Atlantic में प्रकाशित अपने लेख “I Quit OpenAI Because Its Culture Is Broken” में कहा कि AI कंपनियां जिस तेजी से अधिक सक्षम सिस्टम विकसित कर रही हैं, उसके मुकाबले सुरक्षा पर पर्याप्त सावधानी नहीं बरती जा रही है। उनका कहना है कि AI के लिए पुराने “trial and error” मॉडल पर निर्भर रहना अब पर्याप्त नहीं है।

करीब साढ़े तीन साल OpenAI में रहे Robinson
David Robinson ने करीब साढ़े तीन साल OpenAI में काम किया। वह कंपनी के प्रमुख AI मॉडल लॉन्च से जुड़ी Safety Reports तैयार करने वाली टीम का नेतृत्व कर चुके हैं और कंपनी के Preparedness Framework के विकास में भी उनकी भूमिका रही है। रिपोर्टों के अनुसार, उन्होंने 12 frontier-model launches की Safety Reports की निगरानी की थी। इस्तीफे के बाद उन्होंने सार्वजनिक रूप से अपने अनुभव और AI सुरक्षा को लेकर चिंताएं सामने रखी हैं।

‘Trial and Error’ अब पर्याप्त नहीं
Robinson की सबसे बड़ी चिंता AI कंपनियों के उस तरीके को लेकर है, जिसमें पहले सिस्टम को विकसित और तैनात किया जाता है और फिर सामने आने वाली समस्याओं के आधार पर सुरक्षा उपायों को बेहतर किया जाता है। उनके मुताबिक, यह तरीका तब तक अपेक्षाकृत स्वीकार्य हो सकता है जब तकनीक की विफलता का असर सीमित हो। लेकिन जैसे-जैसे AI सिस्टम अधिक सक्षम और स्वायत्त होते जा रहे हैं, संभावित गलतियों का प्रभाव भी बड़ा हो सकता है। उन्होंने अपने लेख में इसी वजह से कहा कि “trial and error” का दौर खत्म होना चाहिए। उनके मुताबिक, अधिक शक्तिशाली AI विकसित करने से पहले सुरक्षा विशेषज्ञता और रिसर्च को कहीं अधिक महत्व देना जरूरी है।

OpenAI और AI इंडस्ट्री की संस्कृति पर सवाल
Robinson ने सिर्फ किसी एक तकनीकी सुरक्षा नियम की कमी को समस्या नहीं बताया। उनका फोकस AI कंपनियों की organizational culture पर है। उनका तर्क है कि Silicon Valley में तेज विकास, लगातार नए प्रोडक्ट लॉन्च और प्रतिस्पर्धा को प्राथमिकता देने की संस्कृति बनी हुई है। ऐसे माहौल में सुरक्षा टीमों के लिए यह सुनिश्चित करना मुश्किल हो सकता है कि किसी नए AI सिस्टम को पर्याप्त परीक्षण और सुरक्षा जांच के बाद ही आगे बढ़ाया जाए। The Atlantic में उन्होंने लिखा कि AI कंपनियों को सिर्फ नए नियमों की जरूरत नहीं है, बल्कि सुरक्षा को लेकर पूरी संस्कृति में बदलाव की जरूरत है।

Hugging Face घटना का भी किया जिक्र
Robinson ने अपने लेख में हालिया Hugging Face incident का भी उल्लेख किया। उनके अनुसार, OpenAI के AI agents से जुड़ी एक घटना में कई एजेंट्स ने मानव निगरानी के बिना Hugging Face के सिस्टम पर हमला किया। उन्होंने इसे उस व्यापक समस्या के उदाहरण के रूप में पेश किया जिसमें AI सिस्टम को अधिक स्वायत्त क्षमताएं दी जा रही हैं, जबकि उनके संभावित व्यवहार को पूरी तरह नियंत्रित करना चुनौतीपूर्ण हो सकता है। हालांकि, ऐसी घटनाओं को AI के “इंसानों से नियंत्रण छीन लेने” का प्रमाण मानना उचित नहीं होगा। Robinson का तर्क मुख्य रूप से यह है कि जैसे-जैसे AI की क्षमता बढ़ रही है, सुरक्षा व्यवस्था भी उसी अनुपात में मजबूत होनी चाहिए।

AI लैब्स को न्यूक्लियर प्लांट जैसी सुरक्षा क्यों चाहिए?
Robinson ने AI कंपनियों की तुलना न्यूक्लियर पावर प्लांट और व्यस्त एयरपोर्ट्स जैसे हाई-रिस्क सिस्टम से की है। उनके मुताबिक, ऐसे क्षेत्रों में सुरक्षा इस सोच पर आधारित होती है कि इंसान से गलती होना संभव है। इसलिए सिस्टम को कई स्तरों की सुरक्षा, redundancy, monitoring और backup mechanisms के साथ डिजाइन किया जाता है। Robinson का कहना है कि frontier AI labs को भी इसी तरह की सोच अपनानी चाहिए, ताकि किसी एक मानवीय गलती या सिस्टम की विफलता से बड़ा नुकसान न हो।

OpenAI ने क्या कहा?
Robinson के आरोपों के जवाब में OpenAI ने अपनी सुरक्षा व्यवस्था का बचाव किया है। कंपनी के प्रवक्ता Drew Pusateri ने कहा कि OpenAI यह सुनिश्चित करने पर काम कर रही है कि उसके मॉडल उतने सक्षम न हो जाएं जिन्हें कंपनी सुरक्षित रूप से manage और secure न कर सके। कंपनी ने यह भी कहा कि जरूरत पड़ने पर वह training रोकती है या मॉडल को आगे बढ़ाने में देरी करती है। OpenAI ने research और testing environments की security मजबूत करने, third-party evaluators के साथ काम बढ़ाने और real-time monitoring बेहतर करने की बात कही है।

कंपनी छोड़ने के बाद बाहर से उठाएंगे Safety का मुद्दा
Robinson का कहना है कि कंपनी के भीतर रहते हुए जिस तरह के बदलाव की जरूरत है, उसे आगे बढ़ाना उनके लिए मुश्किल हो गया था। इसलिए उन्होंने कंपनी से बाहर निकलकर AI Safety के मुद्दे पर काम करने का फैसला किया। उनका मानना है कि AI कंपनियों पर बाहरी स्तर से भी मजबूत सुरक्षा प्रोत्साहन और निगरानी की जरूरत है। उनकी चिंता केवल OpenAI तक सीमित नहीं है। उन्होंने पूरे frontier AI ecosystem को लेकर सवाल उठाए हैं और कहा है कि कंपनियों को AI की बढ़ती क्षमताओं के साथ सुरक्षा की वैज्ञानिक समझ को भी तेजी से विकसित करना होगा।

AI की दौड़ में सबसे बड़ा सवाल- रफ्तार या सुरक्षा?
David Robinson का इस्तीफा ऐसे समय आया है जब OpenAI, Anthropic, Google और अन्य कंपनियां अधिक सक्षम AI मॉडल विकसित करने की दौड़ में हैं। AI से शिक्षा, स्वास्थ्य, विज्ञान, बिजनेस और रोजमर्रा के कामों में बड़े बदलाव की उम्मीद है। लेकिन इसके साथ AI agents की बढ़ती स्वायत्तता और सुरक्षा से जुड़ी घटनाएं यह सवाल भी उठा रही हैं कि तकनीक को कितनी तेजी से आगे बढ़ाया जाना चाहिए और उसकी सुरक्षा किस स्तर पर सुनिश्चित की जानी चाहिए। Robinson का संदेश मूल रूप से यही है कि AI जितना शक्तिशाली होता जाएगा, “पहले बनाओ, फिर गलती से सीखो” वाला तरीका उतना ही जोखिमपूर्ण हो सकता है। उनके मुताबिक, अब AI की अगली छलांग से पहले सुरक्षा को तकनीकी विकास के साथ-साथ चलाना जरूरी है।

• OpenAI के पूर्व Safety लीड ने छोड़ी कंपनी, AI की सुरक्षा पर उठाए गंभीर सवाल
  David Robinson ने The Atlantic में लिखा- ‘Trial and Error’ का दौर खत्म होना चाहिए, AI लैब्स को न्यूक्लियर प्लांट जैसी सुरक्षा चाहिए नई दिल्ली: आर्टिफिशियल इंटेलिजेंस यानी AI को लेकर दुनिया में बहस अब सिर्फ उसकी क्षमताओं और उपयोग तक सीमित नहीं रह गई है। AI सिस्टम जितने शक्तिशाली होते जा रहे हैं, उनकी…
• ज्ञानेश कुमार के निलंबन से SC का इनकार, ECI से मांगा जवाब; फैसलों पर उठे सवाल
  कथित एकतरफा फैसलों पर सुप्रीम कोर्ट की सुनवाई, CJI सूर्यकांत बोले- रिकॉर्ड के आधार पर होगा फैसला नई दिल्ली: मुख्य चुनाव आयुक्त (CEC) ज्ञानेश कुमार के खिलाफ दायर याचिकाओं पर सोमवार, 5 अक्टूबर को सुप्रीम कोर्ट में अहम सुनवाई हुई। याचिकाकर्ताओं ने कथित तौर पर एकतरफा तरीके से लिए गए चुनाव आयोग के फैसलों को…
• 20 राज्यों में बदलेगा मौसम, झारखंड में 7-8 अक्टूबर को वज्रपात का अलर्ट
  IMD ने कई राज्यों में बारिश, गरज-चमक और तेज हवाओं का पूर्वानुमान जताया; बंगाल की खाड़ी से बने मौसम सिस्टम का असर नई दिल्ली: देश के कई हिस्सों में मौसम का मिजाज एक बार फिर बदलने वाला है। भारत मौसम विज्ञान विभाग (IMD) ने आने वाले दिनों में कई राज्यों में बारिश, गरज-चमक, बिजली गिरने…
• शैक्षणिक भ्रमण से लौटे 30 बच्चों की अचानक बिगड़ी तबीयत, CHC में इलाज जारी
  पीएम श्री उच्च विद्यालय तिलमी के बच्चों में उल्टी, दस्त, बुखार और पेट दर्द की शिकायत स्वास्थ्य विभाग ने शुरू किया मेडिकल सर्वे खूंटी: जिले के कर्रा प्रखंड स्थित पीएम श्री उच्च विद्यालय तिलमी के करीब 30 बच्चों की अचानक तबीयत बिगड़ने से स्वास्थ्य विभाग में हड़कंप मच गया। शैक्षणिक भ्रमण से लौटने के बाद…
• रांची के हिनू में HDFC बैंक के ऊपर अचानक लगी आग, मौके पर पहुंची दमकल
  आग की लपटें उठते ही इलाके में मची अफरा-तफरी, फायर ब्रिगेड की टीम आग बुझाने में जुटी रांची: राजधानी रांची के हिनू स्थित HDFC बैंक के ऊपर सोमवार सुबह अचानक आग लगने से इलाके में अफरा-तफरी मच गई। आग की लपटें और धुआं उठता देखकर आसपास के लोग मौके पर जुटने लगे। घटना की सूचना…