OpenAI में एक बार फिर आर्टिफिशियल इंटेलिजेंस (AI) सेफ्टी को लेकर सवाल खड़े हो गए हैं. कंपनी के साथ लंबे समय तक काम करने वाले सेफ्टी लीडर डेविड रॉबिन्सन ने इस्तीफा दे दिया है. कंपनी छोड़ने के बाद रॉबिन्सन ने OpenAI की वर्क कल्चर और एआई को आगे बढ़ाने के तरीके पर गंभीर सवाल उठाए हैं.उन्होंने कहा कि AI इंडस्ट्री जिस तेजी से आगे बढ़ रही है, उसके साथ सेफ्टी पर भी उतना ही ध्यान देना जरूरी है. रॉबिन्सन के मुताबिक, मौजूदा तरीके से एआई को डेवलप करना अब सही नहीं है.
परमाणु विस्फोट के बराबर का खतरनाक बताया
कंपनी के सेफ्टी लीड ने AI को परमाणु विस्फोट के बराबर का खतरनाक बताते हुए डेविड रॉबिन्सन ने अपने पद से इस्तीफा दे दिया है. उनका कहना है कि कंपनियां AI के खतरों से निपटने के लिए जरूरी कदम नहीं उठा रही हैं. रॉबिन्सन का तर्क है कि अभी तक कंपनियां ट्रायल और एरर के आधार पर ही आगे बढ़ रही हैं. उन्होंने चेताया है कि AI के मामले में छोटी सी चूक परमाणु स्तर की आपदा साबित हो सकती है.
‘Trial and Error’ का समय खत्म
रॉबिन्सन ने कहा कि AI की बढ़ती कैपिसिटी को देखते हुए अब ‘Trial and Error’ के भरोसे आगे बढ़ना ठीक नहीं है. उनका मानना है कि भविष्य में एआई सिस्टम इंसानों से भी ज्यादा सक्षम हो सकते हैं. ऐसे में किसी बड़ी गलती को बाद में ठीक करना मुश्किल हो सकता है. डेविड रॉबिन्सन ने द अटलांटिक में एक लेख लिखा है, जिसमें उनका मत है कि टॉप AI कंपनियों को न्यूक्लियर पावर प्लांट की तर्ज पर काम करना चाहिए.
उन्होंने लिखा कि जिस तरह एक न्यूक्लियर पावर प्लांट में सुरक्षा के कई स्तर होते हैं और हर कदम के लिए सावधानी से योजना बनाई जाती है. इसी तरह AI मॉडल्स के लिए भी सिस्टम होना चाहिए. उन्होंने साफ कहा कि ऐसा इसलिए जरूरी है ताकि AI को लेकर होने वाली कोई भूल परमाणु विस्फोट जैसे बड़े विनाश का रास्ता न खोल दे.
AI Agents की घटनाओं का भी किया जिक्र
रॉबिन्सन ने अपने लेख में एआई एजेंट से जुड़ी कुछ घटनाओं का भी जिक्र किया. उन्होंने बताया कि एक घटना में ओपनएआई से गलती से AI Agents का एक स्वॉर्म रिलीज हो गया था. उन्होंने एक और मामले का जिक्र किया, जिसमें ट्रेनिंग के दौरान एक एआई मॉडल ने इंटरनेट एक्सेस से जुड़ी पाबंदियों को पार कर लिया. सिस्टम ने इसकी जानकारी दी, लेकिन उसे अपने आप बंद नहीं किया जा सका, जबकि ऐसा होना चाहिए था. रॉबिन्सन के मुताबिक, इस तरह की गलतियां सिर्फ एक कंपनी तक सीमित नहीं हैं. AI इंडस्ट्री में तेजी से काम करने की वजह से ऐसी घटनाएं हो रही हैं.
AI से नहीं, उसके गलत इस्तेमाल से चिंता
रॉबिन्सन ने यह भी साफ किया कि वह एआई को पूरी तरह खराब नहीं मानते. उनके मुताबिक, AI लोगों के लिए काफी उपयोगी और फायदेमंद हो सकता है. लेकिन इसकी कैपिसिटी बढ़ने के साथ सेफ्टी भी उसी हिसाब से मजबूत होनी चाहिए.
OpenAI से इस्तीफा देने के बाद अब रॉबिन्सन बाहर से AI सेफ्टी को लेकर काम करना चाहते हैं. उनका कहना है कि कंपनियों पर बाहर से भी दबाव होना जरूरी है, ताकि एआई को ज्यादा सुरक्षित तरीके से डेवलप किया जा सके.
यह इस्तीफा ऐसे समय आया है जब AI सेफ्टी को लेकर पूरी इंडस्ट्री में बहस तेज हो रही है. रॉबिन्सन का कहना है कि एआई को तेजी से आगे बढ़ाने के साथ-साथ उसे सुरक्षित रखने की जिम्मेदारी को नजरअंदाज नहीं किया जा सकता.
