OpenAI नियंत्रित करने के लिए वैज्ञानिक और तकनीकी सफलताओं की आवश्यकता पर चर्चा की जो मानव बुद्धि को पार कर सकती है।
सबसे प्रसिद्ध संस्थापक किस बारे में बात करता है? :
PayTm के संस्थापक विजय शेखर शर्मा ने अत्यधिक उन्नत AI सिस्टम के विकास के कारण संभावित अशक्तिकरण और यहां तक कि मानवता के विलुप्त होने के बारे में अपनी चिंता व्यक्त की। उन्होंने ओपनएआई के हालिया ब्लॉग पोस्ट का हवाला देते हुए एक ट्वीट में अपनी चिंताएं साझा कीं।
अपने ट्वीट में, शर्मा ने OpenAI द्वारा पोस्ट के कुछ अशुभ निष्कर्षों पर प्रकाश डाला। उन्होंने कहा कि वह “वास्तव में उस शक्ति को लेकर चिंतित हैं जो कुछ लोगों और चुनिंदा देशों ने पहले ही जमा कर ली है।”
शर्मा ने ब्लॉग पोस्ट के एक अन्य भाग पर प्रकाश डाला जिसमें दावा किया गया था कि “7 वर्षों से भी कम समय में हमारे पास ऐसी प्रणाली है जो मानवता के सशक्तिकरण को जन्म दे सकती है => यहां तक कि मानव विलुप्त होने को भी।”
OpenAI हमें किस बारे में चेतावनी दे रहा है?:
“सुपरएलाइनमेंट का परिचय” शीर्षक वाले ब्लॉग पोस्ट में, ओपनएआई एआई सिस्टम को नियंत्रित करने के लिए वैज्ञानिक और तकनीकी सफलताओं की आवश्यकता पर चर्चा करता है जो मानव बुद्धि को पार कर सकते हैं। ओपनएआई महत्वपूर्ण कंप्यूटिंग शक्ति समर्पित कर रहा है और इस मुद्दे को संबोधित करने के लिए इल्या सुतस्केवर और जान लेइक के नेतृत्व में एक टीम का गठन कर रहा है।
हालाँकि सुपरइंटेलिजेंस का आगमन अभी भी दूर की कौड़ी लग सकता है, ओपनएआई का मानना है कि यह इस दशक के भीतर एक वास्तविकता बन सकता है। पोस्ट के अनुसार, सुपरइंटेलिजेंस से जुड़े जोखिमों के प्रबंधन के लिए नए शासन संस्थानों और एआई सिस्टम को मानवीय इरादे से संरेखित करने की चुनौती को हल करने की आवश्यकता है।
वर्तमान में, एआई संरेखण तकनीकें, जैसे मानव प्रतिक्रिया से सुदृढीकरण सीखना, मानव पर्यवेक्षण पर निर्भर करती हैं। हालाँकि, ये तकनीकें मानव क्षमताओं से बेहतर सुपरइंटेलिजेंट एआई सिस्टम को संरेखित करने के लिए पर्याप्त नहीं हो सकती हैं। OpenAI का दावा है कि इस चुनौती से निपटने के लिए नई वैज्ञानिक और तकनीकी सफलताएँ आवश्यक हैं।
ओपनएआई के दृष्टिकोण में एक स्वचालित संरेखण शोधकर्ता का निर्माण शामिल है जो मोटे तौर पर मानव-स्तर की बुद्धिमत्ता पर काम करता है। उनका लक्ष्य अपने प्रयासों को बढ़ाने और अधीक्षण को संरेखित करने के लिए महत्वपूर्ण कंप्यूटिंग संसाधनों का उपयोग करना है। इस प्रक्रिया में स्केलेबल प्रशिक्षण विधियों को विकसित करना, मॉडलों को मान्य करना और संरेखण पाइपलाइन का तनाव-परीक्षण करना शामिल है।
OpenAI एक नई टीम नियुक्त कर रहा है:
OpenAI स्वीकार करता है कि उनकी अनुसंधान प्राथमिकताएँ विकसित होंगी, और वे भविष्य में अपने रोडमैप के बारे में अधिक विवरण साझा करने की योजना बना रहे हैं। वे अधीक्षण संरेखण की समस्या पर काम करने के लिए शीर्ष मशीन लर्निंग शोधकर्ताओं और इंजीनियरों की एक टीम को इकट्ठा कर रहे हैं।
ओपनएआई का लक्ष्य ऐसे साक्ष्य और तर्क प्रदान करना है जो मशीन लर्निंग और सुरक्षा समुदाय को आश्वस्त करें कि सुपरइंटेलिजेंस संरेखण हासिल कर लिया गया है।
ओपनएआई इस बात पर जोर देता है कि अधीक्षण संरेखण पर उनका काम मौजूदा एआई मॉडल की सुरक्षा में सुधार और एआई से जुड़े अन्य जोखिमों को दूर करने के उनके चल रहे प्रयासों के अतिरिक्त है।
