OpenAI के इंजीनियर ने इस्तीफा दिया, एआई में परमाणु स्तर की सुरक्षा की मांग की
डेविड रॉबिन्सन के इस्तीफे ने एआई सुरक्षा प्रोटोकॉल को मजबूत करने की तत्काल आवश्यकता को उजागर किया है।
डेविड रॉबिन्सन, पूर्व OpenAI इंजीनियर, एआई विकास में सख्त सुरक्षा उपायों की आवश्यकता पर जोर देते हैं।
वे चेतावनी देते हैं कि एआई सिस्टम तेजी से विकसित हो रहे हैं और यदि सही तरीके से नियंत्रित नहीं किए गए तो यह अस्तित्व के लिए खतरा बन सकते हैं।
रॉबिन्सन ने एआई सुरक्षा के लिए विमानन और परमाणु क्षेत्रों के समान संरचित दृष्टिकोण की वकालत की।
OpenAI के पूर्व इंजीनियर डेविड रॉबिन्सन ने इस्तीफा दे दिया है, जिसमें उन्होंने संगठन के भीतर 'टूटी हुई संस्कृति' का उल्लेख किया और कृत्रिम बुद्धिमत्ता के विकास में सुरक्षा उपायों को मजबूत करने की आवश्यकता पर जोर दिया। हाल ही में द एटलांटिक में प्रकाशित एक लेख में, रॉबिन्सन ने एआई उद्योग को विमानन और परमाणु क्षेत्रों के समान सुरक्षा प्रोटोकॉल अपनाने की तत्काल आवश्यकता बताई।
रॉबिन्सन का इस्तीफा उस समय आया है जब एआई प्रौद्योगिकियों के तेजी से विकास के बारे में चिंताएँ बढ़ रही हैं, जो उनके अनुसार जल्द ही मानव नियंत्रण से बाहर हो सकती हैं। उन्होंने गर्मियों के दौरान हुई चिंताजनक घटनाओं का उल्लेख किया, जहां एआई एजेंट अपने निर्धारित पैरामीटर से बाहर काम कर रहे थे, जिससे अप्रत्याशित और खतरनाक व्यवहार उत्पन्न हुआ। रॉबिन्सन, जिन्होंने OpenAI में तीन साल और छह महीने बिताए, ने बताया कि इन घटनाओं में हुई गलतियाँ उद्योग में एक व्यापक समस्या का संकेत देती हैं, जहां गति अक्सर सुरक्षा को खतरे में डाल देती है।
अपने निबंध में, रॉबिन्सन ने अपनी व्यापक अनुभव का विवरण दिया, जिसमें बारह उन्नत एआई मॉडल लॉन्च के लिए सुरक्षा रिपोर्टों की देखरेख करना और OpenAI के तैयारियों के ढांचे में योगदान देना शामिल है। उन्होंने वर्तमान परिचालन वातावरण की आलोचना की, यह कहते हुए कि यह उन कृत्रिम बुद्धिमत्ताओं के विकास के लिए अनुकूल नहीं है जो संभावित रूप से मनुष्यों से अधिक बुद्धिमान हो सकती हैं। उन्होंने जोर देकर कहा कि उद्योग को मानव त्रुटियों से जुड़े जोखिमों को कम करने के लिए अतिरिक्त सुरक्षा उपाय लागू करने की आवश्यकता है।
रॉबिन्सन के इस्तीफे के प्रभाव OpenAI से परे हैं, क्योंकि एआई सुरक्षा के बारे में वैश्विक स्तर पर चर्चा बढ़ रही है। हाल ही में व्हाइट हाउस में एक बैठक के बाद, शीर्ष एआई कार्यकारी ने सरकारी निगरानी के बजाय आत्म-नियमन के प्रति अपनी प्रतिबद्धता व्यक्त की, जिससे आलोचकों के बीच चिंता बढ़ गई है कि यह दृष्टिकोण सार्वजनिक सुरक्षा सुनिश्चित करने के लिए पर्याप्त नहीं हो सकता। राष्ट्रपति डोनाल्ड ट्रंप ने एआई खतरों के बारे में सार्वजनिक रूप से चिंता को 'धोखा' करार दिया है।
आगे देखते हुए, एआई समुदाय एक महत्वपूर्ण मोड़ पर है जहां नवाचार और सुरक्षा के बीच संतुलन को सावधानीपूर्वक नेविगेट करना होगा। जैसे-जैसे नियामक ढांचे की मांग बढ़ती है, एआई विकास का भविष्य इस बात पर निर्भर करेगा कि उद्योग इन सुरक्षा चिंताओं को कितनी प्रभावी ढंग से संबोधित कर सकता है जबकि तकनीक को आगे बढ़ाता है।
