सत्या नडेला ने एआई आपातकालीन शटडाउन तंत्राची मागणी केली
मायक्रोसॉफ्टचे CEO संवेदनशील डेटा व्यवस्थापित करण्यासाठी प्रगत एआय प्रणालींवर बाह्य नियंत्रणाची आवश्यकता अधोरेखित करतात.
नडेला एआय मॉडेल्ससाठी आपातकालीन ब्रेकची शिफारस करतात.
केवळ 8% संस्थांकडे एआयसाठी व्यापक शासन आहे, तरीही घटनांमध्ये वाढ झाली आहे.
आलोचकांचा इशारा आहे की प्रस्तावित आपातकालीन उपायांनाही हॅकिंगचा धोका आहे.
मायक्रोसॉफ्टचे CEO सत्या नडेला यांनी अलीकडेच प्रगत कृत्रिम बुद्धिमत्ता प्रणालींसाठी आपातकालीन शटडाउन तंत्राची आवश्यकता अधोरेखित केली. त्यांनी सांगितले की कंपन्यांनी संवेदनशील माहिती हाताळताना किंवा महत्त्वाच्या व्यावसायिक कार्ये पार पाडताना एआय मॉडेल्स थांबविण्यासाठी किंवा पूर्णपणे बंद करण्याची क्षमता असावी. एआय तंत्रज्ञानाशी संबंधित वाढत्या धोक्यांच्या पार्श्वभूमीवर ही मागणी केली जात आहे.
नडेलाच्या या मागणीचा आधार म्हणजे एआय मॉडेल्स अपयशी ठरू शकतात, त्यांना हॅक केले जाऊ शकते किंवा संवेदनशील डेटा लीक होऊ शकतो. या प्रणालींची गुंतागुंत पारंपरिक सॉफ्टवेअरच्या तुलनेत तपासण्यासाठी अधिक कठीण बनवते. त्यामुळे या मॉडेल्सवर नियंत्रण ठेवण्यासाठी बाह्य नियंत्रण आवश्यक आहे, जसे की परवानग्या, प्रवेश प्रतिबंध आणि लॉगिंग यंत्रणा.
त्यांच्या युक्तिवादाला समर्थन देण्यासाठी, नडेलाने कंपन्यांनी स्वीकारावे लागणाऱ्या सात-भागीय चौकटीची रूपरेषा दिली. त्यांनी सांगितले की व्यवसायांनी उच्च-जोखडाच्या निर्णयांसाठी एकाच एआय मॉडेलवर अवलंबून राहू नये आणि मॉडेल्स स्वतःची कार्यक्षमता प्रमाणित किंवा ऑडिट करू नयेत. या चौकटीतील आवश्यक घटकांमध्ये हॅकिंगपासून सुरक्षित पुरावे, सतत चाचणी, संस्थात्मक मर्यादा, अनिवार्य घटना अहवाल आणि पारदर्शक कारणे यांचा समावेश आहे. त्यांनी चेतावणी दिली की पारदर्शकता महत्त्वाची असली तरी ती एकटीच सुरक्षिततेसाठी पुरेशी नाही.
नडेलाच्या संदेशाची तात्काळता उद्योगातील अनेकांसोबत गूंजते, कारण मोठ्या संख्येने कंपन्या आधीच एआय तंत्रज्ञानाचा वापर करत आहेत. 2025 मध्ये, 88% कंपन्यांनी किमान एका व्यावसायिक कार्यात एआयचा वापर केला, तरी केवळ 8% संस्थांकडे व्यापक शासन चौकटी आहेत. याव्यतिरिक्त, एआय प्रणालींमध्ये घटनांची संख्या 362 वर पोहोचली, जी मागील वर्षाच्या तुलनेत 55% वाढ आहे. या चिंताजनक प्रवृत्तीनंतर एआय धोके व्यवस्थापित करण्यासाठी कडक नियंत्रण उपाय आणि द्विदलीय नियमांची मागणी केली जात आहे.
आगामी काळात, एआय शासनाबद्दल चर्चा तीव्र होण्याची अपेक्षा आहे. नियामक चौकटी आणि सुरक्षा उपायांच्या संभाव्यतेबद्दल चालू चर्चांसह, तंत्रज्ञान उद्योगातील भागधारकांनी प्रगत एआय प्रणालींच्या समोर असलेल्या आव्हानांचा सामना करणे आवश्यक आहे. नडेलाच्या प्रस्तावांना पाठिंबा मिळत असल्याने, एआय शासनाचे भविष्य नवकल्पना आणि सुरक्षिततेच्या संतुलनावर अवलंबून असू शकते, जेणेकरून एआयचे फायदे सुरक्षिततेच्या धोक्यांशिवाय घेतले जाऊ शकतील.
