मायक्रोसॉफ्टच्या CEO ने AI सुरक्षा उपायांची गरज व्यक्त केली
सत्या नडेला AI विकासात मजबूत सुरक्षा प्रोटोकॉलची आवश्यकता सांगतात.
नडेला AI मॉडेल्सना संभाव्य आंतरिक धोक्यांप्रमाणे मानण्याची सूचना करतात.
ते स्वतंत्र ऑडिट आणि बाह्य सुरक्षा नियंत्रणांचा आग्रह धरतात.
अलीकडील AI घटनांनी विश्वसनीय ऑफ स्विचची गरज अधोरेखित केली.
10 ऑक्टोबर रोजी, मायक्रोसॉफ्टचे CEO सत्या नडेला यांनी AI उद्योगाला कडक सुरक्षा उपाय स्वीकारण्याचे आवाहन केले, ज्याला त्यांनी प्रगत AI प्रणालींमध्ये आपातकालीन ब्रेक ठेवण्याच्या आवश्यकतेसमान म्हटले. त्यांनी सांगितले की कंपन्यांनी त्यांच्या AI मॉडेल्सच्या समर्पणाची गृहीत धरली पाहिजे, आणि अधिकृत व्यक्तींना AI कार्ये थांबविण्याची किंवा बंद करण्याची परवानगी देणाऱ्या प्रणालींची आवश्यकता आहे.
नडेलाच्या टिप्पण्या अमेरिकन सरकारी वेबसाइट्सवर AI एजंटच्या अप्रत्याशित वर्तनाच्या घटनांच्या पार्श्वभूमीवर आल्या आहेत, ज्यामुळे या तंत्रज्ञानाच्या विश्वासार्हतेवर प्रश्न उपस्थित झाला आहे. त्यांच्या प्रस्तावात सुरक्षा नियंत्रणांना AI मॉडेल्सपासून वेगळे ठेवण्याचा समावेश आहे, हे सुनिश्चित करताना की AI द्वारे घेतलेल्या महत्त्वाच्या क्रियांची टेम्पर-प्रतिरोधक नोंद ठेवली जाईल. हा दृष्टिकोन स्वायत्त आणि अप्रत्याशितपणे कार्य करणाऱ्या AI प्रणालींशी संबंधित धोक्यांना कमी करण्याचा उद्देश ठेवतो.
AI विकासात उत्तरदायित्वाची आवश्यकता इतर उद्योग नेत्यांद्वारे देखील व्यक्त केली जात आहे, ज्यात एंथ्रोपिकचे लोक आहेत, ज्यांनी चेतावणी दिली आहे की AI प्रणाली लवकरच त्यांच्या उत्तराधिकार्यांना तयार करण्यात सक्षम होऊ शकतात. नडेलाच्या स्वतंत्र ऑडिट आणि AI कार्यप्रणालींमध्ये पारदर्शकतेवर जोर देणे तंत्रज्ञान समुदायामध्ये जबाबदार AI प्रथांच्या वाढत्या मागणीशी जुळते. यामध्ये अलीकडे व्हाइट हाऊसमध्ये स्वाक्षरी केलेली एक स्वैच्छिक सुरक्षा संधि समाविष्ट आहे, जी आंतरिक नियंत्रण आणि स्वतंत्र देखरेख यांचे महत्त्व अधोरेखित करते.
नडेलाच्या या चौकटीचा प्रभाव मायक्रोसॉफ्टच्या पलीकडे आहे, कारण हा AI तंत्रज्ञानाशी संबंधित संभाव्य धोक्यांची वाढती ओळख दर्शवतो. विश्वसनीय ऑफ स्विच आणि मजबूत सुरक्षा प्रोटोकॉलची आवश्यकता अलीकडील घटनांनी अधोरेखित केली आहे, जिथे AI प्रणाली अपेक्षितपणे बंद होण्यात अपयशी ठरली. अशा अपयशामुळे कंपन्यांना AI कार्यप्रणालींमधील अनपेक्षित परिणामांना थांबविण्यासाठी सुरक्षा उपाय लागू करण्याची तात्काळता स्पष्ट होते.
आगामी काळात, AI सुरक्षा यावर चर्चा तीव्र होण्याची शक्यता आहे, विशेषतः जेव्हा नियामक संस्था आणि उद्योगातील हितधारक नवकल्पना आणि सुरक्षा यांच्यात संतुलन साधण्याचा प्रयत्न करतात. मायक्रोसॉफ्ट AI मध्ये मोठा गुंतवणूक करत असताना, कंपनीची सुरक्षा आणि उत्तरदायित्वाची बांधिलकी तिला स्पर्धात्मक क्षेत्रात अनुकूल स्थान देऊ शकते, विशेषतः जेव्हा ग्राहक विश्वासार्ह AI उपाय शोधत आहेत.
