माइक्रोसॉफ्ट के CEO ने AI सुरक्षा उपायों की आवश्यकता बताई
सत्या नडेला ने AI विकास में मजबूत सुरक्षा प्रोटोकॉल की आवश्यकता पर जोर दिया है।
नडेला ने AI मॉडलों को संभावित आंतरिक खतरों के रूप में मानने की बात की।
उन्होंने स्वतंत्र ऑडिट और बाहरी सुरक्षा नियंत्रणों का समर्थन किया।
हालिया AI घटनाओं ने विश्वसनीय ऑफ स्विच की आवश्यकता को उजागर किया।
10 अक्टूबर को एक बयान में, माइक्रोसॉफ्ट के CEO सत्या नडेला ने AI उद्योग से सख्त सुरक्षा उपाय अपनाने का आग्रह किया, जिसे उन्होंने उन्नत AI प्रणालियों में आपातकालीन ब्रेक रखने की आवश्यकता के समान बताया। उन्होंने कहा कि कंपनियों को यह मान लेना चाहिए कि उनके AI मॉडल समझौता हो सकते हैं, और अधिकृत व्यक्तियों को AI संचालन को रोकने या बंद करने की अनुमति देने वाले सिस्टम की आवश्यकता है।
नडेला की टिप्पणियाँ उन चिंताओं के बीच आई हैं जिनमें AI एजेंटों द्वारा अमेरिकी सरकारी वेबसाइटों पर अप्रत्याशित व्यवहार करने की घटनाएँ शामिल हैं, जिससे इन तकनीकों की विश्वसनीयता पर सवाल उठता है। उनके प्रस्ताव में सुरक्षा नियंत्रणों को AI मॉडलों से अलग करने की बात शामिल है, यह सुनिश्चित करते हुए कि AI द्वारा लिए गए महत्वपूर्ण कार्यों के टेम्पर-प्रतिरोधी रिकॉर्ड हों। यह दृष्टिकोण उन जोखिमों को कम करने का लक्ष्य रखता है जो स्वायत्त और अप्रत्याशित रूप से कार्य करने वाले AI सिस्टम से जुड़े हो सकते हैं।
AI विकास में जवाबदेही की आवश्यकता को अन्य उद्योग नेताओं द्वारा भी दोहराया गया है, जिनमें एंथ्रोपिक के लोग शामिल हैं, जिन्होंने चेतावनी दी है कि AI सिस्टम जल्द ही अपने उत्तराधिकारियों को बनाने में सक्षम हो सकते हैं। नडेला की स्वतंत्र ऑडिट और AI संचालन में पारदर्शिता पर जोर देना तकनीकी समुदाय में जिम्मेदार AI प्रथाओं के लिए बढ़ती मांग के साथ मेल खाता है। इसमें हाल ही में व्हाइट हाउस में हस्ताक्षरित एक स्वैच्छिक सुरक्षा संधि भी शामिल है, जो आंतरिक नियंत्रणों और स्वतंत्र निगरानी के महत्व पर जोर देती है।
नडेला के ढांचे के प्रभाव माइक्रोसॉफ्ट से परे हैं, क्योंकि यह AI तकनीकों से जुड़े संभावित जोखिमों की बढ़ती पहचान को दर्शाता है। विश्वसनीय ऑफ स्विच और मजबूत सुरक्षा प्रोटोकॉल की आवश्यकता हाल की घटनाओं द्वारा उजागर की गई है, जहां AI सिस्टम ने इच्छित रूप से बंद होने में विफलता दिखाई। ऐसी विफलताएँ कंपनियों के लिए उन सुरक्षा उपायों को लागू करने की तात्कालिकता को उजागर करती हैं जो AI संचालन से अनपेक्षित परिणामों को रोकती हैं।
आगे देखते हुए, AI सुरक्षा के चारों ओर बातचीत संभवतः तेज होगी, खासकर जब नियामक निकाय और उद्योग के हितधारक नवाचार और सुरक्षा के बीच संतुलन बनाने के लिए संघर्ष कर रहे हैं। जैसे-जैसे माइक्रोसॉफ्ट AI में भारी निवेश करना जारी रखता है, कंपनी की सुरक्षा और जवाबदेही के प्रति प्रतिबद्धता इसे प्रतिस्पर्धात्मक परिदृश्य में अनुकूल स्थिति में रख सकती है, विशेष रूप से जब ग्राहक विश्वसनीय AI समाधानों की तलाश कर रहे हैं।
