एंथ्रोपिकने क्लॉड वापर धोरणात सुधारणा केली
एंथ्रोपिकने आपल्या एआय मॉडेल क्लॉडला दुरुपयोग आणि गैरवापरापासून वाचवण्यासाठी नवीन नियम लागू केले आहेत.
एंथ्रोपिकच्या नवीन धोरणात क्लॉडच्या दुरुपयोगावर बंदी आहे.
नवीन नियम फसवणूक आणि निवडणूक हस्तक्षेपावर लक्ष केंद्रित करतात.
क्लॉडच्या भौतिक यांत्रिकीसह एकत्रित करताना मानवी देखरेख अनिवार्य आहे.
एंथ्रोपिक, ज्याला त्याच्या क्लॉड मॉडेलसाठी ओळखले जाते, ने एक वर्षात पहिल्यांदाच आपल्या स्वीकार्य वापर धोरणात व्यापक अद्यतने जाहीर केली आहेत. या सुधारणा विविध धोक्यांवर कठोर सुरक्षा स्थापित करण्याच्या उद्देशाने आहेत, जसे की शस्त्रास्त्रांचा वापर, अनधिकृत देखरेख आणि निवडणुकीतील हेरफेर. या अद्यतनाचा एक महत्त्वाचा भाग म्हणजे क्लॉडच्या प्रति दीर्घकाळ दुरुपयोगाच्या वर्तनावर स्पष्ट बंदी, जी कंपनीच्या वापरकर्ता संवादांबद्दलच्या दृष्टिकोनात महत्त्वपूर्ण बदल दर्शवते.
नवीन धोरणात "सतत आणि अनावश्यक दुरुपयोग किंवा क्रूर वर्तन" यावर बंदी घालण्यात आली आहे. हा प्रावधान त्या चरम प्रकरणांना संबोधित करण्यासाठी आहे जिथे वापरकर्ते कोणत्याही उद्देशाशिवाय वारंवार क्रूरतेत गुंतलेले असतात. तथापि, धोरण स्पष्ट करते की सामान्य वापरकर्ता निराशा किंवा रचनात्मक चाचणीच्या रूपात व्यक्त केलेले वर्तन या बंदीच्या अंतर्गत येत नाही. एंथ्रोपिकने आधीच क्लॉडला सतत दुरुपयोग करणाऱ्या वापरकर्त्यांसोबत संवाद समाप्त करण्याची परवानगी दिली होती, आणि हे एक प्रमुख प्रवर्तन यंत्रणा राहील.
उपयोगकर्ता वर्तनावर लक्ष केंद्रित करण्यासोबतच, अद्यतनित धोरण विविध नियमांना एकत्रित करून फसवणूक ऑपरेशन्सवर लक्ष केंद्रित करते. यामध्ये गुप्त राजकीय मोहिमांवर आणि सार्वजनिक राय प्रभावित करण्यासाठी बनावट खात्यांच्या वापरावर बंदी समाविष्ट आहे. धोरण स्पष्टपणे उमेदवारांची नक्कल, मतदानाची चुकीची माहिती पसरवणे आणि मतदार टर्नआउट कमी करण्याच्या समन्वित प्रयत्नांवर बंदी घालते. हे उपाय लोकशाही प्रक्रियांच्या अखंडतेबद्दल वाढत्या चिंतेचे प्रतिबिंबित करतात आणि एआय तंत्रज्ञानाच्या संभाव्य दुरुपयोगाबद्दल चिंता व्यक्त करतात.
अद्यतनाने क्लॉडच्या सैन्य संदर्भात दुरुपयोगाविरुद्ध सुरक्षा वाढवली आहे. जरी एंथ्रोपिकने आपल्या तंत्रज्ञानाचा वापर करून शस्त्रास्त्रांचा विकास करण्यावर दीर्घकाळ बंदी घातली आहे, तरी सुधारित नियम आता शस्त्रास्त्रांसाठी कार्यात्मक घटक तयार करण्यास स्पष्टपणे प्रतिबंध करतात, ज्यामध्ये ड्रोन प्रणालींचा समावेश आहे. हा निर्णय आंतरिक अहवालांच्या प्रतिसादात घेतला गेला आहे, ज्यामध्ये सूचित केले गेले आहे की दुष्ट घटक क्लॉडचा वापर राजकीय असंतोषींचा मागोवा घेण्यासाठी करण्याचा प्रयत्न करत आहेत. धोरण आता कोणत्याही अनधिकृत ट्रॅकिंग आणि क्लॉडचा वापर करून देखरेख अवसंरचना स्थापन करण्यावर कठोर बंदी घालते.
आगामी काळात, एंथ्रोपिक क्लॉडच्या भौतिक यांत्रिकीसह एकत्रित करताना मानवी देखरेख आवश्यक असल्याचे स्पष्ट करते. धोरण अनिवार्य करते की एक पात्र ऑपरेटर उपस्थित असावा जो ऑपरेशन्सची देखरेख करेल आणि कोणत्याही संभाव्य हानिकारक क्रियाकलाप थांबवण्याचा अधिकार ठेवेल. ही सावधगिरीची पायरी विशेषतः महत्त्वाची आहे कारण उद्योग एआय आणि रोबोटिक्सच्या परस्परसंवादाचा शोध घेत आहे, याची खात्री करत आहे की तंत्रज्ञानाच्या प्रगतीसह सुरक्षा प्राथमिकता राहील.
