एंथ्रोपिकने मॉडेल दुरुपयोग आणि निवडणूक हस्तक्षेपावर धोरणात बदल केला

गुरुवारी, एंथ्रोपिकने आपल्या वापर धोरणात महत्त्वपूर्ण अद्यतने जाहीर केली, ज्यामध्ये निवडणूक हस्तक्षेप, शस्त्र सॉफ्टवेअरचा विकास आणि देखरेख क्रियाकलापांवर कठोर बंदी घालण्यात आली आहे. या अद्यतनाचा एक प्रमुख भाग म्हणजे एआय मॉडेलच्या प्रति दीर्घकाळ मौखिक दुरुपयोगावर स्पष्ट बंदी, ज्याला आता अस्वीकार्य वर्तन म्हणून स्पष्टपणे परिभाषित केले गेले आहे.

ही धोरण सुधारणा ऑगस्टमध्ये झालेल्या एका पूर्व अद्यतनानंतर आली, जेव्हा एंथ्रोपिकच्या एआय मॉडेल, क्लॉड, ला सतत हानिकारक किंवा दुरुपयोगी संवाद समाप्त करण्यासाठी प्रशिक्षित केले गेले. नवीनतम धोरण स्पष्ट करते की वापरकर्त्यांना अशा दुरुपयोगी संवादांमध्ये भाग घेण्याची परवानगी नाही, विशेषतः त्या तीव्र प्रकरणांमध्ये जिथे हेतू कोणत्याही रचनात्मक उद्देशाशिवाय दुर्भावनापूर्ण दिसतो.

कंपनीने स्पष्ट केले की अद्यतनित धोरण वापरकर्त्यांना निराशा व्यक्त करण्यास किंवा वैध चाचणी आणि संशोधन करण्यास प्रतिबंधित करत नाही. याचा उद्देश सामान्य वापरकर्ता संवाद आणि अत्यधिक क्रूरतेमध्ये भेद करणे आहे. याव्यतिरिक्त, धोरणात क्लॉडचा वापर फसवणूक प्रथांसाठी करण्यावरही बंदी आहे, जसे की बनावट खाती तयार करणे किंवा खोट्या बातम्या पसरवणे, जे सार्वजनिक विश्वास कमी करू शकते.

या धोरण बदलाचे परिणाम महत्त्वाचे आहेत, कारण हे लोकशाही प्रक्रियांना सुरक्षित करण्याचा प्रयत्न करते, ज्यामुळे वापरकर्त्यांना निवडणुकांमध्ये हेरफेर करण्यापासून किंवा मतदारांना गुमराह करण्यापासून रोखले जाईल. हे विशेषतः त्या युगात महत्त्वाचे आहे जिथे एआय तंत्रज्ञान समाजिक आणि राजकीय क्षेत्रात झपाट्याने समाकलित केले जात आहे, ज्यामुळे त्यांच्या संभाव्य दुरुपयोगाबद्दल चिंता वाढत आहे.

आगामी काळात, एंथ्रोपिक आपल्या एआय मॉडेलच्या नैतिक वापराला सुनिश्चित करण्यासाठी आपल्या धोरणांना सतत सुधारित करण्याची योजना बनवत आहे. कंपनी विविध क्षेत्रातील तज्ञांसोबत सहकार्य करण्याचा विचार करत आहे, जेणेकरून एआय संवादांच्या चारही बाजूंनी नैतिक चौकट वाढवता येईल, ज्यामुळे अधिक जबाबदार आणि विश्वासार्ह एआय पारिस्थितिकी तंत्र तयार होईल.