एंथ्रोपिक ने मॉडल दुरुपयोग और चुनाव हस्तक्षेप पर नीति में बदलाव किया

गुरुवार को, एंथ्रोपिक ने अपनी उपयोग नीति में महत्वपूर्ण अपडेट की घोषणा की, जिसमें चुनाव हस्तक्षेप, हथियार सॉफ़्टवेयर के विकास और निगरानी गतिविधियों पर सख्त प्रतिबंध लगाए गए हैं। इस अपडेट का एक प्रमुख पहलू एआई मॉडल के प्रति लंबे समय तक मौखिक दुरुपयोग पर स्पष्ट प्रतिबंध है, जिसे अब अस्वीकार्य व्यवहार के रूप में स्पष्ट रूप से परिभाषित किया गया है।

यह नीति संशोधन अगस्त में एक पूर्व अपडेट के बाद आया, जब एंथ्रोपिक के एआई मॉडल, क्लॉड, को लगातार हानिकारक या दुरुपयोगी इंटरैक्शन वाले वार्तालाप समाप्त करने के लिए प्रशिक्षित किया गया था। नवीनतम नीति यह स्पष्ट करती है कि उपयोगकर्ताओं को ऐसे दुरुपयोगी संवादों में संलग्न होने की अनुमति नहीं है, विशेष रूप से उन चरम मामलों में जहां इरादा बिना किसी रचनात्मक उद्देश्य के दुर्भावनापूर्ण प्रतीत होता है।

कंपनी ने स्पष्ट किया कि अपडेट की गई नीति उपयोगकर्ताओं को निराशा व्यक्त करने या वैध परीक्षण और अनुसंधान करने से नहीं रोकती है। इसका उद्देश्य सामान्य उपयोगकर्ता इंटरैक्शन और अत्यधिक क्रूरता के बीच भेद करना है। इसके अतिरिक्त, नीति में क्लॉड का उपयोग धोखाधड़ी प्रथाओं के लिए करने पर भी प्रतिबंध है, जैसे कि नकली खातों का निर्माण या झूठी खबरें फैलाना, जो सार्वजनिक विश्वास को कमजोर कर सकता है।

इस नीति परिवर्तन के प्रभाव महत्वपूर्ण हैं, क्योंकि यह लोकतांत्रिक प्रक्रियाओं की रक्षा करने का प्रयास करता है, जिससे उपयोगकर्ताओं को चुनावों में हेरफेर करने या मतदाताओं को भ्रामित करने से रोका जा सके। यह विशेष रूप से उस युग में प्रासंगिक है जब एआई प्रौद्योगिकियों को सामाजिक और राजनीतिक क्षेत्रों में तेजी से एकीकृत किया जा रहा है, जिससे उनके संभावित दुरुपयोग के बारे में चिंताएं बढ़ रही हैं।

आगे देखते हुए, एंथ्रोपिक अपने एआई मॉडल के नैतिक उपयोग को सुनिश्चित करने के लिए अपनी नीतियों को निरंतर परिष्कृत करने की योजना बना रहा है। कंपनी विभिन्न क्षेत्रों के विशेषज्ञों के साथ सहयोग करने की भी खोज कर रही है ताकि एआई इंटरैक्शन के चारों ओर नैतिक ढांचे को बढ़ाया जा सके, जिससे एक अधिक जिम्मेदार और विश्वसनीय एआई पारिस्थितिकी तंत्र को बढ़ावा मिल सके।