एंथ्रोपिक ने क्लॉड उपयोग नीति में बदलाव किया

एंथ्रोपिक, जो अपने एआई मॉडल क्लॉड के लिए जाना जाता है, ने एक साल में पहली बार अपनी स्वीकार्य उपयोग नीति में व्यापक अपडेट की घोषणा की है। ये संशोधन विभिन्न खतरों जैसे हथियारकरण, अवैध निगरानी और चुनावों के दौरान हेरफेर के खिलाफ सख्त सुरक्षा स्थापित करने के उद्देश्य से हैं। इस अपडेट का एक महत्वपूर्ण पहलू क्लॉड के प्रति लंबे समय तक दुरुपयोग के व्यवहार पर स्पष्ट प्रतिबंध है, जो कंपनी के उपयोगकर्ता इंटरैक्शन के प्रति दृष्टिकोण में एक महत्वपूर्ण बदलाव को दर्शाता है।

नई नीति में "सतत और अनावश्यक दुरुपयोग या क्रूर व्यवहार" पर प्रतिबंध लगाया गया है। यह प्रावधान उन चरम मामलों को संबोधित करने के लिए है जहां उपयोगकर्ता बिना किसी उद्देश्य के बार-बार क्रूरता में संलग्न होते हैं। हालांकि, नीति यह स्पष्ट करती है कि सामान्य उपयोगकर्ता निराशा या रचनात्मक परीक्षण के रूप में व्यक्त किए गए व्यवहार इस प्रतिबंध के अंतर्गत नहीं आते। एंथ्रोपिक ने पहले ही क्लॉड को उन उपयोगकर्ताओं के साथ बातचीत समाप्त करने की अनुमति दी थी जो लगातार दुरुपयोग करते हैं, और यह एक प्रमुख प्रवर्तन तंत्र बना रहेगा।

उपयोगकर्ता व्यवहार को संबोधित करने के अलावा, अपडेट की गई नीति विभिन्न नियमों को एकीकृत ढांचे में समेकित करती है जो धोखाधड़ी के संचालन पर ध्यान केंद्रित करती है। इसमें गुप्त राजनीतिक अभियानों और सार्वजनिक राय को प्रभावित करने के लिए फर्जी खातों के उपयोग पर प्रतिबंध शामिल है। नीति उम्मीदवारों की नकल, मतदान की गलत जानकारी फैलाने और मतदाता टर्नआउट को दबाने के समन्वित प्रयासों पर स्पष्ट रूप से प्रतिबंध लगाती है। ये उपाय लोकतांत्रिक प्रक्रियाओं की अखंडता और एआई प्रौद्योगिकियों के संभावित दुरुपयोग के बारे में बढ़ती चिंताओं को दर्शाते हैं।

अपडेट ने सैन्य संदर्भों में क्लॉड के दुरुपयोग के खिलाफ भी सुरक्षा को बढ़ाया है। हालांकि एंथ्रोपिक ने लंबे समय से अपनी तकनीक का उपयोग करके हथियारों के विकास पर प्रतिबंध लगाया है, लेकिन संशोधित नियम अब ड्रोन सिस्टम सहित हथियारों के लिए संचालनात्मक घटकों के निर्माण को स्पष्ट रूप से मना करते हैं। यह निर्णय आंतरिक रिपोर्टों के जवाब में लिया गया है, जिसमें संकेत दिया गया था कि दुष्ट तत्व क्लॉड का उपयोग राजनीतिक असंतोषियों को लक्षित करने के लिए करने का प्रयास कर रहे थे। नीति अब किसी भी गैर-सहमति ट्रैकिंग और क्लॉड का उपयोग करके निगरानी अवसंरचना स्थापित करने पर सख्त प्रतिबंध लगाती है।

आगे देखते हुए, एंथ्रोपिक क्लॉड के भौतिक मशीनरी के साथ एकीकरण के दौरान मानव निगरानी की आवश्यकता को रेखांकित करता है। नीति अनिवार्य करती है कि एक योग्य ऑपरेटर उपस्थित होना चाहिए जो संचालन की निगरानी करे और किसी भी संभावित हानिकारक गतिविधियों को रोकने का अधिकार रखता हो। यह सावधानी बरतने वाला उपाय विशेष रूप से महत्वपूर्ण है क्योंकि उद्योग तेजी से एआई और रोबोटिक्स के बीच के संबंधों का अन्वेषण कर रहा है, यह सुनिश्चित करते हुए कि तकनीक के विकास के साथ सुरक्षा प्राथमिकता बनी रहे।