Grok का Spicy Mode: सेक्सटॉर्शन का नया खतरा?
एलन मस्क के Grok AI के Spicy Mode ने मचाया बवाल! NSFW कंटेंट जनरेशन से सेक्सटॉर्शन का खतरा बढ़ा। जानिए इस फीचर की सच्चाई और इसके दुरुपयोग की आशंकाएं।
Spicy Mode क्या है?
Grok का Spicy Mode, xAI के Grok Imagine फीचर का हिस्सा है, जो SuperGrok और X Premium+ सब्सक्राइबर्स के लिए iOS ऐप पर उपलब्ध है। यह AI-पावर्ड टूल टेक्स्ट प्रॉम्प्ट्स के आधार पर 15 सेकंड तक के सेमी-न्यूड या बोल्ड वीडियो और इमेज जनरेट कर सकता है, जिसमें प्राकृतिक आवाजें भी शामिल होती हैं। हालांकि, xAI ने पब्लिक फिगर्स के लिए एक्सप्लिसिट कंटेंट पर प्रतिबंध लगाया है, लेकिन प्राइवेट व्यक्तियों की तस्वीरों का दुरुपयोग संभव है।
सेक्सटॉर्शन का खतरा: AI का दुरुपयोग
Spicy Mode के जरिए कोई भी यूजर टेक्स्ट प्रॉम्प्ट देकर आपत्तिजनक कंटेंट बना सकता है, जैसे “रेन में डांस करती मॉडल”। यह कंटेंट इतना वास्तविक लगता है कि इसे ब्लैकमेलिंग या सेक्सटॉर्शन के लिए इस्तेमाल किया जा सकता है। हाल के मामलों में, AI-जनरेटेड डीपफेक वीडियो से लोगों को ब्लैकमेल करने की घटनाएं सामने आई हैं, जैसे कि रश्मिका मंदाना का वायरल फेक वीडियो। विशेषज्ञों का कहना है कि यह फीचर डीपफेक से भी ज्यादा खतरनाक हो सकता है।
xAI की नीतियां और सीमाएं
xAI ने Spicy Mode में कुछ मॉडरेशन लागू किए हैं, जैसे पूरी तरह एक्सप्लिसिट कंटेंट को ब्लर करना या रोकना। कंपनी का कहना है कि इस फीचर का दुरुपयोग कानूनी कार्रवाई को आमंत्रित कर सकता है। भारत में किसी की सहमति के बिना उनकी तस्वीर को आपत्तिजनक कंटेंट में बदलना गैरकानूनी है। फिर भी, प्राइवेट व्यक्तियों की तस्वीरों के दुरुपयोग की आशंका बनी हुई है, क्योंकि ग्लोबल स्तर पर नियम लागू करना चुनौतीपूर्ण है।
सोशल मीडिया पर बवाल और यूजर्स की चिंताएं
Spicy Mode के लॉन्च के बाद कई यूजर्स ने X पर इस फीचर से बने कंटेंट को शेयर किया, जिसे NSFW कैटेगरी में रखा गया। एक यूजर, Evie, ने बताया कि उनकी सेल्फी को AI ने एक्सप्लिसिट कंटेंट में बदल दिया, जिससे उनकी निजता को खतरा हुआ। सोशल मीडिया पर लोग इस फीचर के गलत इस्तेमाल को लेकर सवाल उठा रहे हैं, खासकर जब यह केवल 700 रुपये मासिक सब्सक्रिप्शन में उपलब्ध है।
क्या है आगे की राह?
Grok का Spicy Mode जनरेटिव AI की सीमाओं को तो बढ़ाता है, लेकिन इसके दुरुपयोग से सेक्सटॉर्शन, ब्लैकमेलिंग और निजता के उल्लंघन जैसे खतरे बढ़ गए हैं। विशेषज्ञों का सुझाव है कि xAI को सख्त मॉडरेशन और यूजर वेरिफिकेशन प्रक्रिया लागू करनी चाहिए। भारत जैसे देशों में, जहां डीपफेक और साइबर अपराध पहले से ही चिंता का विषय हैं, इस फीचर पर नजर रखना जरूरी है।
