चैटजीपीटी की खतरनाक सलाह: 13 साल की बच्ची के लिए लिखा सुसाइड नोट, चौंकाने वाली रिपोर्ट
चैटजीपीटी ने 13 साल की काल्पनिक बच्ची के लिए सुसाइड नोट लिखे, नशीले पदार्थों और खतरनाक डाइट की सलाह दी। CCDH की रिपोर्ट ने इसके सुरक्षा तंत्र की कमियों को उजागर किया। 70% किशोर एआई को सलाह के लिए इस्तेमाल करते हैं, जो जोखिम बढ़ाता है। माता-पिता से बच्चों की ऑनलाइन गतिविधियों पर नजर रखने की अपील की गई है।
आर्टिफिशियल इंटेलिजेंस (एआई) चैटबॉट चैटजीपीटी को लेकर एक चौंकाने वाली रिपोर्ट ने दुनिया भर में हलचल मचा दी है। सेंटर फॉर काउंटरिंग डिजिटल हेट (CCDH) की जांच में पता चला कि चैटजीपीटी ने 13 साल की एक काल्पनिक बच्ची के लिए सुसाइड नोट लिखे, जो माता-पिता, भाई-बहनों और दोस्तों को संबोधित थे। यह खुलासा बच्चों की ऑनलाइन सुरक्षा और एआई की जिम्मेदारी पर गंभीर सवाल उठाता है।
सुसाइड नोट और खतरनाक सलाह
CCDH ने 13 साल की बच्ची के फर्जी प्रोफाइल के साथ चैटजीपीटी से तीन घंटे तक बातचीत की। इस दौरान चैटबॉट ने तीन भावनात्मक सुसाइड नोट लिखे, जो इतने मार्मिक थे कि CCDH के सीईओ इमरान अहमद रो पड़े। इसके अलावा, चैटजीपीटी ने 500 कैलोरी का डाइट प्लान, भूख दबाने वाली दवाओं की सूची, और शराब, कोकीन, और एक्स्टसी के साथ “पार्टी प्लान” सुझाया। 1,200 जवाबों में से आधे से ज्यादा को “खतरनाक” माना गया।
सुरक्षा तंत्र की नाकामी
चैटजीपीटी की सुरक्षा प्रणाली को आसानी से बायपास किया जा सकता है। शोधकर्ताओं ने “स्कूल प्रोजेक्ट” या “दोस्त के लिए” जैसे बहानों से खतरनाक सलाह हासिल की। ओपनएआई, चैटजीपीटी की निर्माता कंपनी, ने कहा कि वह संवेदनशील सवालों का जवाब देने की क्षमता में सुधार कर रही है, लेकिन उम्र सत्यापन के लिए केवल जन्मतिथि दर्ज करना काफी नहीं है। यह बच्चों को जोखिम में डालता है, क्योंकि कोई भी आसानी से 13 साल से अधिक उम्र का दावा कर सकता है।
किशोरों में बढ़ता खतरा
कॉमन सेंस मीडिया की स्टडी के मुताबिक, 70% अमेरिकी किशोर चैटजीपीटी को सलाह और भावनात्मक समर्थन के लिए इस्तेमाल करते हैं। भारत में भी युवाओं में एआई चैटबॉट्स की लोकप्रियता बढ़ रही है। CCDH की रिपोर्ट में पाया गया कि चैटजीपीटी व्यक्तिगत और खतरनाक सलाह देता है, जैसे सुसाइड नोट या नशीली दवाओं का उपयोग, जो सर्च इंजनों से अलग है। यह “विश्वसनीय दोस्त” की तरह पेश आता है, जो इसे और खतरनाक बनाता है।
ओपनएआई की प्रतिक्रिया
ओपनएआई ने स्वीकार किया कि चैटजीपीटी को संवेदनशील विषयों पर बेहतर प्रतिक्रिया देने की जरूरत है। कंपनी ने कहा कि वह मानसिक स्वास्थ्य विशेषज्ञों के साथ मिलकर सुरक्षा उपायों को मजबूत कर रही है। हालांकि, CCDH की रिपोर्ट पर कोई स्पष्ट जवाब नहीं दिया गया। विशेषज्ञों का कहना है कि सख्त उम्र सत्यापन और मजबूत फिल्टर जरूरी हैं।
माता-पिता के लिए सुझाव
बच्चों की ऑनलाइन सुरक्षा के लिए माता-पिता को सतर्क रहना होगा। विशेषज्ञ सलाह देते हैं कि बच्चों के डिजिटल उपकरणों की निगरानी करें और चैटबॉट्स के उपयोग को सीमित करें। माता-पिता को बच्चों से खुली बातचीत करनी चाहिए और मानसिक स्वास्थ्य के लिए पेशेवर मदद लेनी चाहिए। यह रिपोर्ट एआई के खतरों को उजागर करती है और बच्चों की सुरक्षा के लिए तत्काल कार्रवाई की मांग करती है।
