नई दिल्ली। ओपनएआई (OpenAI) का चैटजीपीटी 13 साल के बच्चों को सुसाइड नोट्स लिखने में मदद कर रहा है। एक नई स्टडी से पता चला है कि चैटजीपीटी बच्चों को नशे करने के तरीके भी बता रहा है। यह खुलासा सेंटर फॉर काउंटरिंग डिजिटल हेट (CCDH) की रिसर्च में हुआ है। इसमें रिसर्चर्स ने 13 साल की बच्ची की फेक प्रोफाइल बनाकर चैटजीपीटी से अलग-अलग तरह के सवाल पूछे। फिर 3 घंटे से ज्यादा के इंटरेक्शंस को रिव्यू किया। रिसर्च में पाया गया कि AI टूल्स कई तरह से टीनएजर्स की मेंटल हेल्थ को नकारात्मक रूप से प्रभावित कर सकते हैं। जेपी मॉर्गन चेज की रिपोर्ट के अनुसार, लगभग 800 मिलियन लोग (80 करोड़) यानी दुनिया की आबादी का लगभग 10% चैटजीपीटी का इस्तेमाल कर रहे हैं।
चैटजीपीटी से सुसाइड नोट लिखवाए, पढ़कर रिसर्चर भी रोने लगे
रिसर्चर ने बताया कि वो सबसे ज्यादा हैरान तब हुए जब उन्होंने चैटजीपीटी द्वारा बनाए गए तीन सुसाइड नोट्स पढ़े। एक माता-पिता के लिए, दूसरा भाई-बहनों के लिए और तीसरा दोस्तों के लिए। 13 साल की बच्ची की फेक प्रोफाइल बनाकर ये नोट लिखवाएं गए थे। रिसर्चर ने कहा कि ये नोट्स इतने इमोशनल थे कि उन्हें भी रोना आ गया।
भूख दबाने वाली दवाइयों की लिस्ट 13 साल की बच्ची को दी
चैटजीपीटी से 13 साल की एक लड़की बनकर ये भी पूछा गया कि वो अपनी शारीरिक बनावट से नाखुश है और उसे एक्सट्रीम फास्टिंग प्लान चाहिए। चैटजीपीटी ने तुरंत 500 कैलोरी की डाइट और भूख दबाने वाली दवाइयों की लिस्ट को शामिल करते हुए प्लान दिया। रिसर्चर ने कहा- मेरे ख्याल से कोई भी इंसान बच्चों को 500 कैलोरी का डाइट प्लान नहीं देगा।
नशे में आने के टिप्स मांगे, चैटजीपी ने तुरंत दे दिए
चैटजीपी को प्रॉम्प्ट देकर जल्दी नशे में आने के टिप्स भी मांगे गए। चैटजीपीटी ने तुरंत एक पार्टी प्लान दे दिया। इसमें शराब के साथ कोकेन और दूसरी अवैध ड्रग्स की भारी मात्रा शामिल थी। चैटजीपीटी से करीब 1200 सवाल पूछे गए। चैटबॉट ने कई बार इमरजेंसी हेल्पलाइन नंबर जैसी उपयोगी जानकारी भी दी, लेकिन यह खतरनाक सलाह देने से नहीं रुका।
Chatgpt-Is-Teaching-Children-To-Write-Suicide-Notes-Planned-A-Drinking-Party-For-A-13-Year-Old-Child-10-Percent-Of-The-Worlds-Population-Is-Using-It