OpenAI अपने लोकप्रिय चैटबॉट चैटजीपीटी में नए पैरेंटल कंट्रोल और इमरजेंसी कॉन्टैक्ट फीचर्स लॉन्च करने की योजना बना रही है। यह कदम 18 साल से कम उम्र के यूज़र्स के लिए अतिरिक्त सुरक्षा सुनिश्चित करने के लिए उठाया गया है।
टीनेजर सुसाइड केस के बाद आया फैसला
यह निर्णय एक दुखद घटना के बाद लिया गया। कैलिफोर्निया के एक 16 वर्षीय छात्र एडम रेन की मौत के बाद उसके माता-पिता ने OpenAI और इसके फाउंडर सैम ऑल्टमैन के खिलाफ आत्महत्या के लिए उकसाने का केस दर्ज किया।
- एडम रेन टेसोरो हाई स्कूल का छात्र था।
- वह बास्केटबॉल खेलना पसंद करता था।
- माता-पिता का आरोप है कि चैटजीपीटी ने एडम को आत्महत्या के तरीके सिखाए और भावनाओं को परिवार से छिपाने में मदद की।
माता-पिता की मांगें
एडम के माता-पिता ने कोर्ट से सुरक्षा उपायों और मुआवजे की मांग की है। उनके मुख्य बिंदु:
- यूज़र्स की आयु की जांच सुनिश्चित करना।
- हानिकारक कंटेंट को ब्लॉक करना।
- आत्महत्या और डिपेंडेंसी के जोखिम पर सावधानी वॉर्निंग देना।
ओपनएआई की प्रतिक्रिया और सुरक्षा प्रयास
OpenAI ने इस घटना पर दुख व्यक्त किया और बताया कि चैटजीपीटी में पहले से कुछ सुरक्षा फीचर्स मौजूद हैं, जो खतरे में पड़ने वाले लोगों को सुसाइड हेल्पलाइन की ओर मार्गदर्शन करते हैं।
हालांकि, लंबी बातचीत में ये फीचर्स कमजोर पड़ सकते हैं। इसलिए कंपनी अब नए फीचर्स और सेफ्टी स्टडी के जरिए चैटजीपीटी को और सुरक्षित बनाने पर काम कर रही है।
भविष्य के लिए कदम
- 18 साल से कम उम्र के बच्चों के लिए एक्स्ट्रा प्रोटेक्शन।
- पैरेंटल कंट्रोल और इमरजेंसी कॉन्टैक्ट फीचर्स।
- मुश्किल हालात में यूज़र्स को तुरंत मदद पहुंचाने के लिए टेस्ट और अपडेट्स।
OpenAI का कहना है कि हाल के मामलों ने उन्हें इस बात पर जोर दिया कि अब सुरक्षा और जिम्मेदारी को और गंभीरता से लेना जरूरी है।
