OpenAI ChatGPT Safety Feature: चैटजीपीटी पर अश्लील कंटेंट मांगते ही आएगा अलर्ट, लागू हुए नए सिक्योरिटी फीचर्स
OpenAI ChatGPT Safety Feature के तहत अब बच्चों से जुड़ी आपत्तिजनक सामग्री और एआई इमेज को रोकने के लिए नए टूल और अलर्ट स्क्रीन पेश किए गए हैं
OpenAI ChatGPT Safety Feature: आज के डिजिटल युग में आर्टिफिशियल इंटेलिजेंस यानी एआई का इस्तेमाल हर उम्र के लोग अपनी जरूरत के हिसाब से कर रहे हैं। पढ़ाई से जुड़ा कोई सवाल हो या फिर सेहत से जुड़ी कोई समस्या, अब बहुत से लोग तुरंत एआई से जवाब मांग लेते हैं। जैसे-जैसे तकनीक का दायरा और इसका इस्तेमाल बढ़ रहा है, वैसे-वैसे बच्चों की ऑनलाइन सुरक्षा को लेकर चिंताएं भी काफी बढ़ रही हैं। इसी को ध्यान में रखते हुए लोकप्रिय एआई चैटबॉट चैटजीपीटी बनाने वाली प्रमुख कंपनी ओपनएआई ने सुरक्षा के मोर्चे पर कुछ बेहद महत्वपूर्ण और कड़े सिक्योरिटी फीचर्स पेश कर दिए हैं। चैटजीपीटी के इन नए फीचर्स की सहायता से बच्चों से जुड़ी अश्लील तस्वीरों और किसी भी तरह की आपत्तिजनक सामग्री की पहचान करना अब काफी आसान हो जाएगा। कंपनी ने इसके लिए एक अत्याधुनिक एआई इमेज क्लासिफायर भी तैयार कर लिया है, जो एआई की मदद से बनाई गई ऐसी सभी तस्वीरों को तुरंत पहचान लेगा। ओपनएआई द्वारा उठाए गए इन कदमों से डिजिटल स्पेस में सुरक्षा को और अधिक मजबूत करने में मदद मिलेगी और उपयोगकर्ताओं को गलत गतिविधियों से दूर रखने में सहायता मिलेगी। इन तमाम बदलावों का मुख्य उद्देश्य यह सुनिश्चित करना है कि तकनीक का इस्तेमाल सुरक्षित तरीके से हो और किसी भी प्रकार की अनुचित सामग्री को बढ़ावा न मिले। कंपनी लगातार अपनी प्रणालियों को बेहतर बनाने पर काम कर रही है ताकि उपयोगकर्ताओं को एक सुरक्षित और विश्वसनीय माहौल मिल सके।
OpenAI ChatGPT Safety Feature: और नया एआई इमेज क्लासिफायर
ओपनएआई के अनुसार चैटजीपीटी में अब ऐसे सभी प्रॉम्प्ट्स पर साफ तौर पर अलर्ट दिखाया जाएगा, जिनके जरिए बच्चों को गलत तरीके से दिखाने वाली सामग्री तैयार करने का प्रयास किया जाएगा। इसके साथ ही डेवलपर्स और कानून लागू करने वाली एजेंसियों के लिए भी नए टूल्स और विशेष गाइडलाइंस जारी की गई हैं। कंपनी का यह नया इमेज क्लासिफायर तस्वीरों को गहराई से स्कैन करके उनमें बच्चों से जुड़ी अश्लील तस्वीरों की सटीक पहचान कर सकेगा। यह टूल आर्टिफिशियल इंटेलिजेंस की मदद से तैयार की गई तस्वीरों को भी आसानी से परख लेगा। इसके बाद उस इमेज को एक विशेष स्कोर दिया जाएगा, जिससे सुरक्षा टीमों को यह समझने में बहुत सहायता मिलेगी कि कौन सी तस्वीर की जांच करना सबसे ज्यादा जरूरी है। इस तकनीक के माध्यम से संदिग्ध मामलों पर पैनी नजर रखी जा सकेगी।
राष्ट्रीय संगठनों के साथ मिलकर तैयार हुआ यह टूल
आपकी जानकारी के लिए बता दें कि इस उन्नत टूल को नेशनल सेंटर फॉर मिसिंग एंड एक्सप्लॉइटेड चिल्ड्रेन यानी एनसीएमईसी के साथ मिलकर पूरी तरह से तैयार किया गया है। इसकी शुरुआती टेस्टिंग के दौरान यह बात सामने आई कि इसने पहले के मुकाबले करीब अड़तालीस प्रतिशत कम तस्वीरों को जांच के लिए चुना, जबकि संदिग्ध तस्वीरों की सही पहचान करने की इसकी क्षमता पूरी तरह से बनी रही। फिलहाल इस खास टूल का इस्तेमाल कुछ चुनिंदा संस्थाएं ही एपीआई के जरिए कर सकेंगी। इन संस्थाओं में टेक कोएलिशन और रूस्ट जैसी जानी-मानी संस्थाएं शामिल हैं। ओपनएआई ने इन सभी अधिकृत संस्थाओं के लिए इस सुविधा को बिना किसी अतिरिक्त चार्ज के पूरी तरह से उपलब्ध कराया है, जिससे वे सुरक्षा के इस अभियान में आसानी से अपनी भूमिका निभा सकें।
OpenAI ChatGPT Safety Feature: और अकाउंट सस्पेंशन नियम
ओपनएआई की तरफ से चैटजीपीटी में एक नई अलर्ट स्क्रीन भी जोड़ी जा रही है। यदि कोई भी उपयोगकर्ता बच्चों से जुड़ा किसी भी प्रकार का अश्लील कंटेंट बनाने का प्रयास करेगा, तो उसे तुरंत स्क्रीन पर एक चेतावनी या अलर्ट दिखाई देगा। इसके साथ ही उसे इस तरह की किसी भी गतिविधि से पूरी तरह दूर रहने और जरूरी सहायता प्राप्त करने के लिए उचित जानकारी भी प्रदान की जाएगी। ऐसे गंभीर मामलों में नियमों का उल्लंघन करने वाले यूजर का अकाउंट चौबीस घंटे के लिए तुरंत सस्पेंड भी किया जाएगा। इन महत्वपूर्ण अलर्ट संदेशों को तैयार करने में प्रोटेक्ट चिल्ड्रन्स, लुसी फेथफुल फाउंडेशन और यूनिवर्सिटी ऑफ तस्मानिया के जाने-माने रिसर्चर्स जोएल स्कैनलान की बहुमूल्य सहायता ली गई है, ताकि उपयोगकर्ताओं को सही दिशा में जागरूक किया जा सके।
डेवलपर्स और कानून एजेंसियों के लिए नई गाइडलाइंस
कंपनी ने केवल उपयोगकर्ताओं के लिए ही नहीं बल्कि डेवलपर्स के लिए भी नई और स्पष्ट गाइडलाइंस जारी की हैं। इन दिशा-निर्देशों के जरिए वे अपने-अपने प्लेटफॉर्म पर इस तरह की आपत्तिजनक सामग्री की आसानी से पहचान कर सकेंगे और उसकी रिपोर्टिंग भी कर पाएंगे। वहीं दूसरी तरफ, कानून लागू करने वाली एजेंसियों को आर्टिफिशियल इंटेलिजेंस पर आधारित विभिन्न टूल्स, जांच में मदद करने वाले प्लगइन्स और डेटा एनालिसिस की बेहतरीन सुविधा प्रदान की जा रही है। कंपनी जांच अधिकारियों को इसके इस्तेमाल से जुड़ी जरूरी ट्रेनिंग और गाइड भी उपलब्ध करा रही है, जिससे वे कानूनी प्रक्रियाओं को अधिक प्रभावी ढंग से आगे बढ़ा सकें और तकनीकी साक्ष्यों की सही ढंग से परख कर सकें।
OpenAI ChatGPT Safety Feature: लागू होने की असली वजह
यह ध्यान देने योग्य बात है कि बीते कुछ समय से ओपनएआई पर बच्चों की सुरक्षा और ऑनलाइन प्रोटेक्शन को लेकर काफी दबाव बना हुआ था। अकेले अमेरिका के कई राज्यों के विभिन्न अटॉर्नी जनरल ने चैटजीपीटी के खिलाफ कई कड़े मुकदमे भी दर्ज किए हैं। इन मुकदमों और कानूनी शिकायतों में यह गंभीर आरोप लगाया गया था कि इस तकनीक के गलत इस्तेमाल से युवाओं पर काफी नकारात्मक और गलत असर पड़ रहा है। यही मुख्य कारण है कि कंपनी अब सुरक्षा के मोर्चे पर एक के बाद एक काफी सख्त, कड़े और त्वरित फैसले ले रही है ताकि भविष्य में ऐसी किसी भी स्थिति से पूरी तरह निपटा जा सके और कंपनी की सुरक्षा व्यवस्था को अधिक मजबूत और भरोसेमंद बनाया जा सके।
Read More Here
- Udaipur Thailand Woman Incident: थाईलैंड की महिला से अभद्रता करने वाला गिरफ्तार, 150 सीसीटीवी कैमरों से मिली कामयाबी
- Diet for 5 Year Old: पांच साल के बच्चों के लिए सही आहार योजना, नाश्ते में शामिल करें ये पौष्टिक विकल्प
- Amethi Samosa Trade Fair: दिल्ली ट्रेड फेयर में छाया अमेठी का समोसा, जानिए इसकी खासियत और इतिहास
- Vaikunth Chaturdashi 2026: जानिए सही तिथि और महत्व, शिव-विष्णु पूजा का है यह उत्तम योग