जौनपुर वासियों, जानें साइबरबुलिंग व एआई उत्पीड़न के बारे में हमें क्यों रहना चाहिए जागरूक?

आज के हमारे लेख में हम देखेंगे कि, साइबर बदमाशी या साइबरबुलिंग (Cyberbullying) और ऑनलाइन उत्पीड़न में एआई का उपयोग कैसे किया जा रहा है। हम समझेंगे कि, साइबरबुलिंग किसी के मानसिक स्वास्थ्य को कैसे प्रभावित करती है, और यह इतना गंभीर मुद्दा क्यों बनता जा रहा है। बाद में, हम ब्लू व्हेल गेम (Blue Whale Game) जैसे मामलों का पता लगाएंगे, और देखेंगे कि ऑनलाइन सामग्री लोगों को हानिकारक कार्यों की ओर कैसे धकेल सकती है। अंततः हम जानेंगे कि, भारत सरकार जागरूकता और नए उपायों के माध्यम से एआई संचालित उत्पीड़न और डीपफेक (Deepfake) दुरुपयोग से निपटने हेतु क्या कोशिश कर रही हैं।

साइबरबुलिंग (Cyberbullying) एक ऐसा मुद्दा है, जो बच्चों और वयस्कों को समान रूप से प्रभावित करता है। यह शब्द उस बदमाशी को संदर्भित करता है, जो सेल फोन (cell phone) और कंप्यूटर (computer) जैसे डिजिटल उपकरणों पर होती है। इसमें गेमिंग कंसोल (Gaming consoles) भी शामिल है। सोशल मीडिया (social media), टेक्स्ट संदेश (text message), ईमेल (Email), ऑनलाइन फ़ोरम (Online Forums) और गेमिंग समुदाय (Gaming community) सबसे आम स्थान हैं, जहां साइबरबुलिंग होती है। एक अनुमान है कि, 30% किशोरों ने साइबरबुलिंग का अनुभव किया है। इसका शिकार होने वाले वयस्कों की बढ़ती संख्या (15%) चिंता का कारण बन रही है।

पिछले वर्ष से, जेनरेटिव एआई (Generative AI) का उपयोग करके ऑनलाइन उत्पीड़न और साइबरबुलिंग बढ़ रही है। इसमें झूठी कल्पना बनाना या किसी के जीवन पर नकारात्मक प्रभाव डालने वाले लेखन जैसे कई तरीके शामिल हो सकते हैं। एआई-जनित उत्पीड़न इस डिजिटल दुरुपयोग के पारंपरिक उत्पीड़न की तुलना में पीड़ितों पर अधिक दबाव डाल सकता है। यह मनोवैज्ञानिक और भावनात्मक शोषण को भी बढ़ा सकता है। हेरफेर किए गए मीडिया के ये रूप समस्याग्रस्त हो सकते हैं, क्योंकि पीड़ित के लिए यह साबित करना बहुत मुश्किल हो सकता है कि, वह वास्तव में नकली सामग्री हैं। इससे अतिरिक्त तनाव, भय और चिंता पैदा होती है। जैसे-जैसे यह तकनीक और इसकी क्षमताएं बढ़ती जा रही हैं, एआई-जनित उत्पीड़न के खतरों के बारे में हम निम्नलिखित तथ्य जानते हैं:

1. स्वचालित ट्रोल बॉट (Troll bots) के माध्यम से उत्पीड़न काफी हद तक बढ़ जाता है। क्योंकि, इनसे काफ़ी लोगों को सामग्री भेजी जाती है, और यह तेजी से साझा की जाती है।

2. एआई-जनित सामग्री व्यक्तिगत डेटा से पहलू सीखकर, हमलों को अधिक व्यक्तिगत बना सकती है।

3. यह तकनीक ऐसी सामग्री बना सकती है, जो स्वचालित सामग्री मॉडरेशन सिस्टम (Content moderation systems) से सफलतापूर्वक बच जाती है।

4. उत्पीड़न के लिए एआई-जनित सामग्री, सिस्टम को प्रशिक्षित करने हेतु प्रयुक्त डेटा के आधार पर, कोई व्यक्ति घृणास्पद भाषण और नस्लवादी टिप्पणियों के प्रति कितना संवेदनशील है, यह भी जान सकती है।

जब ऑनलाइन बदमाशी या साइबरबुलिंग होती है, तो उसका प्रभाव लंबे समय तक रह सकते हैं, और व्यक्ति को निम्नलिखित तरीकों से प्रभावित कर सकते हैं:

• मानसिक रूप से – परेशानी, चिंता, घबराहट, डर या गुस्सा महसूस करना।

• भावनात्मक रूप से – शर्म महसूस करना या अपनी पसंदीदा चीज़ों में रुचि खोना।

• शारीरिक रूप से – थकान आना, नींद की कमी, पेट दर्द या सिरदर्द जैसे लक्षणों का अनुभव करना।

धीरे-धीरे लोग आत्मविश्वास खो सकते हैं, और चरम मामलों में, अपनी जान भी ले सकते हैं। साइबरबुलिंग हमें कई तरह से प्रभावित कर सकती है। साइबरबुलिंग का सामना करने पर, लोग हमारे बारे में क्या कहते या सोचते हैं, इसके बारे में हम असुरक्षित महसूस करने लगते हैं। इससे दोस्तों और परिवार से दूरी बन सकती है, नकारात्मक विचार और आत्म-चर्चा हो सकती है, या हम दोषी महसूस कर सकते हैं। अकेलापन, अभिभूत महसूस करना, बार-बार सिरदर्द, मतली या पेट दर्द भी आम है। आप उन चीज़ों को करने के लिए अपनी प्रेरणा खो सकते हैं, जिन्हें करने में आपको आमतौर पर आनंद आता है, और आप अपने पसंदीदा लोगों से अलग-थलग महसूस कर सकते हैं। इससे नकारात्मक भावनाएं और विचार कायम रह सकते हैं, जो आपके मानसिक स्वास्थ्य और कल्याण पर प्रतिकूल प्रभाव डाल सकते हैं।

स्कूल छोड़ना साइबरबुलिंग का एक और आम प्रभाव है। यह उन बच्चों और युवाओं के मानसिक स्वास्थ्य को प्रभावित कर सकता है, जो अपने मनोवैज्ञानिक और शारीरिक दर्द से निपटने के लिए शराब और नशीली दवाओं का सहारा लेते हैं। इसलिए, किसी भरोसेमंद दोस्त, परिवार के सदस्य या स्कूल काउंसलर (Counselor) से बात करना मदद पाने की शुरुआत हो सकती है। इन भावनाओं पर काबू पाया जा सकता है, और लोग अपना आत्मविश्वास और स्वास्थ्य दोबारा हासिल कर सकते हैं।

चलिए अब साइबरबुलिंग का एक उदाहरण देखते हैं। ‘ब्लू व्हेल चैलेंज’ (Blue Whale Challenge) एक ऑनलाइन गेम है, जिसने अभिभावकों के मन में डर पैदा कर दिया था। विशेषकर किशोरों में कई आत्महत्याओं के लिए, ब्लू व्हेल चैलेंज को जिम्मेदार ठहराया गया है। इस गेम में प्रतिभागियों को 50 दिनों की अवधि में पूरे करने के लिए कुछ कार्य दिए जाते हैं। प्रतिभागियों को दिया गया अंतिम कार्य आत्महत्या करना, और कार्य के सफल समापन का प्रमाण अपलोड करना है। एक परिकल्पना के अनुसार, जिनमें मृत्यु का भय कम हो गया है या दर्द के प्रति संवेदनशीलता कम हो गई है, केवल वही व्यक्ति यदि उनमें आत्मघाती विचार विकसित होते हैं, तो आत्महत्या के प्रयास करते हैं। इस सिद्धांत को ब्लू व्हेल चैलेंज पर लागू करते हुए, गेम के शुरुआती कार्यों को ऐसे सोचा जा सकता है, जो शारीरिक दर्द सहनशीलता को बढ़ाते हैं और इस प्रकार मृत्यु के भय को कम करते हैं। इस प्रकार, कई कार्य पूरे करने पर यह गेम युवाओं को आत्महत्या करने पर मजबूर करता था। इस गेम की वजह से, कई युवाओं ने अंततः अपनी जान गंवाई है।

इन्हीं घटनाओं के चलते, भारत में डीपफेक खतरों के खिलाफ़ निम्नलिखित सुरक्षा रणनीतियां अपनाई जा रही हैं:

1. डीपफेक खोज को मजबूत करना
साइबर सुरक्षा विशेषज्ञ उन्नत एआई सुरक्षा उपकरणों में निवेश कर रहे हैं, जो वीडियो और ऑडियो डेटा में विसंगतियों का विश्लेषण करते हैं। व्यापक क्षति पहुंचाने से पहले जोखिमों को कम करने के लिए हमारे देश में डीपफेक का पता लगाना महत्वपूर्ण है।

2. डिजिटल फोरेंसिक (Digital Forensics) और खतरों की सूचना
डिजिटल फोरेंसिक विशेषज्ञ डीपफेक वीडियो की उत्पत्ति का पता लगाने के लिए नए तरीके विकसित कर रहे हैं। दूसरी ओर, खतरों की सूचना भी डीपफेक-संबंधित साइबर अपराधों की निगरानी और भविष्यवाणी करने में महत्वपूर्ण भूमिका निभाती है।

3. देश में साइबर सुरक्षा नीति को बढ़ाना
डीपफेक के दुर्भावनापूर्ण उपयोग को अपराध घोषित करने के लिए, भारत में सुरक्षा नियमों को संशोधित किया जा रहा है। अधिकारी अपराधियों को जिम्मेदार ठहराने और डीपफेक पीड़ितों की सुरक्षा के लिए सख्त कानून तैयार कर रहे हैं।

4. प्रमाणीकरण प्रणालियों को मजबूत करना
पहचान धोखाधड़ी (Identity fraud) को रोकने के लिए, कुछ संगठन बायोमेट्रिक प्रमाणीकरण (Biometric authentication) और एआई-संचालित सत्यापन प्रणाली लागू कर रहे हैं। एआई-जनित प्रतिरूप हमलों का प्रभावी ढंग से मुकाबला करने के लिए, भारत में प्रमाणीकरण प्रणाली विकसित होनी चाहिए।

•सार्वजनिक जागरूकता और डीपफेक रोकथाम के उपाय

1. डिजिटल सुरक्षा पर नागरिकों को शिक्षित करना
जोखिमों को कम करने के लिए, डीपफेक के बारे में सार्वजनिक जागरूकता बढ़ाना आवश्यक है। सरकारी और साइबर सुरक्षा संगठन भारत में लोगों को डीपफेक वीडियो पहचानने में मदद करने के लिए, जागरूकता अभियान शुरू कर रहे हैं।

2. साइबर सुरक्षा में एआई सुरक्षा और मशीन लर्निंग (Machine Learning) लागू करना
कंपनियां मज़बूत एआई सुरक्षा समाधान विकसित करने के लिए, साइबर सुरक्षा में मशीन लर्निंग का लाभ उठा रही हैं। वास्तविक समय में एआई-जनित समस्याओं की पहचान करने के लिए, स्वचालित पहचान प्रणालियों को प्रशिक्षित किया जा रहा है।

3. मीडिया पर विश्वास और सोशल मीडिया सुरक्षा को मज़बूत करना
भारत में मीडिया विश्वास संकट से निपटने के लिए, सोशल मीडिया प्लेटफॉर्म एआई-संचालित मॉडरेशन टूल (Moderation tools.) पेश कर रहे हैं। डीपफेक सामग्री के फैलने से पहले, उसका पता लगाने और उसे हटाने के लिए सोशल मीडिया सुरक्षा उपायों को बढ़ाया जा रहा है।

संदर्भ

1. https://tinyurl.com/mpkzzhph
2. https://tinyurl.com/39wxh7hk
3. https://tinyurl.com/bbxpc46a
4. https://tinyurl.com/yxtj4yj5