Dipali KumariGrok AI Deepfake Ban: आर्टिफिशियल इंटेलिजेंस के बढ़ते प्रभाव और इसके दुरुपयोग को लेकर लंबे समय से उठ रही चिंताओं के बीच सोशल मीडिया प्लेटफॉर्म एक्स ने एक अहम और जरूरी कदम उठाया है। अब एक्स पर मौजूद एआई चैटबॉट ग्रोक की मदद से किसी भी वास्तविक व्यक्ति की तस्वीर को आपत्तिजनक या अश्लील रूप में एडिट करना संभव नहीं होगा।
पिछले कुछ समय से एआई द्वारा बनाई जा रही अश्लील डीपफेक तस्वीरें दुनियाभर में विवाद का कारण बनी हुई थीं। खासकर महिलाओं, सार्वजनिक हस्तियों और आम लोगों की तस्वीरों को बिना अनुमति आपत्तिजनक रूप में बदलकर वायरल किया जाना गंभीर चिंता का विषय बन गया था।
सब्सक्रिप्शन लेने वालों पर भी लागू होगा प्रतिबंध
एक्स की ओर से साफ किया गया है कि यह प्रतिबंध केवल फ्री यूज़र्स तक सीमित नहीं रहेगा, बल्कि ग्रोक एआई का सब्सक्रिप्शन लेने वाले उपयोगकर्ताओं पर भी समान रूप से लागू होगा। यानी कोई भी उपयोगकर्ता, चाहे वह भुगतान करता हो या नहीं, वास्तविक लोगों की तस्वीरों को अश्लील ढंग से एडिट नहीं कर सकेगा।
स्थानीय कानूनों के तहत कार्रवाई
एक्स ने यह भी स्पष्ट किया है कि जो उपयोगकर्ता इस तरह की तस्वीरें बनाने या फैलाने की कोशिश करेंगे, उनके खिलाफ स्थानीय कानूनों के अनुसार कार्रवाई की जाएगी। जरूरत पड़ने पर ऐसे अकाउंट्स को ब्लॉक या सस्पेंड भी किया जा सकता है। इससे यह साफ होता है कि प्लेटफॉर्म अब केवल चेतावनी तक सीमित नहीं रहना चाहता, बल्कि कड़े कदम उठाने को तैयार है।
काल्पनिक पात्रों को लेकर छूट
हालांकि एक्स ने यह भी कहा है कि ग्रोक एआई अभी भी आर-रेटेड फिल्मों के अनुरूप काल्पनिक वयस्क पात्रों की तस्वीरें एडिट करने की अनुमति देगा। यानी पूरी तरह काल्पनिक चरित्रों पर यह प्रतिबंध लागू नहीं होगा।
यहीं से विशेषज्ञों की चिंता भी शुरू होती है। सवाल उठ रहा है कि प्लेटफॉर्म यह कैसे तय करेगा कि किसी तस्वीर में दिख रहा व्यक्ति वास्तविक है या काल्पनिक। यही वह बिंदु है जहां एआई की सीमाएं और जिम्मेदारी दोनों की परीक्षा होगी।
वैश्विक दबाव में लिया गया फैसला
यह कदम अचानक नहीं उठाया गया। मलेशिया और इंडोनेशिया जैसे देशों में एक्स और उसके एआई फीचर्स पर पहले ही प्रतिबंध लगाए जा चुके हैं। वहीं ब्रिटेन के मीडिया नियामक ऑफकॉम और वहां के प्रधानमंत्री सर कीर स्टारमर सहित कई वरिष्ठ अधिकारियों ने एआई के दुरुपयोग को लेकर कड़ी नाराजगी जताई थी।
इन आलोचनाओं ने एक्स को यह सोचने पर मजबूर किया कि अगर समय रहते सख्ती नहीं दिखाई गई, तो वैश्विक स्तर पर और कड़े प्रतिबंधों का सामना करना पड़ सकता है।
विवादों में रहा है प्लेटफॉर्म
एलन मस्क की एक पुरानी पोस्ट, जिसमें एआई से बनाई गई एक आपत्तिजनक तस्वीर साझा की गई थी, ने इस बहस को और तेज कर दिया था। उस घटना के बाद यह सवाल और गहरा गया कि जब प्लेटफॉर्म के मालिक ही ऐसी सामग्री साझा करेंगे, तो जवाबदेही किसकी होगी।
नियम लागू करना सबसे बड़ी चुनौती
तकनीकी विशेषज्ञों का मानना है कि नियम बनाना आसान है, लेकिन उन्हें लागू करना कहीं ज्यादा मुश्किल। एआई द्वारा बनाई गई तस्वीरों की पहचान करना, वास्तविक व्यक्ति की पुष्टि करना और तुरंत कार्रवाई करना एक जटिल प्रक्रिया है।
कई जानकारों का कहना है कि ऐसे सुरक्षा उपाय एआई के व्यापक उपयोग से पहले ही लागू किए जाने चाहिए थे, ताकि नुकसान को रोका जा सकता।
