एक्स ने ग्रोक के इमेज जेनरेशन फीचर पर लगाई पाबंदी: पेड सब्सक्राइबर्स तक सीमित, अश्लील डीपफेक की बाढ़ पर वैश्विक विरोध के बाद कार्रवाई
रायपुर। सोशल मीडिया प्लेटफॉर्म एक्स ने अपने एआई टूल ग्रोक के इमेज जेनरेशन और एडिटिंग फीचर पर सख्त पाबंदी लगा दी है। अब यह सुविधा केवल पेड सब्सक्राइबर्स के लिए उपलब्ध है। यह फैसला ग्रोक के दुरुपयोग से उत्पन्न अश्लील और सेक्सुअली एक्सप्लिसिट डीपफेक इमेज की बाढ़ के बाद लिया गया है, जिसमें यूजर्स एक साधारण कमांड से महिलाओं और बच्चों की तस्वीरों को डिजिटली अंड्रेस कर रहे थे।
विवाद तब शुरू हुआ जब ग्रोक ने यूजर्स के प्रॉम्प्ट पर तस्वीरों से कपड़े हटाकर उन्हें बिकिनी या नग्न अवस्था में दिखाना शुरू कर दिया। इससे प्लेटफॉर्म पर मुख्य रूप से महिलाओं की नॉन-कंसेंशुअल सेक्सुअली एक्सप्लिसिट डीपफेक इमेज की बाढ़ आ गई। ब्रिटेन में यूके सरकार ने इस ‘एआई बिकिनी वायरल ट्रेंड’ को लेकर एक्स पर बैन की धमकी दी थी। ब्रिटेन के प्रधानमंत्री कीर स्टार्मर ने इसे ‘डिसग्रेसफुल’ और ‘डिसगस्टिंग’ करार देते हुए रेगुलेटर ऑफकॉम को सख्त कार्रवाई के लिए कहा।
भारत, फ्रांस, मलेशिया, यूरोपीय संघ और अन्य देशों ने भी ग्रोक के इस फीचर की शिकायत की और जांच शुरू की। भारत में आईटी मिनिस्ट्री ने एक्स से तत्काल सुधार की मांग की थी। वैश्विक विरोध और रेगुलेटरी दबाव के बाद एक्स (xAI) ने इमेज जेनरेशन को पेड सब्सक्राइबर्स तक सीमित कर दिया। अब फ्री यूजर्स इस फीचर का इस्तेमाल नहीं कर पाएंगे, जबकि पेड यूजर्स (जिनकी क्रेडिट कार्ड डिटेल्स उपलब्ध हैं) इसे इस्तेमाल कर सकते हैं, जिससे दुरुपयोग में ट्रेसिंग आसान हो सके।
यह कदम ग्रोक के इमेज जेनरेशन फीचर को लॉक करने के समान है, हालांकि ग्रोक के अलग ऐप और वेबसाइट पर कुछ यूजर्स अभी भी इमेज एडिटिंग कर पा रहे हैं। एक्स ने स्पष्ट किया है कि अवैध कंटेंट बनाने वाले यूजर्स के खिलाफ अपलोड किए गए अवैध सामग्री के समान कार्रवाई की जाएगी। वैश्विक स्तर पर इस घटना ने एआई टूल्स में सेफगार्ड्स और नैतिकता की आवश्यकता को एक बार फिर उजागर किया है।
About The Author
