मस्क के ग्रोक को दुनिया में पहली बार कामुक छवियों के कारण इंडोनेशिया, मलेशिया द्वारा ब्लॉक किया गया

एलोन मस्क के ग्रोक को इंडोनेशिया और मलेशिया द्वारा अवरुद्ध कर दिया गया है, एआई टूल के “डिजिटल अनड्रेसिंग” फ़ंक्शन के बाद ऐसा करने वाले पहले देश महिलाओं और नाबालिगों की अश्लील और छेड़छाड़ की गई तस्वीरों के साथ इंटरनेट पर बाढ़ आ गई है।

एक वायरल चलन के बाद ग्रोक पर लगाम लगाने के लिए मस्क पर अंतरराष्ट्रीय दबाव बढ़ रहा है, जहां उपयोगकर्ताओं ने एआई टूल से स्पष्ट यौन डीपफेक उत्पन्न करने के लिए कहा है।

ग्रोक मस्क के सोशल मीडिया प्लेटफॉर्म एक्स पर एक टूल है, जिसे पहले ट्विटर के नाम से जाना जाता था।

इंडोनेशिया के डिजिटल मंत्री मेउत्या हाफिद ने शनिवार को एक बयान में कहा कि प्रतिबंध “महिलाओं, बच्चों और व्यापक जनता को कृत्रिम बुद्धिमत्ता तकनीक का उपयोग करके उत्पन्न नकली अश्लील सामग्री के जोखिम से बचाने के लिए है।”

मलेशिया ने रविवार को अपने स्वयं के अस्थायी प्रतिबंध की घोषणा की, “महिलाओं और नाबालिगों से जुड़ी सामग्री सहित अश्लील, यौन रूप से स्पष्ट, अश्लील, घोर आक्रामक और गैर-सहमति से हेरफेर की गई छवियों को उत्पन्न करने के लिए ग्रोक का बार-बार दुरुपयोग।”

इंडोनेशिया और मलेशिया दोनों मुस्लिम-बहुल देश हैं जहां पोर्नोग्राफी विरोधी सख्त कानून हैं।

सीएनएन ने टिप्पणी के लिए मूल कंपनी एक्सएआई से संपर्क किया है।

यूनाइटेड किंगडम, यूरोपीय संघ और भारत के अधिकारियों ने भी ग्रोक की रेलिंग के बारे में चिंता व्यक्त की है।

पहले मस्क और एक्सएआई ने कहा था कि वे आपत्तिजनक खातों को स्थायी रूप से निलंबित करके और “स्थानीय सरकारों और कानून प्रवर्तन के साथ काम करके” समस्या से निपट रहे हैं। लेकिन उपयोगकर्ताओं के अनुरोधों पर ग्रोक की प्रतिक्रियाएँ अभी भी महिलाओं का यौन शोषण करने वाली छवियों से भरी हुई थीं

ग्रोक को कई उपयोगकर्ताओं द्वारा अन्य मुख्यधारा एआई मॉडल की तुलना में एक बाहरी व्यक्ति के रूप में देखा जाता है, जो अनुमति देता है और कुछ मामलों में, स्पष्ट यौन सामग्री और साथी अवतारों को बढ़ावा देता है।

डिजिटल अनड्रेसिंग ट्रेंड में उछाल पिछले साल के अंत में शुरू हुआ जब कई उपयोगकर्ताओं को पता चला कि वे एक्स पर ग्रोक को टैग कर सकते हैं और छवियों में हेरफेर कर सकते हैं।

उपयोगकर्ताओं ने चैटबॉट को बिकनी पहने और अश्लील पोज़ देते लोगों की तस्वीरें बनाने के लिए प्रेरित किया है, जिससे दुनिया भर में सैकड़ों-हजारों महिलाओं को परेशानी हो रही है।

एल्गोरिदम की जांच करने वाली एक यूरोपीय गैर-लाभकारी संस्था एआई फोरेंसिक के शोधकर्ताओं ने 25 दिसंबर से 1 जनवरी के बीच ग्रोक द्वारा उत्पन्न 20,000 से अधिक यादृच्छिक छवियों और 50,000 उपयोगकर्ता अनुरोधों का विश्लेषण किया।

शोधकर्ताओं ने पाया कि “‘उसके’ ‘पुट’/’हटाओ’, ‘बिकनी’ और ‘कपड़े’ सहित शब्दों का उच्च प्रचलन है।”

लोगों की बनाई गई आधे से अधिक छवियों में “अंडरवियर या बिकनी जैसी न्यूनतम पोशाक में व्यक्ति शामिल थे।”

सार्वजनिक रूप से, मस्क ने लंबे समय से “जागृत” एआई मॉडल और जिसे वह सेंसरशिप कहते हैं, के खिलाफ वकालत की है।

लेकिन एक्सएआई की स्थिति की जानकारी रखने वाले एक सूत्र ने सीएनएन को बताया कि अरबपति ने फर्म के भीतर ग्रोक के लिए रेलिंग को पीछे धकेल दिया है।

एक्सएआई सुरक्षा टीम, जो पहले से ही अपने प्रतिस्पर्धियों की तुलना में छोटी थी, ने विवाद से पहले के हफ्तों में कई कर्मचारियों को खो दिया।

मस्क ने कहा है कि जो कोई भी अवैध सामग्री बनाने के लिए ग्रोक का उपयोग करेगा उसे परिणाम भुगतने होंगे। लेकिन उन्होंने ऐप पर यौन सामग्री के बारे में चिंताओं को काफी हद तक खारिज कर दिया है, यह तर्क देते हुए कि सरकारें “केवल स्वतंत्र भाषण को दबाना चाहती हैं” और इमोजी के साथ आलोचना का जवाब दे रही हैं।

पिछले हफ्ते, ग्रोक ने अपनी कुछ छवि निर्माण सुविधाओं को भुगतान किए गए एक्स ग्राहकों तक सीमित कर दिया था, लेकिन प्रतिबंध केवल उन तरीकों में से एक पर लागू होते हैं जिनसे उपयोगकर्ता ग्रोक के साथ बातचीत करते हैं।

गैर-ग्राहक अभी भी ग्रोक से ऐप पर छवियों को संपादित करने का अनुरोध कर सकते हैं, और छवि और वीडियो निर्माण कार्य अभी भी इसकी स्टैंडअलोन वेबसाइट और ऐप के माध्यम से मुफ्त में पेश किए जाते हैं।

ब्रिटेन की प्रौद्योगिकी सचिव लिज़ केंडल ने शुक्रवार को गहरी नकली छवियों से लड़ने के लिए त्वरित कार्रवाई का आह्वान किया।

उन्होंने कहा, “महिलाओं और बच्चों की तस्वीरों के साथ यौन छेड़छाड़ घृणित और घृणित है।”

उन्होंने यूके के स्वतंत्र संचार नियामक का जिक्र करते हुए कहा, “मुझे उम्मीद है कि ऑफकॉम संसद द्वारा दी गई पूरी कानूनी शक्तियों का उपयोग करेगा।”