ओपनएआई सोरा: डीपफेक पर लगाम, सेलिब्रिटी के वीडियो पर नई सुरक्षा नीतियाँ

AI के नए चेहरे: Sora अब सेलेब्रिटी डीपफेक से करेगा तौबा

AI की दुनिया में अपनी धूम मचाने वाले OpenAI के वीडियो जनरेशन ऐप Sora ने एक महत्वपूर्ण कदम उठाते हुए अब मशहूर हस्तियों के डीपफेक वीडियो बनाने पर पूरी तरह से लगाम कस दी है। Sora 2 के लॉन्च के बाद, जहां एक ओर AI की क्षमताएं उजागर हुईं, वहीं दूसरी ओर सोशल मीडिया पर सेलेब्रिटीज के चेहरे और आवाज़ का इस्तेमाल कर नकली वीडियो बनाने का सिलसिला शुरू हो गया, जिसने विवादों का बवंडर खड़ा कर दिया।

इस मुद्दे ने तब तूल पकड़ा जब ‘ब्रेकिंग बैड’ फेम अभिनेता ब्रायन क्रैंस्टन ने सार्वजनिक रूप से इस बात पर आपत्ति जताई कि उनकी पहचान का बिना इजाज़त इस्तेमाल हो रहा है। उन्होंने इस मामले को SAG-AFTRA, 1.7 लाख से अधिक कलाकारों के प्रतिनिधित्व करने वाले यूनियन के समक्ष उठाया। क्रैंस्टन ने स्पष्ट किया कि यह केवल उनकी ही नहीं, बल्कि हर कलाकार की पहचान की सुरक्षा का सवाल है और उन्होंने OpenAI द्वारा इस दिशा में उठाए गए कदम की सराहना की।

यह केवल जीवित कलाकारों तक ही सीमित नहीं था। रॉबिन विलियम्स और जॉर्ज कार्लिन जैसे दिवंगत सेलेब्रिटीज के परिवारों ने भी OpenAI से शिकायत की। उनका कहना था कि उनके प्रियजनों की आवाज़ और शक्ल का बिना अनुमति इस्तेमाल अनैतिक और अस्वीकार्य है।

इन शिकायतों के जवाब में, OpenAI ने “ऑप्ट इन पॉलिसी” को अपनाने की घोषणा की है। इसका मतलब है कि अब किसी भी व्यक्ति की आवाज़ या चेहरा तभी इस्तेमाल किया जा सकेगा जब वह स्वयं इसके लिए अपनी सहमति देगा। कंपनी ने स्वीकार किया कि पहले कुछ “अनजाने जनरेशन” हुए थे और अब सुरक्षा उपायों को और पुख्ता किया जा रहा है।

यह भी बताया जा रहा है कि Sora ऐप के कैमियो फीचर, जो यूजर्स को अपना AI अवतार बनाने की सुविधा देता है, को भी सीमित किया गया है। इसी फीचर का इस्तेमाल कर कुछ उपयोगकर्ताओं ने मशहूर हस्तियों के डीपफेक वीडियो बनाए थे। वर्तमान में, यह ऐप केवल iOS पर उपलब्ध है, और एंड्रॉयड सपोर्ट जल्द ही जोड़ा जाएगा।

यह पहली बार नहीं है जब Sora विवादों में आया है। इससे पहले, OpenAI को मार्टिन लूथर किंग जूनियर जैसे ऐतिहासिक व्यक्तित्वों से जुड़े आपत्तिजनक और नस्लभेदी कंटेंट को ब्लॉक करना पड़ा था। अब कंपनी ने स्पष्ट कर दिया है कि किसी भी सार्वजनिक या ऐतिहासिक शख्सियत के प्रतिनिधि अपनी पहचान के इस्तेमाल पर रोक लगाने की औपचारिक अर्ज़ी दे सकते हैं।