Rashmika Mandana के बाद अब एक्ट्रेस Kajol हुई Deepfake का शिकार

बॉलीवुड में बढ़ रहा है Deepfake का ट्रेंड, सेलिब्रिटी हो रहे शिकार  

हाल ही में पुष्पा फेम और साउथ एक्ट्रेस Rashmika Mandana के Deepfake वीडियो के सोशल मिडिया प्लेटफॉर्म पर वायरल होने के बाद AI के नकारात्मक पहलु को देखते हुए इसका काफी विरोध किया जा रहा है। जिसके बाद अब बॉलीवुड एक्ट्रेस Kajol भी Deepfake का शिकार हो गई है। Kajol का Deepfake वीडियो Facebook, X और YouTube जैसे कई सोशल मिडिया प्लेटफॉर्म पर वायरल हो रहा है। इस वीडियो में Kajol ऑन कैमरा चेंज करते हुए दिखाई दे रही हैं। जो एक Deepfake वीडियो है। दरअसल जिस वीडियो पर Kajol का चेहरा लगाया है वो मूल रूप से एक सोशल मीडिया इन्फ़्लुएन्सर का है। दावा किया जा रहा है कि असली वीडियो 5 जून को गेट रेडी विद मी (GRWM) ट्रेंड में TikTok पर अपलोड किया गया था। 

Deepfake वीडियो को लेकर सरकार जारी कर चुकी है गाइडलाइन

Deepfake में मनगढ़ंत छवियां, वीडियो और ऑडियो को शामिल किया जा सकता हैं, जिसका उपयोग गलत सूचना फैलाने के लिए तेजी से किया जा रहा है। यह समाज के लिए एक महत्वपूर्ण चुनौती बनता जा रहा है। बॉलीवुड अभिनेत्री Rashmika Mandanna के deepfake पर आक्रोश के बाद, भारत सरकार ने प्रमुख सोशल मीडिया प्लेटफार्मों को एक एडवाइजरी जारी की थी, जिसमें उनसे deepfake के खिलाफ तुरंत कार्रवाई करने और गलत सूचना फैलाने वाली सामग्री को हटाने का आग्रह किया गया। सोशल मीडिया प्लेटफॉर्म को शिकायत दर्ज होने के 36 घंटे के अंदर ऐसी सामग्री हटाने के लिए कहा गया है। सूचना प्रौद्योगिकी मंत्री राजीव चंद्रशेखर ने सभी सोशल मीडिया साइट को इस तरह के वीडियो को लेकर सख्‍त कार्रवाई करने की बात कही थी, लेकिन उसका कुछ असर होता हुआ नहीं दिखाई दे रहा है। 

Deepfake की बढती घटनाओं को देखते हुए सरकार को IT लॉ में बदलाव की जरूरत है, जहां इस बारे में स्पष्ट नियम बनाए जाने चाहिए कि इस टेक्नोलॉजी का उपयोग कौन कर सकता है, इसका उपयोग किस उद्देश्य के लिए किया जा सकता है, क्या इसके उपयोग के लिए लाइसेंस होना चाहिए, वीडियो बनाने वाले व्यक्ति की क्या जिम्मेदारी है और इसे हटाने के लिए प्लेटफ़ॉर्म की क्या ज़िम्मेदारी है। इन सभी बातों पर ठोस नियम बनाने चाहिए। इस तरह की टेक्नोलॉजी से निपटने के लिए, मौजूदा नियम पर्याप्त नहीं हैं। हमें एक AI रेगुलेशन लॉ की आवश्यकता है। 

यह भी पढ़िए :  AI सेफ्टी के लिए OpenAI के को-फाउंडर ने लॉन्च की नई फर्म