डीपफेक रोकने के लिए IT मंत्रालय के नए नियम तैयार: सोशल मीडिया प्लेटफाॅर्म्स को रोकना होगा फेक कंटेंट, नहीं तो देश से कारोबार बंद होगा

डीपफेक में आर्टिफिशियल इंटेलिजेंस तकनीक (AI) और मशीन लर्निंग सॉफ्टवेयर की मदद से नकली को असली जैसा दिखाया जाता है।

डीपफेक रोकने के लिए केंद्रीय IT मंत्रालय ने नए नियम तैयार कर लिए हैं। नए नियमों के मुताबिक जो सोशल मीडिया प्लेटफाॅर्म उल्लंघन करेगा, उसका भारत में कारोबार रोक दिया जाएगा। मंत्रालय के एक अधिकारी ने बुधवार (17 जनवरी) को बताया कि सोशल मीडिया प्लेटफाॅर्म्स और अन्य स्टेक होल्डर्स के बीच हुई दो बार मीटिंग हुई। इसमें तय हुआ कि डीपफेक कंटेंट को एआई के जरिए फिल्टर करने का प्रावधान प्लेटफॉर्म्स करेंगे।

एअर इंडिया-स्पाइसजेट पर 30-30 लाख का जुर्माना: कोहरे के दौरान फ्लाइट्स लेट हुई थीं, ट्रेंड पायलट्स ड्यूटी पर नहीं लगाए गए

मंत्रालय के मुताबिक, इन नए नियमों को सभी को मानना होगा, नहीं तो एक्शन लिया जाएगा। डीपफेक कंटेंट डालने वालों पर IPC की धाराओं और IT एक्ट के तहत केस दर्ज होंगे।

ऐसे होंगे नए नियम: फेक कंटेंट जहां अपलोड होगा, उस प्लेटफाॅर्म को भी जिम्मेदार मानेंगे…

PM मोदी और सचिन तेंदुलकर का डीप फेक वीडियो बना था
प्रधानमंत्री नरेंद्र मोदी भी डीपफेक पर चिंता जता चुके हैं। उनका एक डीपफेक वीडियो आया था। वहीं हाल ही में पूर्व क्रिकेटर सचिन तेंदुलकर का एक डीप फेक वीडियो वायरल हुआ था। इसमें उन्हें ‘स्काईवर्ड एविएटर क्वेस्ट’ गेमिंग ऐप को प्रमोट करते दिखाया गया था। सचिन ने कहा था- यह वीडियो नकली है और धोखा देने के लिए बनाया गया है।

सचिन ने इस वीडियो के बारे में सोशल मीडिया पर पोस्ट करके लोगों को आगाह किया है।

नवंबर में रश्मिका मंदाना का डीपफेक वीडियो वायरल हुआ था
पिछले साल नवंबर में रश्मिका मंदाना का एक डीपफेक वीडियो सोशल मीडिया पर वायरल हआ था, जिसमें AI टेक्नोलॉजी से एक इन्फ्लूएंसर के चेहरे पर बड़ी सफाई से रश्मिका का चेहरा मोर्फ किया गया था। सोशल मीडिया पर हजारों लोगों ने रश्मिका के इस फेक वीडियो को असली समझ लिया क्योंकि उसमें दिख रहे एक्सप्रेशन बिल्कुल रियल लग रहे थे।

इस फेक वीडियो में AI टेक्नोलॉजी से एक इन्फ्लूएंसर के चेहरे पर रश्मिका का चेहरा मोर्फ किया गया था।

हालांकि यह महिला रश्मिका नहीं बल्कि जारा पटेल नाम की एक लड़की थी, जिसके चेहरे को बदलकर रश्मिका का चेहरा लगा दिया गया था। ALT न्यूज के एक जर्नलिस्ट ने डीपफेक वीडियो वायरल होने के बाद इसका खुलासा किया था।

डीपफेक होता क्या है और कैसे बनाया जाता है?
डीपफेक शब्द पहली बार 2017 में यूज किया गया था। तब अमेरिका के सोशल न्यूज एग्रीगेटर Reddit पर डीपफेक आईडी से कई सेलिब्रिटीज के वीडियो पोस्ट किए गए थे। इसमें एक्ट्रेस एमा वॉटसन, गैल गैडोट, स्कारलेट जोहानसन के कई पोर्न वीडियो थे।

किसी रियल वीडियो, फोटो या ऑडियो में दूसरे के चेहरे, आवाज और एक्सप्रेशन को फिट कर देने को डीपफेक नाम दिया गया है। ये इतनी सफाई से होता है कि कोई भी यकीन कर ले। इसमें फेक भी असली जैसा लगता है।

इसमें मशीन लर्निंग और आर्टिफिशियल इंटेलिजेंस का सहारा लिया जाता है। इसमें वीडियो और ऑडियो को टेक्नोलॉजी और सॉफ्टवेयर की मदद से बनाया जाता है।

AI और साइबर एक्सपर्ट पुनीत पांडे बताते हैं कि अब रेडी टु यूज टेक्नोलॉजी और पैकेज उपलब्ध है। अब इसे कोई भी उपयोग कर सकता है। वर्तमान टेक्नोलॉजी में अब आवाज भी इम्प्रूव हो गई है। इसमें वॉयस क्लोनिंग बेहद खतरनाक हो गई है।

ये खबरें भी पढ़ें…

मोदी बोले- डीपफेक डिजिटल युग के लिए खतरनाक:एक वीडियो में मुझे गरबा गीत गाते दिखाया गया, ऐसे कई वीडियो मिल जाएंगे

प्रधानमंत्री नरेंद्र मोदी ने डीपफेक टेक्नोलॉजी को खतरनाक बताया। उन्होंने 17 नवंबर को कहा कि एक वीडियो में मुझे गरबा गीत गाते दिखाया गया है, ऐसे कई वीडियो ऑनलाइन पड़े हुए हैं। मोदी ने यह भी कहा कि डीपफेक डिजिटल युग के लिए एक खतरा है। पूरी खबर यहां पढ़ें…

भास्कर एक्सप्लेनर- डीपफेक क्या है, जिससे रश्मिका का वीडियो बना:AI के लिए महज कुछ सेकेंड का काम; इसके शिकार लोग क्या करें

डीपफेक वीडियो वारयल होने के बाद रश्मिका ने लिखा, ‘ईमानदारी से कहूं तो ऐसा कुछ न केवल मेरे लिए, बल्कि हममें से हर एक के लिए बेहद डरावना है। अगर मेरे साथ ये तब हुआ होता, जब में स्कूल या कॉलेज में थी, तो मैं इससे निपटने का सोच भी नहीं सकती थी।’ डीप फेक क्या है, कैसे काम करता है और इससे निपटने के लिए कौन-से कानून हैं,