पीएम Modi ने Deep Fake पर चिंता जताई, A.I. के दुरुपयोग के बारे में आगाह किया

अभिनेत्री रश्मिका मंदाना के डीपफेक वीडियो विवाद के बीच, प्रधान मंत्री नरेंद्र मोदी ने ऐसे वीडियो बनाने के लिए डीपफेक और कृत्रिम बुद्धिमत्ता के दुरुपयोग पर “बड़ी चिंता” जताई।

शुक्रवार को नई दिल्ली में भारतीय जनता के दिवाली मिलन कार्यक्रम में पत्रकारों से बात करते हुए मोदी ने कहा कि मीडिया को ऐसे ‘डीपफेक’ के बारे में लोगों को शिक्षित करना चाहिए.

डीपफेक तब बनाए जाते हैं जब किसी मौजूदा छवि या वीडियो में किसी व्यक्ति को कृत्रिम बुद्धिमत्ता जैसी तकनीक का उपयोग करके किसी और की छवि से बदल दिया जाता है, ज्यादातर नकली समाचारों को बढ़ावा देने के लिए।

मंदाना के ‘डीपफेक’ वीडियो के सोशल मीडिया पर वायरल होने के बाद मोदी ने चिंता व्यक्त की, जिसके एआई तकनीक का उपयोग करके विकसित किए जाने का संदेह है। मूल वीडियो में एक ब्रिटिश भारतीय लड़की दिखाई गई थी।

मोदी ने कहा, “मैंने हाल ही में एक वीडियो देखा जिसमें मैं गरबा गीत गाते हुए नजर आया। ऐसे कई अन्य वीडियो ऑनलाइन हैं।” उन्होंने कहा कि यह एक बड़ी चिंता का विषय बन गया है और सभी के लिए बहुत सारी समस्याएं पैदा कर सकता है। उन्होंने कहा, ”लेकिन हकीकत यह है कि मैंने स्कूली जीवन के बाद गरबा नहीं किया है.”

“आर्टिफिशियल इंटेलिजेंस और डीपफेक के कारण एक चुनौती पैदा हो रही है…हमारे देश के एक बड़े वर्ग के पास सत्यापन के लिए कोई समानांतर विकल्प नहीं है…लोग अक्सर डीपफेक पर विश्वास कर लेते हैं और यह एक बड़ी चुनौती की दिशा में जाएगा.. .हमें अपने कार्यक्रमों से लोगों को आर्टिफिशियल इंटेलिजेंस और डीपफेक के बारे में शिक्षित करने की जरूरत है कि यह कैसे काम करता है, यह क्या कर सकता है, यह क्या चुनौतियां ला सकता है और इससे क्या कुछ हो सकता है,” एएनआई ने मोदी के हवाले से कहा।

एनडीटीवी की रिपोर्ट के अनुसार, मोदी ने कहा कि उन्होंने चैटजीपीटी टीम से डीपफेक को चिह्नित करने और ऐसे वीडियो इंटरनेट पर प्रसारित होने पर चेतावनी जारी करने के लिए कहा है।

इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय ने पिछले हफ्ते सोशल मीडिया प्लेटफार्मों के लिए एक सलाह जारी की, जिसमें ऐसे डीपफेक को कवर करने वाले कानूनी प्रावधानों को रेखांकित किया गया।

केंद्रीय मंत्री राजीव चंद्रशेखर ने कहा था कि गलत सूचना के प्रसार को रोकना ऑनलाइन प्लेटफार्मों के लिए एक “कानूनी दायित्व” है।

इससे पहले, एक्स को संबोधित करते हुए, चंद्रशेखर ने कहा, “डीपफेक नवीनतम और गलत सूचना का अधिक खतरनाक और हानिकारक रूप है”।

आईटी विभाग के बयान में कहा गया है, “ऐसी किसी भी सामग्री की रिपोर्ट किए जाने के 36 घंटे के भीतर उसे हटा दें और आईटी नियम 2021 के तहत निर्धारित समय सीमा के भीतर शीघ्र कार्रवाई सुनिश्चित करें और सामग्री या जानकारी तक पहुंच को अक्षम करें।”

केंद्र ने डीपफेक बनाने और प्रसारित करने वालों पर 1 लाख रुपये का जुर्माना और तीन साल की जेल का कड़ा जुर्माना लगाया है।