सरकार के निर्देशों के बाद, गूगल ने बुधवार को डीपफेक (Deepfake) सामग्री को रोकने के लिए कई कदम उठाने की घोषणा की है। जिसकी यूट्यूब से शुरूआत की जा रही है, जहां क्रिएटर्स से कहा जा रहा है कि वे अगर डीपफेक, बिगाड़ी हुई या नकली तस्वीरें, वीडियो, या आवाज अपलोड करते हैं तो उन्हें इसकी सूचना देनी होगी और खुद ही इसका खुलासा करना होगा।
साथ ही गूगल भी आर्टिफिशियल इंटेलिजेंस (AI) तकनीक का इस्तेमाल करके ऐसी सामग्री को हटाएगा जो किसी व्यक्ति के पहचान से मिलती-जुलती है, जैसे फेस या आवाज।
AI से जुड़ी देनी होगी जानकारी
एक ब्लॉग पोस्ट में गूगल ने बताया है, आने वाले कुछ महीनों में यूट्यूब पर ओरिजनल सामग्री में क्या चेंज किया गया है और उसमें AI टूल्स का इस्तेमाल, इसकी जानकारी क्रिएटर्स को देनी होगी। क्रिएटर्स से इस बारे में बात की जा रही है ताकि उन्हें यह समझाया जा सके कि वे अपनी भूमिका समझ पाए और क्या करना जरूरी, उन्हें पता रहे।
सरकार करने जा रही नियम लागू
इस मुद्दे को गंभीरता से लेते हुए बीते सप्ताह, केंद्रीय आईटी मंत्री अश्विनी वैष्णव और राजीव चंद्रशेखर ने डीप फेक सामग्री को रोकने के लिए कड़े कदम उठाने को कहा था। सरकार के इसके लिए नियम व गाइडलाइन भी जारी करने जा रही है।
वाटरमार्क का सहारा
गूगल ने बताया कि डीपफेक से निपटने के लिए सामग्री पर वाटरमार्क व मेटाडाटा लेबल का भी सहारा लिया जा सकता है। अगर चुनावी विज्ञापनों को डिजिटली जनरेट सामग्री से बनाया गया है, तो यह जानकारी विज्ञापन में देने को कहा गया है।
रश्मिका, आलिया, कैटरीना हुई Deepfake का शिकार
वहीं, इस महीने में कई हाई प्रोफाइल हस्तियों जैसे रश्मिका मंदाना, आलिया भट्ट, कैटरीना कैफ और अन्य के अश्लील डीपफेक वीडियो सोशल मीडिया पर वाइरल रही। जिसके बाद कई लोगों ने इस पर चिंता जताई।