डीपफेक्स से निपटने के लिए टेक कंपनियों के पास क्या प्लान!

नई दिल्ली। भारत में डीपफेक्स (DeepFakes) और लगातार आ रहीं नई टेक्नोलॉजी को लेकर भारत सरकार काफी सजग है और जांच कर रही है। जनवरी में एक हुई स्टेहोल्डर्स की एक कंसल्टेशन बैठक में कम से कम तीन तकनीकी दिग्गजों – Google, Meta और X ने केंद्र सरकार को बताया कि उनके पास मैनिपुलेटेड मीडिया से निपटने के लिए कई नीतियां हैं।

Google और मेटा ने संकेत दिया कि उनके पास पहले से ही AI, डीपफेक या सिंथेटिक सामग्री के लिए लेबलिंग या डिस्क्लोजर पॉलिसी हैं। जब यूजर्स द्वारा मैनिपुलेटेड मीडिया में अपने व्यक्तित्व के इस्तेमाल को फ्लैग करने की बात आती है, तो केवल Google के पास एक प्रक्रिया है, जबकि मेटा “celebrity persona” की सुरक्षा पर “काम” कर रहा है।

हालांकि, X ने इस बात पर जोर दिया कि “सारा AI कॉन्टेन्ट भ्रामक नहीं है” और आग्रह किया कि “आगे बढ़ने के लिए इस फर्क को उजागर करना महत्वपूर्ण है।”

नवंबर 2024 में, दिल्ली हाईकोर्ट के एक आदेश के बाद, इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने डीपफेक के मुद्दों की जांच के लिए नौ सदस्यीय समिति का गठन किया। समिति ने 21 जनवरी को टेक्नोलॉजी दिग्गजों और नीति और कानूनी हितधारकों के साथ एक परामर्श बैठक की। हितधारकों ने “अनिवार्य एआई सामग्री डिस्क्लोजर (mandatory AI content disclosure)”, लेबलिंग स्टैंडर्ड्स और शिकायत निवारण तंत्र के लेबल करने के लिए दबाव डाला, इस चेतावनी के साथ कि डीपफेक टेक्नोलॉजी के रचनात्मक इस्तेमाल के बजाय मैलिशस एक्टर्स होने पर जोर दिया जाना चाहिए।

Deepfake पर गूगल ने क्या कहा

इस कंसल्टेशन मीटिंग में गूगल के दो प्रतिनिधि मौजूद थे। उन्होंने कमेटी को बताया कि नवंबर 2023 से ही डीपफेक्स के लिए उनके पास पॉलिसी है। और नुकसान पहुंचाने के इरादे से बनाए गए मैनिपुलेटिव कॉन्टेन्ट को हटाने के लिए आर्टिफिशियल इंटेलिजेंस (AI) का इस्तेमाल किया जा रहा है। गूगल ने कहा कि Deepfakes पर इसकी पॉलिसी के मुताबिक, ‘वे क्रिएटर्स से सिंथेटिक कॉन्टेन्ट की जानकारी देने और लेबल प्रोवाइड कराने को कहते हैं।’ इसके अलावा उनके पास उन यूजर्स के लिए भी एक प्रक्रिया है जो यह दावा करते हैं कि डीपफेक बनाने के लिए उनका इस्तेमाल किया जा रहा है ताकि उनके व्यक्तित्व को इ्स्तेमाल करने से जुड़ा कॉन्टेन्ट हटाया जा सके।

Deepfake पर मेटा का बयान

इसी तरह, मेटा, जिसने अप्रैल 2024 में अपनी AI लेबलिंग नीति लॉन्च की थी, उसने कहा, “यह यूजर्स को AI कॉन्टेनट अपलोड करते समय खुलासा करने की अनुमति देता है,” जिसमें विज्ञापन भी शामिल हैं, जहां यूजर्स को पता चल जाएगा कि क्या इसमें डिजिटल रूप से एडिट किया गया मटीरियल है, और उनकी कई पॉलिसी, टेक्नोलॉजी न्यूट्रल हैं, यानी इससे कोई फर्क नहीं पड़ता कि कॉन्टेन्ट में किया गया बदलाव खासतौर से एक डीपफेक है या नहीं। हालांकि, मेटा प्रतिनिधि ने समिति को बताया कि वे “सेलिब्रिटी व्यक्तित्वों की सुरक्षा पर काम कर रहे हैं।”

X ने कमेटी को यह भी बताया कि इसकी एक “सिंथेटिक और मैनिपुलेटेड मीडिया पॉलिसी” है, जहां “भ्रामक तरीके के कॉन्टेन्ट को हटा दिया जाता है”। हालांकि, इसमें कहा गया है कि कुछ पोस्ट को लेबल करने के लिए, उन्हें “बेहद भ्रामक और हानिकारक” होना चाहिए। एक्स ने यह भी कहा कि “सभी AI कॉन्टेन्ट, नेचर में भ्रामक नहीं है”, और “आगे बढ़ने के लिए इस फर्क को समझना महत्वपूर्ण है।”

अगले तीन महीनों में, MeitY द्वारा गठित कमेटी द्वारा डीपफेक के पीड़ितों सहित हितधारकों के साथ अपना परामर्श पूरा करने की उम्मीद है।