भारत सरकार ने शुक्रवार को फेसबुक और यूट्यूब सहित सोशल मीडिया कंपनियों को यूजर्स को बार-बार ये याद दिलाने की चेतावनी दी है कि स्थानीय कानून उन्हें डीपफेक और अश्लीलता या गलत सूचना फैलाने वाली सामग्री पोस्ट करने से रोकते हैं, इससे डीपफेक कंटेंट को रोकने में मदद मिलेगी.
यह चेतावनी उप आईटी मंत्री राजीव चंद्रशेखर ने एक क्लोज डोर मीटिंग में दी, जहां उन्होंने कहा कि कई कंपनियों ने 2022 के नियमों के बावजूद अपनी उपयोग की शर्तों को अपडेट नहीं किया है, जो बच्चों के लिए “हानिकारक”, अश्लील या “किसी अन्य व्यक्ति का प्रतिरूपण करने वाली” सामग्री को प्रतिबंधित करते हैं.
डीपफेक से भरा पड़ा है सोशल मीडिया
यह खबर उस समय आई है जब लगातार डीपफेक को लेकर बात हो रही है. इसे लेकर लोग काफी परेशान हैं क्योंकि ये काफी खतरनाक साबित हो सकता है. चंद्रशेखर ने कहा कि कंपनियों को हर बार लॉग इन करने पर उपयोगकर्ताओं को यह याद दिलाकर या अनुस्मारक जारी करके नियमों के बारे में जागरूकता बढ़ानी चाहिए कि वे ऐसी सामग्री पोस्ट नहीं कर सकते.
उन्होंने कहा कि अन्यथा वह उन्हें ऐसा करने के लिए बाध्य करने के लिए निर्देश जारी करेंगे, दो सूत्रों ने कहा, जिन्होंने नाम बताने से इनकार कर दिया क्योंकि बैठक निजी थी. भारत के आईटी मंत्रालय ने एक प्रेस बयान में कहा कि सभी प्लेटफ़ॉर्म अपने सामग्री दिशानिर्देशों को सरकारी नियमों के साथ संरेखित करने पर सहमत हुए हैं.
अल्फाबेट इंक के Google, जो YouTube का मालिक है, ने एक बयान में कहा कि वह जिम्मेदार AI विकास के लिए प्रतिबद्ध है और उसके पास अपने उत्पादों और प्लेटफार्मों पर हानिकारक सामग्री की पहचान करने और हटाने के लिए मजबूत नीतियां और प्रणालियां हैं.
बुधवार को जी20 देशों के एक आभासी शिखर सम्मेलन के दौरान, प्रधान मंत्री मोदी ने वैश्विक नेताओं से एआई को विनियमित करने की दिशा में संयुक्त रूप से काम करने का आह्वान किया, और समाज पर डीपफेक के नकारात्मक प्रभाव पर चिंता जताई.