AI जेनरेटेड Deepfake कॉन्टेंट को सोशल मीडिया प्लेटफॉर्म पर फैलाए जाने से रोकने के लिए मिसइंफॉर्मेशन कॉम्बैट अलायंस (MCA) ने भारत में Meta के साथ मिलकर डीपफेक एनालिसिस यूनिट (DAU) बनाने की घोषणा की है। इस यूनिट का मकसद सोशल मीडिया प्लेटफॉर्म्स WhatsApp, Facebook, Instagram और Threads पर फर्जी एआई जेनरेटेड कॉन्टेंट को रोकना है। MCA और मेटा 25 मार्च यानी होली के दिन भारत में इसके लिए हेल्पलाइन नंबर जारी करेंगे।
WhatsApp टिपलाइन होगी जारी
कोई भी यूजर या फिर पब्लिक इस हेल्पलाइन नंबर के जरिए सोशल मीडिया प्लेटफॉर्म पर आने वाले एआई जेनरेटेड कॉन्टेंट जैसे कि वीडियो या ऑडियो आदि को फॉरवर्ड कर पाएंगे। इसके लिए मेटा का यह हेल्पलाइन नंबर +91-9999025044 जारी किया गया है। मेटा के इस WhatsApp टिपलाइन पर यूजर्स हिन्दी, अंग्रेजी, तमिल और तेलुगू में डीपफेक कॉन्टेंट को फॉरवर्ड कर सकेंगे।
IANS की रिपोर्ट के मुताबिक, DAU के इंडिया हेड पम्पोश रैना ने स्टेटमेंट जारी करके बताया कि DAU में खास तौर पर एआई जेनरेटेड ऑडियो और वीडियो कॉन्टेंट की जांच की जाएगी। जो कॉन्टेंट खास तौर पर लोगों को गुमराह बनाने के लिए AI के जरिए जेनरेट किए जाएंगे, उनकी हम पब्लिक इंपोर्टेंस मानते हुए जांच करेंगे।
फैक्ट चेकिंग इकोसिस्टम को नया हथियार
Meta और MCA की साझेदारी में लॉन्च होने वाले इस टिपलाइन नंबर के जरिए फैक्ट चेकिंग इकोसिस्टम को एक नया हथियार मिल जाएगा। इसके लिए फैक्ट चेकिंग एजेंसी और इंडस्ट्री पार्टनर के साथ-साथ डिजिटल लैप्स का सहयोग लिया जाए, ताकि हर कॉन्टेंट को वेरिफाई किया जा सके।
बता दें कि सभी सोशल मीडिया प्लेटफॉर्म्स ने क्रॉस-इंडस्ट्री साझेदारी करके MCA का निर्माण किया है, जिसका काम सोशल मीडिया प्लेटफॉर्म्स पर फैलाए जाने वाले अफवाहों को रोकना है। इस समय MCA में कुल 16 सदस्य हैं, जिनमें सोशल मीडिया प्लेटफॉर्म्स के साथ-साथ फैक्ट चेकिंग संस्थान, मीडिया आउटलेट्स और सिविक टेक ऑर्गेनाइजेशन्स आदि शामिल हैं।
Deepfake को लेकर मच चुक बवाल
AI जेनरेटेड डीपफेक वीडियो को लेकर पिछले दिनों काफी बवाल मचा था। बॉलीवुड एक्टर रश्मिका मंधाना से लेकर सारा तेंदुलकर, क्रिकेटर सचिन तेंदुलकर और विराट कोहली तक के डीपफेक वीडियो सोशल मीडिया प्लेटफॉर्म पर वायरल हो चुके हैं। इसके बाद सरकार ने सोशल मीडिया प्लेटफॉर्म्स को इस तरह के डीपफेक कॉन्टेंट को अपने प्लेटफॉर्म पर फैलने से रोकने के लिए पॉलिसी बनाने के लिए कहा था। पिछले दिनों गूगल, मेटा, एक्स जैसे सोशल मीडिया प्लेटफॉर्म ने डीपफेक को रोकने के लिए साथ आने की घोषणा की थी।
