Rajat Sharma's Blog | डीपफेक फ़र्ज़ी वीडियोज़ पर कोर्ट का आदेश: तुरंत हटाओ
ये मामला इसीलिए गंभीर है क्योंकि जो लोग बरसों से मुझे टीवी पर देख रहे हैं, जो मेरी बात पर भरोसा करते हैं, उन्हें गुमराह करने की कोशिश की गई।
मैं आपको एक अच्छी खबर देना चाहता हूं। आप जानते हैं मैं कई दिन से अपने Fake Videos से परेशान था। कहीं मुझे डायबिटीज़ की दवाई बेचते दिखाया गया, कहीं दिखाया गया कि मैं अमिताभ बच्चन को जोड़ों के दर्द की दवा बता रहा हूं, कहीं बड़े-बड़े डॉक्टर्स के साथ फर्जी वीडियो में मुझे वजन कम कराने की दवाई का प्रमोशन करते हुए दिखाया गया। ये बात मैंने कुछ दिन पहले आपके साथ शेयर की थी। ये भी बताया था कि मैंने केस फाइल किया है। आज दिल्ली हाईकोर्ट ने सारे META platforms को, जिनमें फेसबुक और इंस्टाग्राम शामिल हैं, आदेश दिया कि मेरे जितने भी DeepFake वीडियोज़ हैं, उन्हें तुरंत हटाया जाए। ये सारे फर्जी वीडियो Artificial Intelligence का इस्तेमाल करके बनाए गए थे। इनमें से ज्यादातर फेसबुक पर थे।
अब दिल्ली हाई कोर्ट ने इन्हें तुरंत हटाने का आदेश दिया है। केस में हमने जिन 8 वीडियोज़ का जिक्र किया था वो सारे फेसबुक पर पोस्ट किए गए थे। इस केस में मेरी तरफ से सीनियर एडवोकेट साई कृष्णा ने कोर्ट के सामने पूरी समझदारी के साथ दलीलें दी थी, जिसके बाद हाई कोर्ट का ये आदेश आया। बड़ी बात ये है कि हाई कोर्ट ने सिर्फ फर्जी वीडियो हटाने का आदेश ही नहीं दिया, बल्कि मेटा प्लैटफॉर्म से कहा कि जिन लोगों ने ये वीडियो पोस्ट किए, उनके नाम, उनका पता, ईमेल और फोन नंबर उजागर किए जाएं। जस्टिस अमित बंसल का आदेश काफी विस्तार में है। उन्होंने सरकार से भी कहा कि Internet service providers को निर्देश दिया जाए कि वो ऐसे फेक वीडियो पोस्ट करने वालों को प्लैटफॉर्म से ब्लॉक करे।
ये मामला इसीलिए गंभीर है क्योंकि जो लोग बरसों से मुझे टीवी पर देख रहे हैं, जो मेरी बात पर भरोसा करते हैं, उन्हें गुमराह करने की कोशिश की गई। एक दिन उस्ताद अमजद अली खां साहब मुझे एक जगह मिले। उन्होंने मुझे कहा कि आप भले आदमी हैं, अच्छा काम करते हैं, मेरा आपसे अनुरोध है कि आप डायबिटीज की दवाई न बेचें। मैंने उस्ताद जी को समझाने की कोशिश की कि वो मेरा फेक वीडियो है, मैं कोई दवा नहीं बेचता लेकिन वो AI फेक वीडियो जैसी बातों को, ऐसे शब्दों को समझ ही नहीं पाए। मैं समझाता रहा और वो मुझसे कहने लगे, भगवान ने आपको सब कुछ दिया है, आप ये न करें। तब से मैं इस बात को लेकर काफी चिंतित था।
फर्जी वीडियो बनाने वाले कैसे काम करते हैं, मैं आपको उदाहरण देकर समझाता हूं। मैंने कई साल पहले 'आज की बात' शो में अमिताभ बच्चन का इंटरव्यू किया था। ये तब की बात है जब उनकी फिल्म 'भूतनाथ' रिलीज हुई थी। मैंने अमित जी से उस दिन थोड़ी सी बात नरेंद्र मोदी के बारे में की और बाकी भूतनाथ फिल्म के बारे में, लेकिन ये वीडियो अभी थोड़े दिन पहले फेसबुक पर पोस्ट किया गया। वीडियो वही था लेकिन उसमें भूतनाथ के बजाय मैं अमिताभ बच्चन से जोड़ों के दर्द की दवा के बारे में बात करता हुआ दिखाई और सुनाई देता हूं। आर्टिफिशियल इंटेलिजेंस का इस्तेमाल करके उस वीडियो पर मेरी और अमिताभ बच्चन की AI जेनेरेटेड voice डाल दी गई। एक आम दर्शक के लिए असली नकली में फर्क करना मुश्किल था।
एक वीडियो में मैं और मशहूर heart surgeon डॉक्टर नरेश त्रेहन हाई ब्लड प्रेशर के इलाज के बारे में बात करते दिखाई दे रहे हैं। एक और वीडियो है जहां मैं और डॉक्टर त्रेहन prostatitis का इलाज बताते हुए नजर आ रहे हैं। ये दोनों DeepFake वीडियो है। दोनों फर्जी हैं। एक और वीडियो में मेरी बात heart surgeon डॉक्टर देवी प्रसाद शेट्टी से होती दिखाई दे रही है। ये भी फर्जी है। वीडियो में शक्ल मेरी, वीडियो मेरा, पर आवाज AI जेनेरेटेड है और जब किसी की voice AI से जेनेरेट की जाती है तो वो असली आवाज़ से इतनी मिलती जुलती होती है कि फर्क कर पाना मुश्किल होता है।
हाई कोर्ट के आदेश के बाद मुझे उम्मीद है ये सिलसिला रुक जाएगा। दिल्ली हाई कोर्ट ने कहा कि ये किसी personality के rights का स्पष्ट हनन है। इन बातों का कितना असर होता है, इसका एक और उदाहरण आपको बताता हूं। मेरे अपने परिवार के लोग कैसे भ्रमित हो गए, ये सुनकर आप भी हैरत में पड़ जाएंगे। मुंबई में मेरी भाभी जी रहती हैं। उन्होंने एक दिन मुझे अमिताभ बच्चन का इसी तरह का एक फर्जी वीडियो भेजा जिसमें वो investment के बारे में बता रहे हैं। मेरी भाभी ने कहा कि मैं अमिताभ बच्चन से पूछूं कि इसमें कितना इन्वेस्ट करना चाहिए। मैंने उनको समझाया कि ये DeepFake है। उन्होंने मेरी बात पर पूरी तरह यकीन नहीं किया। फिर उन्होंने मुझे इंफोसिस के संस्थापक नारायण मूर्ति का वीडियो भेजा। मैंने बड़ी मुश्किल से उन्हें समझाया कि ये भी DeepFake है, इस सलाह पर आपने कोई इंवेस्टमेंट किया तो बहुत नुकसान हो जाएगा, बहुत सारे लोग अपने लाखों रुपये गंवा चुके हैं।
उस समय तो उन्होंने मेरी बात सुन ली लेकिन दो दिन बाद उन्होंने मेरा वीडियो भेज दिया जिसमें मैं उसी इंवेस्टमेंट को प्रमोट करता दिखाई दे रहा हूं। अब मेरे लिए उन्हें समझाना बहुत मुश्किल हो गया क्योंकि उन्होंने कहा कि मैं तो आपकी आवाज़, आपका चेहरा अच्छी तरह जानती हूं। मैंने उन्हें समझाया कि वीडियो मेरा है, लेकिन आवाज मेरी नहीं है, AI से जेनेरेटेड है। बड़ी मुश्किल से उन्होंने मेरी बात पर विश्वास किया। ऐसे सब लोगों को, जो मुझे जानते हैं,पहचानते हैं, अब ये स्पष्ट हो जाएगा कि ये DeepFake क्या होता है, कैसे इसका इस्तेमाल लोगों को धोखा देने और लूटने के लिए किया जाता है।
दिल्ली हाई कोर्ट के आदेश के बाद कोई भी अगर मेरा DeepFake वीडियो पोस्ट करेगा, किसी भी प्लैटफॉर्म पर पोस्ट करेगा, तो उसे डिलीट करवाने में, हटवाने में हाईकोर्ट का ये आदेश काम आएगा। इसमें मुझे आप जैसे दर्शकों की मदद भी चाहिए। अगर आपको कहीं ऐसा कोई फर्जी वीडियो दिखाई दे, जिसमें मुझे कोई दवा बेचते या किसी इंवेस्टमेंट को प्रमोट करते दिखाया गया हो, तो मुझे बताएं - 93505 93505 पर फोन करें या मैसेज भेज दें। मैं जस्टिस अमित बंसल का आभार मानता हूं कि उन्होंने इस पूरे मामले को सुना और डीपफेक के इस दुष्प्रचार को रोकने का रास्ता दिखाया। (रजत शर्मा)
देखें: ‘आज की बात, रजत शर्मा के साथ’ 20 दिसंबर, 2024 का पूरा एपिसोड