तथ्यों की जांच: राहुल गांधी का एक एआई-जनरेटेड वॉयस क्लोन ऑनलाइन प्रसारित हो रहा है, जहां उन्हें भारत के प्रधान मंत्री के रूप में शपथ लेते हुए सुना जा सकता है। इस क्लिप को कांग्रेस समर्थकों द्वारा संगीत और दिल्ली में लाल किले के दृश्यों के साथ एक वीडियो असेंबल के साथ साझा किया गया है। एआई डिटेक्शन टूल्स ने पुष्टि की है कि ऑडियो एक एआई वॉयस क्लोन है। इंटरनेट पर प्रसारित होने वाले राजनीतिक डीपफेक में वृद्धि के बीच, 4 जून के लोकसभा चुनाव परिणामों की घोषणा से पहले यह वीडियो वायरल हो गया है।
क्लिप सोशल मीडिया पर वायरल हो रहा था, उपयोगकर्ताओं ने इसे एक कैप्शन के साथ साझा किया जिसमें लिखा था, “वह दिन जल्द ही है… 4 जून को… प्रधानमंत्री राहुल गांधी होंगे…” ऐसे पोस्ट का एक संग्रहीत संस्करण यहां देखा जा सकता है.
4 जून मौजूदा लोकसभा चुनावों की मतगणना के दिन को संदर्भित करता है, जब चुनाव के नतीजे घोषित होने की उम्मीद है।
बूम ने वीडियो डाउनलोड किया, और इसे दो अलग-अलग एआई डिटेक्शन टूल के माध्यम से चलाने के लिए ऑडियो फ़ाइल को अलग किया, और पाया कि यह एक एआई वॉयस क्लोन है।
हमने सबसे पहले ऑडियो क्लिप को इतिसार के माध्यम से चलाया, जो भारतीय प्रौद्योगिकी संस्थान (आईआईटी) जोधपुर द्वारा बनाया गया एक डीपफेक विश्लेषण उपकरण है। टूल ने पुष्टि की कि ऑडियो AI जनरेट किया गया है।
हमने एक अन्य डीपफेक डिटेक्शन टूल के माध्यम से ऑडियो क्लिप का भी परीक्षण किया contrails.ai, जिसने आगे पुष्टि की कि ऑडियो क्लिप एआई वॉयस क्लोनिंग का उपयोग करके तैयार किया गया है। contrails.ai द्वारा तैयार की गई रिपोर्ट में कहा गया है कि ऑडियो बनाने में इस्तेमाल की गई तकनीक “बहुत सस्ते एआई ऑडियो क्लोन को तेज़ बीजी संगीत के साथ मिश्रित किया गया था”।
चल रहे लोकसभा चुनाव 2024 के साथ, भारत में इंटरनेट पर राजनीतिक डीपफेक में वृद्धि देखी गई है। बूम ने पहले भी तथ्य-जाँच की है मशहूर हस्तियों के कई वीडियो किसी राजनीतिक संदेश को ग़लत बताने के लिए AI का उपयोग करके हेरफेर किया गया।
पिछले सप्ताह, हम भी AI वॉयस क्लोन की तथ्य-जांच की गई कांग्रेस नेता कमल नाथ का, जहां उन्हें मुसलमानों को मस्जिद के निर्माण के लिए जमीन देने और अनुच्छेद 370 की बहाली का वादा करते हुए सुना जा सकता है।
यह कहानी मूलतः द्वारा प्रकाशित की गई थी Boomlive.in, शक्ति कलेक्टिव के हिस्से के रूप में। शीर्षक, अंश और प्रारंभिक परिचय पैरा को छोड़कर, इस कहानी को ABPLIVE स्टाफ द्वारा संपादित नहीं किया गया है।
चुनाव 2024 से संबंधित गलत सूचनाओं पर अधिक तथ्य-जांच रिपोर्ट पढ़ने के लिए यहां क्लिक करें
