सत्यापन मार्गदर्शिकाएँ

डीपफेक क्या है? डीपफेक और AI से बनी सामग्री में अंतर

जानें डीपफेक क्या है, व्यापक AI निर्मित सामग्री से कैसे अलग है, बदलाव के मुख्य प्रकार क्या हैं और संदिग्ध पहचान नकल कैसे सत्यापित करें।

लेख का कवर, जिस पर शीर्षक है: डीपफेक क्या है? डीपफेक और AI से बनी सामग्री में अंतर

डीपफेक सिंथेटिक या बदला मीडिया है जो व्यक्ति की पहचान, रूप, आवाज़ या कार्यों की नकल या बदलाव के लिए AI उपयोग करता है। AI निर्मित सामग्री व्यापक श्रेणी है: यह किसी असली व्यक्ति का रूप धरे बिना काल्पनिक लोग, स्थान, वस्तुएँ या घटनाएँ दिखा सकती है। हर डीपफेक AI निर्मित या AI परिवर्तित सामग्री है, लेकिन हर AI निर्मित सामग्री डीपफेक नहीं।

यह अंतर जोखिम और सत्यापन दोनों प्रभावित करता है। पूरी तरह बनाया प्राकृतिक दृश्य और चेहरा बदला वीडियो दोनों सिंथेटिक हो सकते हैं, लेकिन केवल एक असली व्यक्ति की पहचान के दावे पर निर्भर है।

डीपफेक क्या है?

“डीपफेक” शब्द deep learning और fake को मिलाता है। सामान्य उपयोग में यह मशीन लर्निंग तकनीकों से बनाए या बदले मीडिया को बताता है जो असली व्यक्ति को ऐसा कहते या करते दिखाए जो उसने नहीं कहा या किया, या उसके चेहरे या आवाज़ की नकल करे।

सीमांत मामलों में परिभाषाएँ अलग हैं। NIST सिंथेटिक मीडिया को व्यापक रूप से बताता है ऐसी जानकारी जिसे AI सहित एल्गोरिदम ने काफी बदला या बनाया है। NIST की मीडिया फॉरेंसिक सामग्री चेहरे संबंधी बदलाव को पहचान बदलना, भाव बदलना, विशेषता बदलाव और पूरा चेहरा बनाना जैसी श्रेणियों में बाँटती है।

WITNESS “सिंथेटिक मीडिया” को व्यापक परिवार मानता है और डीपफेक को किसी के चेहरे, आवाज़ या कार्यों की वास्तविक दिखती नकल बताता है। व्यक्ति केंद्रित यह परिभाषा उपयोगी है क्योंकि पहचान नकल आमतौर पर डीपफेक को खास हानिकारक बनाती है।

डीपफेक और AI निर्मित सामग्री में क्या अंतर है?

AI निर्मित सामग्री में जनरेटिव मॉडल से बना या काफी बदला टेक्स्ट, छवि, ऑडियो और वीडियो शामिल है। यह स्पष्ट बताई हुई, काल्पनिक, कलात्मक या सामान्य व्यावसायिक प्रक्रिया के लिए हो सकती है। किसी असली व्यक्ति की नकल ज़रूरी नहीं।

डीपफेक आमतौर पर पहचान को निशाना बनाता है। यह एक व्यक्ति का चेहरा दूसरे शरीर पर रख सकता है, चेहरे के भाव दोहरा सकता है, पहचानी आवाज़ में वाणी बना सकता है या नामित व्यक्ति वाला वास्तविक दिखता दृश्य बना सकता है।

मीडिया प्रकारAI उपयोग करता है?असली व्यक्ति की नकल?सामान्य उदाहरण
बना हुआ चित्रणहाँज़रूरी नहींप्रॉम्प्ट से बना काल्पनिक शहर
पूरी तरह बनाया प्रस्तुतकर्ताहाँनहीं, यदि पहचान काल्पनिक हैबताया गया वर्चुअल मेज़बान
चेहरा बदलनाहाँहाँएक व्यक्ति का चेहरा दूसरे के प्रदर्शन पर रखना
चेहरे के भावों का पुनः प्रदर्शनहाँहाँअसली व्यक्ति के भाव या मुँह की गति बदलना
क्लोन आवाज़हाँहाँज्ञात वक्ता की नकल करती सिंथेटिक वाणी
सामान्य भ्रामक संपादनज़रूरी नहींसंभव हैसंदर्भ हटाने के लिए काटी असली क्लिप

अंतिम पंक्ति महत्वपूर्ण है: हानिकारक या धोखेबाज़ मीडिया अपने आप डीपफेक नहीं है। दोबारा उपयोग वीडियो, गलत कैप्शन, चुनिंदा कट या मैन्युअल संपादन जनरेटिव AI बिना भटका सकते हैं।

डीपफेक के मुख्य प्रकार क्या हैं?

चेहरा बदलना

फेस स्वैप स्रोत पहचान को लक्षित छवि या वीडियो में बदलता या मिलाता है। दिखाई पहचान बदलने पर भी आधार शरीर, गति, स्थान और ऑडियो असली रह सकते हैं।

चेहरे का पुनः प्रदर्शन और लिप-सिंक बदलाव

पुनः प्रदर्शन लक्षित व्यक्ति की पहचान रखते हुए भाव, नज़र, सिर या मुँह की गति बदलता है। लिप-सिंक सिस्टम व्यक्ति को बदले ऑडियो के शब्द बोलता दिखा सकते हैं।

आवाज़ क्लोनिंग

क्लोन आवाज़ खास वक्ता की नकल वाली वाणी बनाती है। यह फ़ोन कॉल, वॉइस नोट, पॉडकास्ट क्लिप या बदले वीडियो के ऑडियो ट्रैक में हो सकती है। अमेरिकी फ़ेडरल ट्रेड कमीशन चेतावनी देता है कि पहचान नकल वाले ठग नकली आपात अनुरोधों में आवाज़ क्लोनिंग उपयोग कर सकते हैं और कथित कॉलर से ज्ञात माध्यम से संपर्क की सलाह देता है।

सिंथेटिक पहचान और शरीर बदलाव

कुछ मीडिया बना चेहरा, बदला शरीर और गढ़ा संदर्भ मिलाता है। अन्य सामग्री पूरी पहचान बदले बिना आयु, बाल, कपड़े या गुण बदलती है। ये मामले दिखाते हैं कि “डीपफेक” एक तकनीकी क्रिया नहीं है।

क्या पूरी तरह AI से बने लोग डीपफेक हैं?

बना व्यक्ति जो किसी पहचाने जा सकने वाले व्यक्ति की नकल न करे, आमतौर पर सिंथेटिक व्यक्ति या AI निर्मित पात्र कहलाना बेहतर है। हर फ़ोटो जैसी AI पोर्ट्रेट को डीपफेक कहना पहचान आधारित हानियाँ धुँधली कर सकता है जिनके लिए यह शब्द बना।

बना दृश्य किसी नामित असली व्यक्ति को गलत रूप में दिखाए तो लेबल उपयुक्त हो सकता है, भले सिस्टम ने चेहरा बदलने के बजाय पूरा फ़्रेम बनाया। व्यवहार में तकनीक और दावा दोनों बताएँ: “सार्वजनिक व्यक्ति को गलत दिखाती AI निर्मित छवि” अकेले लेबल से अधिक सटीक है।

क्या सभी डीपफेक दुर्भावनापूर्ण हैं?

नहीं। तकनीक सहमति से डबिंग, सुलभता, व्यंग्य, फ़िल्म निर्माण, शिक्षा या बताए गए रचनात्मक काम में उपयोग हो सकती है। नैतिक और कानूनी चिंता सहमति, खुलासे, संदर्भ और हानि पर निर्भर है, केवल AI उपयोग पर नहीं।

उच्च जोखिम उपयोग में बिना सहमति अंतरंग चित्र, धोखाधड़ी, उत्पीड़न, साक्ष्य से छेड़छाड़ और निर्णय प्रभावित करने के लिए पहचान नकल शामिल हैं। फिर भी केवल स्वचालित डिटेक्टर परिणाम पर रचनाकार या व्यक्ति पर आरोप न लगाएँ। मूल स्रोत सुरक्षित रखें और गंभीर मामलों में योग्य समीक्षा लें।

संदिग्ध डीपफेक कैसे सत्यापित करें?

दावे और पहचान से शुरू करें, दृश्य असामान्यताओं से नहीं। पूछें कथित तौर पर कौन दिखता या सुनाई देता है, उसने क्या कहा या किया और मीडिया पहले कहाँ दिखी।

  1. URL, खाता, कैप्शन, समय चिह्न और सबसे अच्छी उपलब्ध फ़ाइल सुरक्षित रखें।
  2. स्रोत खोज और प्रतिनिधि फ़्रेम खोज से लंबा या पुराना संस्करण खोजें।
  3. दावे की आधिकारिक रिकॉर्डिंग, भरोसेमंद रिपोर्टिंग या अन्य ज्ञात माध्यम से तुलना करें।
  4. पास के फ़्रेमों में लगातार पहचान, गति और संयोजन असंगतियाँ देखें।
  5. ऑडियो अलग जाँचें; संपादन देखें और स्वतंत्र संपर्क माध्यम से वक्ता सत्यापित करें।
  6. उपलब्ध Content Credentials या अन्य उत्पत्ति रिकॉर्ड जाँचें।
  7. उपयुक्त डिटेक्टर सहायक साक्ष्य की तरह उपयोग करें और बताई कवरेज दर्ज करें।

विस्तृत मीडिया प्रक्रिया के लिए पढ़ें कैसे जानें कि वीडियो AI से बना है। यह प्रक्रिया सिंथेटिक दृश्यों और संदिग्ध पहचान बदलाव दोनों पर लागू है।

दृश्य “डीपफेक संकेत” पर्याप्त क्यों नहीं

तय जाँच सूचियाँ जल्दी पुरानी होती हैं। अस्वाभाविक पलक झपकना, विकृत दाँत, अजीब हाथ या किनारे की गड़बड़ी उपयोगी सुराग दे सकती है, लेकिन आधुनिक सिस्टम इन्हें टाल सकते हैं। असली फ़ुटेज में धुँधलापन, कंप्रेशन, छूटे फ़्रेम, डबिंग, फ़िल्टर या प्रकाश प्रभाव भी बदलाव जैसे लग सकते हैं।

एक स्क्रीनशॉट के बजाय क्रम जाँचें। पूछें असामान्यता पास के फ़्रेम और बेहतर गुणवत्ता प्रति में बनी रहती है या नहीं। अधिक महत्वपूर्ण बाहरी साक्ष्य खोजें: मूल रिकॉर्डिंग, दूसरा कैमरा कोण, मेल खाता सार्वजनिक प्रदर्शन या समय और स्थान का विरोधाभास।

विश्वसनीय चेहरा घटना सत्यापित नहीं करता। उलटे एक खराब फ़्रेम चेहरा बदलना साबित नहीं करता।

AI वीडियो डिटेक्टर क्या बता सकता है?

डिटेक्टर अपनी समर्थित श्रेणियों में मीडिया से जुड़े पैटर्न पहचान सकता है। परिणाम मॉडल प्रशिक्षण, फ़ाइल गुणवत्ता, बदलाव प्रकार और उसने कितना वीडियो देखा के संदर्भ में समझें।

पढ़ें AIFakeScan की कार्यप्रणाली जिसके अनुसार Basic Scan में विशेष फेस-स्वैप वर्गीकरण नहीं है और बुनियादी ऑडियो जाँच क्लोन या सिंथेटिक वाणी वर्गीकृत नहीं करती। वीडियो विश्लेषण हर फ़्रेम के बजाय नमूना ले सकता है। केवल निष्क्रिय बीटा परिणाम अनिर्णायक रहते हैं; वे सत्यापित AI संभावनाएँ नहीं हैं।

ये सीमाएँ सामान्य गलती रोकती हैं: सामान्य वीडियो परिणाम को व्यक्ति के चेहरे और आवाज़ की अलग जाँच मानना। उपयोग करें AI वीडियो डिटेक्टर केवल बताई जाँचों के लिए, फिर परिणाम पहचान और स्रोत सत्यापन से जोड़ें।

डीपफेक में Content Credentials कैसे मदद करते हैं?

Content Credentials दर्ज कर सकते हैं कि सामग्री पर किस व्यक्ति या प्रणाली ने हस्ताक्षर किए, कौन सी कार्रवाई घोषित हुई और हस्ताक्षरित उत्पत्ति अभी फ़ाइल से मेल खाती है या नहीं। घोषित AI संपादन या निर्माण कार्रवाई दर्ज प्रक्रिया का मजबूत सकारात्मक साक्ष्य हो सकती है।

वे दृश्य की सच्चाई स्थापित नहीं करते या सहमति की गारंटी नहीं देते। क्रेडेंशियल न मिलना बदलाव साबित नहीं करता, क्योंकि अपनाना वैकल्पिक है और मेटाडेटा खो सकता है। पढ़ें C2PA Content Credentials: क्या हैं और कैसे काम करते हैं मान्य उत्पत्ति रिकॉर्ड और सच वास्तविक दावे के अंतर के लिए।

संदिग्ध पहचान नकल धोखाधड़ी में क्या करें?

बातचीत धीमी करें। केवल दिखाई चेहरे, आवाज़, कॉलर ID या खाते पर भरोसा न करें। व्यक्ति या संगठन से ऐसे फ़ोन नंबर, वेबसाइट या खाते से संपर्क करें जिसे आप पहले से असली जानते हैं।

दबाव में पैसा या संवेदनशील जानकारी न भेजें। संदेश और लेनदेन विवरण सुरक्षित रखें, संबंधित प्लेटफ़ॉर्म या वित्तीय प्रदाता को सूचित करें और उचित आधिकारिक माध्यम से धोखाधड़ी की रिपोर्ट करें। लक्ष्य अनुरोध स्वतंत्र सत्यापित करना है, मीडिया से बहस जीतना नहीं।

अक्सर पूछे जाने वाले सवाल

क्या डीपफेक हमेशा वीडियो होता है?

नहीं। शब्द बदली या सिंथेटिक छवियाँ, वीडियो और ऑडियो शामिल कर सकता है, खासकर जब वे असली व्यक्ति की पहचान, आवाज़, रूप या कार्यों की नकल करें।

क्या हर फेस फ़िल्टर डीपफेक है?

आमतौर पर नहीं। बताए गए मनोरंजन फ़िल्टर को उसके काम से बताना बेहतर है। जब AI बदलाव असली व्यक्ति की पहचान या कार्य का वास्तविक दिखता दावा बनाए तो डीपफेक लेबल अधिक उपयुक्त है।

क्या डीपफेक डिटेक्टर वीडियो नकली साबित कर सकता है?

किसी डिटेक्टर परिणाम को सार्वभौमिक प्रमाण न मानें। कवरेज बदलाव प्रकार और फ़ाइल गुणवत्ता से बदलती है। गंभीर निष्कर्षों के लिए स्रोत साक्ष्य, संभव हो तो मूल मीडिया और उचित विशेषज्ञ समीक्षा चाहिए।

क्या असली फ़ुटेज फिर भी गलत सूचना हो सकती है?

हाँ। असली फ़ुटेज पुरानी, गलत कैप्शन वाली, चुनिंदा संपादित या गलत स्थान से प्रस्तुत हो सकती है। फ़ाइल की प्रामाणिकता और आसपास के दावे की सच्चाई अलग सवाल हैं।

संदिग्ध मीडिया बताने का सबसे स्पष्ट तरीका क्या है?

दिखी तकनीक और दावा बताएँ: जैसे “परिवार के सदस्य की नकल करती संदिग्ध क्लोन आवाज़” या “असली फ़ुटेज बताया पूरी तरह बना दृश्य।” हर संदिग्ध सामग्री को डीपफेक कहने से सटीक भाषा अधिक उपयोगी है।

व्यावहारिक सीख

पहचान की नकल या बदलाव करने वाले AI समर्थित मीडिया के लिए “डीपफेक” और व्यापक श्रेणी के लिए “AI निर्मित सामग्री” उपयोग करें। फिर खास व्यक्ति, कार्रवाई, स्रोत और संदर्भ सत्यापित करें। सटीक वर्गीकरण एक दृश्य सुराग या डिटेक्टर स्कोर पर निर्भर होने के बजाय सही साक्ष्य चुनने में मदद करता है।

सवाल और जवाब

क्या डीपफेक हमेशा वीडियो होता है?

नहीं। शब्द सिंथेटिक या बदली छवियाँ, वीडियो और ऑडियो शामिल कर सकता है, खासकर जब वे असली व्यक्ति की नकल करें।

क्या हर फेस फ़िल्टर डीपफेक है?

आमतौर पर नहीं। लेबल अधिक उपयोगी है जब AI बदलाव असली व्यक्ति की पहचान या कार्य का वास्तविक दिखता दावा बनाए।

क्या डीपफेक डिटेक्टर वीडियो नकली साबित कर सकता है?

एक परिणाम सार्वभौमिक प्रमाण नहीं। कवरेज बदलती है और गंभीर निष्कर्षों को स्रोत साक्ष्य और उचित समीक्षा चाहिए।

क्या असली फ़ुटेज फिर भी गलत सूचना हो सकती है?

हाँ। असली फ़ुटेज पुरानी, गलत कैप्शन वाली, चुनिंदा संपादित या गलत स्थान से जोड़ी हो सकती है।

स्रोत

  1. Frontier Research on Mitigating Risks from Synthetic Content — NIST
  2. Backgrounder: Deepfakes in 2021 — WITNESS
  3. Scammers Use Fake Emergencies To Steal Your Money — Federal Trade Commission