التزييف العميق وسائط اصطناعية أو متلاعب بها تستخدم الذكاء الاصطناعي لمحاكاة هوية شخص أو مظهره أو صوته أو أفعاله أو تغييرها. المحتوى المنشأ بالذكاء الاصطناعي فئة أوسع: قد يصور أشخاصاً أو أماكن أو أشياء أو أحداثاً خيالية دون انتحال شخص حقيقي. كل تزييف عميق محتوى منشأ أو معدّل بالذكاء الاصطناعي، لكن ليست كل مادة منشأة به تزييفاً عميقاً.
يؤثر هذا الفرق في المخاطر والتحقق معاً. قد يكون منظر منشأ بالكامل وفيديو تبديل وجه اصطناعيين، لكن واحداً منهما فقط يعتمد على ادعاء هوية شخص حقيقي.
ما التزييف العميق؟
يجمع مصطلح deepfake بين التعلم العميق والتزييف. في الاستخدام الشائع يشير إلى وسائط أُنشئت أو عُدلت بتقنيات التعلم الآلي لجعل شخص حقيقي يبدو كأنه يقول أو يفعل ما لم يقله أو يفعله، أو لمحاكاة وجهه أو صوته.
تختلف التعريفات عند الحدود. تصف NIST الوسائط الاصطناعية على نطاق واسع بأنها معلومات عُدلت بشكل كبير أو أنشأتها خوارزميات، بما فيها الذكاء الاصطناعي. تقسم مواد NIST للتحليل الجنائي للوسائط التلاعب بالوجه إلى فئات مثل تبديل الهوية والتعبير وتغيير السمات وتركيب الوجه كله.
تستخدم WITNESS «الوسائط الاصطناعية» كعائلة أوسع وتصف التزييف العميق بأنه محاكاة واقعية لوجه شخص أو صوته أو أفعاله. يفيد هذا التعريف المتمحور حول الشخص لأن الانتحال عادة ما يجعل التزييف العميق ضاراً بشكل خاص.
ما الفرق بين التزييف العميق والمحتوى المنشأ بالذكاء الاصطناعي؟
يشمل المحتوى المنشأ بالذكاء الاصطناعي النص والصور والصوت والفيديو الذي أنتجته نماذج توليدية أو حوّلته بشكل جوهري. قد يُفصح عنه بوضوح أو يكون خيالياً أو فنياً أو مصمماً لسير تجاري عادي. لا يلزم نسخ شخص حقيقي.
يستهدف التزييف العميق الهوية عادة. قد يضع وجه شخص على جسد آخر أو يعيد تمثيل تعبيرات الوجه أو ينشئ كلاماً بصوت معروف أو مشهداً واقعياً يضم شخصاً مسمى.
| نوع الوسائط | يستخدم الذكاء الاصطناعي؟ | يحاكي شخصاً حقيقياً؟ | مثال نموذجي |
|---|---|---|---|
| رسم منشأ | نعم | ليس بالضرورة | مدينة خيالية أُنشئت من طلب |
| مقدم منشأ بالكامل | نعم | لا، إذا كانت الهوية خيالية | مضيف افتراضي مُفصح عنه |
| تبديل الوجه | نعم | نعم | وضع وجه شخص على أداء شخص آخر |
| إعادة تمثيل الوجه | نعم | نعم | تغيير تعبيرات شخص حقيقي أو حركات فمه |
| نسخة صوت مستنسخة | نعم | نعم | كلام اصطناعي يحاكي متحدثاً معروفاً |
| تعديل تقليدي مضلل | ليس بالضرورة | ربما | مقطع حقيقي قُطع لإزالة السياق |
الصف الأخير مهم: الوسائط الضارة أو الخادعة ليست تزييفاً عميقاً تلقائياً. قد يضلل فيديو معاد استخدامه أو تعليق كاذب أو قطع انتقائي أو تعديل يدوي دون ذكاء اصطناعي توليدي.
ما الأنواع الرئيسية للتزييف العميق؟
تبديل الوجوه
يستبدل تبديل الوجه هوية المصدر أو يمزجها في صورة أو فيديو مستهدف. قد يبقى الجسد والحركة والمكان والصوت الأساسي حقيقياً رغم تغير الهوية الظاهرة.
إعادة تمثيل الوجه والتلاعب بتزامن الشفاه
تغيّر إعادة التمثيل التعبيرات أو النظرة أو حركة الرأس أو الفم مع الحفاظ على هوية الشخص المستهدف. قد تجعل أنظمة تزامن الشفاه شخصاً يبدو كأنه ينطق كلمات من صوت بديل.
استنساخ الصوت
تنشئ نسخة الصوت المستنسخة كلاماً يحاكي متحدثاً معيناً. قد تظهر في مكالمة أو رسالة صوتية أو مقطع بودكاست أو مسار صوتي لفيديو معدل. تحذر لجنة التجارة الفيدرالية الأمريكية من أن المحتالين المنتحلين قد يستخدمون استنساخ الصوت في طلبات طوارئ مزيفة وتنصح بالاتصال بالمتصل المفترض عبر قناة معروفة.
الهوية الاصطناعية والتلاعب بالجسد
تجمع بعض الوسائط وجهاً منشأ وجسداً معدلاً وسياقاً مختلقاً. ويغير محتوى آخر العمر أو الشعر أو الملابس أو السمات دون استبدال الهوية كلها. تبين هذه الحالات لماذا لا يمثل التزييف العميق عملية تقنية واحدة.
هل الأشخاص المنشؤون بالكامل بالذكاء الاصطناعي تزييف عميق؟
الأفضل عادة وصف شخص منشأ لا يحاكي فرداً يمكن تحديده بأنه شخص اصطناعي أو شخصية منشأة بالذكاء الاصطناعي. تسمية كل صورة شخصية واقعية بالذكاء الاصطناعي تزييفاً عميقاً قد تطمس الأضرار المرتبطة بالهوية التي وُضع المصطلح لوصفها.
قد تظل التسمية مناسبة عندما يصور مشهد منشأ شخصاً حقيقياً مسمى بشكل كاذب، حتى لو أنشأ النظام الإطار كله بدلاً من تبديل وجه. عملياً صف التقنية والادعاء معاً: «صورة منشأة بالذكاء الاصطناعي تصور شخصية عامة كذباً» أدق من تسمية وحدها.
هل كل تزييف عميق خبيث؟
لا. يمكن استخدام التقنية بموافقة للدبلجة وإتاحة الوصول والسخرية والإنتاج السينمائي والتعليم أو العمل الإبداعي المُفصح عنه. يعتمد القلق الأخلاقي والقانوني على الموافقة والإفصاح والسياق والضرر لا مجرد استخدام الذكاء الاصطناعي.
تشمل الاستخدامات عالية المخاطر الصور الحميمة دون موافقة والاحتيال والمضايقة والتلاعب بالأدلة والانتحال للتأثير في القرارات. وحتى حينها لا تتهم منشئاً أو شخصاً مصوراً بناءً على نتيجة كاشف آلي وحدها. احتفظ بالمصدر الأصلي واطلب مراجعة مؤهلة للحالات ذات العواقب.
كيف تتحقق من تزييف عميق مشتبه به؟
ابدأ بالادعاء والهوية لا بالشذوذات البصرية. اسأل من يُفترض ظهوره أو سماعه وماذا يُزعم أنه قال أو فعل وأين ظهرت الوسائط أولاً.
- احتفظ بعنوان URL والحساب والتعليق والتوقيتات وأفضل ملف متاح.
- ابحث عن نسخة أطول أو أقدم عبر تتبع المصدر والبحث بإطارات ممثلة.
- قارن الادعاء بتسجيلات رسمية أو تقارير موثوقة أو قناة معروفة أخرى.
- راجع الإطارات المتجاورة بحثاً عن عدم اتساق مستمر في الهوية والحركة والتركيب.
- افحص الصوت منفصلاً؛ وابحث عن تعديلات وتحقق من المتحدث عبر وسيلة اتصال مستقلة.
- افحص Content Credentials المتاحة أو سجلات مصدر أخرى.
- استخدم كاشفاً مناسباً كدليل مساند وسجّل تغطيته المعلنة.
لسير وسائط مفصل اقرأ كيف تعرف ما إذا كان الفيديو منشأً بالذكاء الاصطناعي. تنطبق العملية على المشاهد الاصطناعية كما تنطبق على التلاعب المشتبه به بالهوية.
لماذا لا تكفي «علامات التزييف العميق» البصرية
تتقادم القوائم الثابتة بسرعة. قد يقدم الرمش غير الطبيعي والأسنان المشوهة والأيدي الغريبة وآثار الحواف قرائن مفيدة، لكن الأنظمة الحديثة قد تتجنبها. وقد تحتوي اللقطات الحقيقية أيضاً على ضبابية أو ضغط أو إطارات مفقودة أو دبلجة أو مرشحات أو مؤثرات إضاءة تشبه التلاعب.
افحص تسلسلاً بدلاً من لقطة شاشة واحدة. اسأل ما إذا يستمر الشذوذ في الإطارات المتجاورة ونسخة أفضل جودة. والأهم ابحث عن أدلة خارجية: تسجيل أصلي أو زاوية كاميرا أخرى أو ظهور عام مطابق أو تناقض في الزمان والمكان.
الوجه المقنع لا يثبت الحدث. وبالعكس لا يثبت إطار واحد قبيح تبديل الوجه.
ماذا يمكن أن يخبرك كاشف فيديو الذكاء الاصطناعي؟
قد يحدد الكاشف أنماطاً مرتبطة بالوسائط في فئاته المدعومة. ينبغي تفسير مخرجاته في ضوء تدريب النموذج وجودة الملف ونوع التلاعب ومقدار الفيديو الذي فحصه.
تنص منهجية AIFakeScan على أن Basic Scan لا يتضمن تصنيفاً متخصصاً لتبديل الوجه، وأن فحص الصوت الأساسي لا يصنف الكلام المستنسخ أو الاصطناعي. قد يأخذ تحليل الفيديو عينات من الإطارات بدلاً من فحص كل إطار. تبقى نتائج النسخة التجريبية المعتمدة على التحليل السلبي وحده غير حاسمة؛ وليست احتمالات ذكاء اصطناعي معتمدة.
تمنع هذه الحدود خطأ شائعاً: اعتبار نتيجة فيديو عامة كأنها اختبرت وجه الشخص وصوته منفصلين. استخدم كاشف فيديو الذكاء الاصطناعي فقط للفحوص التي يصفها، ثم اجمع النتيجة مع التحقق من الهوية والمصدر.
كيف تساعد Content Credentials مع التزييف العميق؟
يمكن لـ Content Credentials تسجيل من أو ما وقّع مادة والإجراءات المصرح بها وما إذا كان المصدر الموقّع لا يزال يطابق الملف. قد يكون تصريح تعديل أو إنشاء بالذكاء الاصطناعي دليلاً إيجابياً قوياً عن سير العمل المسجل.
لا تثبت حقيقة المشهد ولا تضمن الموافقة. غياب بيانات الاعتماد لا يثبت التلاعب لأن اعتمادها اختياري وقد تضيع البيانات الوصفية. اقرأ C2PA Content Credentials: ما هي وكيف تعمل لمعرفة الفرق بين سجل مصدر صالح وادعاء حقيقي في العالم الواقعي.
ماذا تفعل عند الاشتباه في احتيال بانتحال الهوية؟
تمهل في التفاعل. لا تعتمد على الوجه أو الصوت أو هوية المتصل أو الحساب الظاهر وحده. اتصل بالشخص أو المؤسسة عبر رقم هاتف أو موقع أو حساب تعرف مسبقاً أنه حقيقي.
لا ترسل مالاً أو معلومات حساسة تحت الضغط. احتفظ بالرسائل وتفاصيل المعاملات وأبلغ المنصة أو المزوّد المالي المعني وأبلغ عن الاحتيال عبر القناة الرسمية المناسبة. الهدف التحقق من الطلب بشكل مستقل لا كسب جدال مع الوسائط.
أسئلة شائعة
هل التزييف العميق فيديو دائماً؟
لا. قد يشمل المصطلح صوراً وفيديو وصوتاً متلاعباً به أو اصطناعياً، خصوصاً عندما يحاكي هوية شخص حقيقي أو صوته أو مظهره أو أفعاله.
هل كل مرشح وجه تزييف عميق؟
ليس عادة. من الأفضل وصف مرشح ترفيهي مُفصح عنه بما يفعله. تصبح تسمية التزييف العميق أنسب عندما ينشئ تلاعب بالذكاء الاصطناعي ادعاء هوية أو فعل واقعياً يتعلق بشخص حقيقي.
هل يثبت كاشف التزييف العميق أن الفيديو مزيف؟
لا ينبغي اعتبار أي نتيجة كاشف دليلاً شاملاً. تختلف التغطية حسب نوع التلاعب وجودة الملف. تتطلب الاستنتاجات عالية المخاطر أدلة المصدر والوسائط الأصلية إن أمكن ومراجعة خبراء مناسبة.
هل يمكن أن تكون اللقطات الحقيقية معلومات مضللة؟
نعم. قد تكون اللقطات الحقيقية قديمة أو ذات تعليق خاطئ أو معدلة انتقائياً أو معروضة بموقع كاذب. أصالة الملف وصحة الادعاء المحيط سؤالان منفصلان.
ما أوضح طريقة لوصف الوسائط المشتبه بها؟
اذكر التقنية الملحوظة والادعاء: مثلاً «صوت مستنسخ مشتبه به ينتحل أحد أفراد الأسرة» أو «مشهد منشأ بالكامل وُصف بأنه لقطات حقيقية». اللغة الدقيقة أنفع من تسمية كل مادة مشبوهة تزييفاً عميقاً.
الخلاصة العملية
استخدم «التزييف العميق» للوسائط المدعومة بالذكاء الاصطناعي التي تحاكي الهوية أو تتلاعب بها، و«المحتوى المنشأ بالذكاء الاصطناعي» للفئة الأوسع. ثم تحقق من الشخص والفعل والمصدر والسياق المحددين. يساعد التصنيف الدقيق على اختيار الأدلة المناسبة بدلاً من الاعتماد على قرينة بصرية أو درجة كاشف واحدة.
الأسئلة والأجوبة
هل التزييف العميق فيديو دائماً؟
لا. قد يشمل المصطلح صوراً وفيديو وصوتاً اصطناعياً أو متلاعباً به، خصوصاً عند محاكاة شخص حقيقي.
هل كل مرشح وجه تزييف عميق؟
ليس عادة. تكون التسمية أفيد عندما ينشئ تلاعب الذكاء الاصطناعي ادعاء هوية أو فعل واقعياً يخص شخصاً حقيقياً.
هل يثبت كاشف التزييف العميق أن الفيديو مزيف؟
لا تمثل نتيجة واحدة دليلاً شاملاً. تختلف التغطية وتتطلب الاستنتاجات عالية المخاطر أدلة المصدر ومراجعة مناسبة.
هل يمكن أن تكون اللقطات الحقيقية معلومات مضللة؟
نعم. قد تكون اللقطات الحقيقية قديمة أو ذات تعليق خاطئ أو معدلة انتقائياً أو منسوبة إلى موقع كاذب.
المصادر
- Frontier Research on Mitigating Risks from Synthetic Content — NIST
- Backgrounder: Deepfakes in 2021 — WITNESS
- Scammers Use Fake Emergencies To Steal Your Money — Federal Trade Commission
