Guides de vérification

Qu’est-ce qu’un deepfake ? Deepfakes et contenus générés par IA

Découvrez ce qu’est un deepfake, sa différence avec les contenus générés par IA au sens large, les principaux types de manipulation et comment vérifier une usurpation présumée.

Couverture de l’article portant le titre : Qu’est-ce qu’un deepfake ? Deepfakes et contenus générés par IA

Un deepfake est un média synthétique ou manipulé qui utilise l’IA pour imiter ou modifier l’identité, l’apparence, la voix ou les actions d’une personne. Les contenus générés par IA forment une catégorie plus large : ils peuvent représenter des personnes, lieux, objets ou événements fictifs sans usurper l’identité d’une personne réelle. Tout deepfake est un contenu généré ou modifié par IA, mais tout contenu généré par IA n’est pas un deepfake.

Cette distinction influe sur les risques et la vérification. Un paysage entièrement généré et une vidéo avec échange de visage peuvent tous deux être synthétiques, mais un seul repose sur une affirmation d’identité concernant une personne réelle.

Qu’est-ce qu’un deepfake ?

Le mot « deepfake » associe apprentissage profond et falsification. Dans l’usage courant, il désigne un média créé ou modifié par apprentissage automatique pour faire croire qu’une personne réelle a dit ou fait quelque chose qu’elle n’a pas dit ou fait, ou pour imiter son visage ou sa voix.

Les définitions varient dans les cas limites. Le NIST décrit les médias synthétiques au sens large comme des informations fortement modifiées ou générées par des algorithmes, dont l’IA. Ses documents d’analyse forensique distinguent notamment l’échange d’identité, l’échange d’expression, la modification d’attributs et la synthèse d’un visage entier.

WITNESS utilise « médias synthétiques » comme catégorie générale et décrit les deepfakes comme des simulations réalistes du visage, de la voix ou des actions d’une personne. Cette définition centrée sur la personne est utile car l’usurpation rend souvent le deepfake particulièrement nuisible.

Quelle différence entre deepfake et contenu généré par IA ?

Les contenus générés par IA comprennent les textes, images, sons et vidéos produits ou fortement transformés par des modèles génératifs. Ils peuvent être clairement signalés, fictifs, artistiques ou destinés à un usage commercial ordinaire. Aucune personne réelle n’a besoin d’être imitée.

Un deepfake vise généralement l’identité. Il peut placer le visage d’une personne sur un autre corps, reproduire des expressions, générer une voix reconnaissable ou créer une scène réaliste impliquant une personne nommée.

Type de médiaUtilise l’IA ?Imite une personne réelle ?Exemple courant
Illustration généréeOuiPas nécessairementUne ville fictive créée à partir d’une instruction
Présentateur entièrement généréOuiNon, si l’identité est fictiveUn présentateur virtuel signalé comme tel
Échange de visageOuiOuiLe visage d’une personne placé sur la prestation d’une autre
Reconstitution facialeOuiOuiExpressions ou mouvements de bouche modifiés chez une personne réelle
Voix clonéeOuiOuiVoix synthétique imitant un locuteur connu
Montage classique trompeurPas nécessairementPossiblementUne vidéo réelle coupée pour supprimer son contexte

La dernière ligne est importante : un média nuisible ou trompeur n’est pas automatiquement un deepfake. Une vidéo réutilisée, une fausse légende, une coupe sélective ou un montage manuel peuvent tromper sans IA générative.

Quels sont les principaux types de deepfakes ?

Échanges de visage

Un échange de visage remplace ou mélange une identité source dans une image ou une vidéo cible. Le corps, le mouvement, le décor et le son peuvent rester authentiques alors que l’identité apparente change.

Reconstitution faciale et manipulation de la synchronisation labiale

La reconstitution modifie les expressions, le regard, les mouvements de tête ou de bouche tout en conservant l’identité de la personne cible. Les systèmes de synchronisation labiale peuvent donner l’impression qu’elle prononce les mots d’une bande-son de remplacement.

Clonage vocal

Un clone vocal génère une voix qui imite un locuteur précis. Il peut apparaître dans un appel, un message vocal, un extrait de podcast ou la bande-son d’une vidéo modifiée. La US Federal Trade Commission avertit que des escrocs peuvent utiliser le clonage vocal dans de fausses demandes d’urgence et conseille de joindre l’appelant présumé par un moyen connu.

Identité synthétique et manipulation du corps

Certains médias combinent un visage généré, un corps modifié et un contexte inventé. D’autres changent l’âge, les cheveux, les vêtements ou des attributs sans remplacer toute l’identité. Ces cas montrent qu’un « deepfake » ne correspond pas à une seule opération technique.

Les personnes entièrement générées par IA sont-elles des deepfakes ?

Une personne générée qui n’imite aucun individu identifiable est généralement mieux décrite comme une personne synthétique ou un personnage généré par IA. Qualifier chaque portrait photoréaliste d’IA de deepfake peut masquer les préjudices liés à l’identité que le terme vise à décrire.

Le terme peut néanmoins convenir lorsqu’une scène générée représente faussement une personne réelle nommée, même si le système a créé toute l’image au lieu d’échanger un visage. Décrivez la technique et l’affirmation : « image générée par IA représentant faussement une personnalité publique » est plus précis qu’une simple étiquette.

Tous les deepfakes sont-ils malveillants ?

Non. La technique peut être utilisée avec consentement pour le doublage, l’accessibilité, la satire, le cinéma, l’éducation ou une création signalée. Les questions éthiques et juridiques dépendent du consentement, de la divulgation, du contexte et des préjudices, pas seulement de l’utilisation de l’IA.

Les usages à haut risque comprennent les images intimes sans consentement, la fraude, le harcèlement, la manipulation de preuves et l’usurpation destinée à influencer des décisions. N’accusez toutefois pas un créateur ou une personne représentée sur la seule base d’un détecteur automatisé. Conservez la source originale et demandez un examen qualifié pour les cas importants.

Comment vérifier un deepfake présumé ?

Commencez par l’affirmation et l’identité, pas par les anomalies visuelles. Demandez qui serait montré ou entendu, ce que cette personne aurait dit ou fait et où le média est apparu pour la première fois.

  1. Conservez l’URL, le compte, la légende, les horodatages et le meilleur fichier disponible.
  2. Trouvez une version plus longue ou plus ancienne en remontant à la source et en recherchant des images représentatives.
  3. Comparez l’affirmation à des enregistrements officiels, des reportages fiables ou un autre canal connu.
  4. Examinez les images voisines pour repérer des incohérences persistantes d’identité, de mouvement et de composition.
  5. Examinez l’audio séparément ; cherchez les coupes et vérifiez le locuteur par un moyen de contact indépendant.
  6. Examinez les Content Credentials ou autres informations de provenance disponibles.
  7. Utilisez un détecteur adapté comme preuve complémentaire et notez sa couverture annoncée.

Pour une procédure détaillée, lisez Comment savoir si une vidéo a été générée par IA. Elle s’applique aux scènes synthétiques comme aux manipulations d’identité présumées.

Pourquoi les « signes visuels » de deepfake ne suffisent pas

Les listes fixes vieillissent vite. Clignements inhabituels, dents déformées, mains étranges ou artefacts sur les contours peuvent fournir des pistes, mais les systèmes modernes peuvent les éviter. Des images authentiques peuvent aussi contenir flou, compression, images perdues, doublage, filtres ou effets de lumière qui ressemblent à une manipulation.

Examinez une séquence plutôt qu’une seule capture. Vérifiez si l’anomalie persiste dans les images voisines et une copie de meilleure qualité. Cherchez surtout des preuves externes : enregistrement original, autre angle de caméra, apparition publique correspondante ou contradiction de temps et de lieu.

Un visage convaincant ne valide pas l’événement. À l’inverse, une seule mauvaise image ne prouve pas un échange de visage.

Que peut indiquer un détecteur vidéo IA ?

Un détecteur peut repérer des motifs associés aux médias de ses catégories prises en charge. Sa réponse doit être interprétée selon son entraînement, la qualité du fichier, le type de manipulation et la portion de vidéo examinée.

La méthodologie d’AIFakeScan indique que Basic Scan ne comprend pas de classification spécialisée des échanges de visages et que l’inspection audio de base ne classe pas les voix clonées ou synthétiques. L’analyse vidéo peut examiner un échantillon plutôt que chaque image. Les résultats bêta fondés uniquement sur des signaux passifs restent non concluants ; ce ne sont pas des probabilités d’IA validées.

Ces limites évitent une erreur fréquente : traiter un résultat vidéo général comme si le visage et la voix avaient été testés séparément. Utilisez le détecteur vidéo IA uniquement pour les vérifications décrites, puis combinez son résultat à la vérification de l’identité et de la source.

Comment les Content Credentials aident-ils pour les deepfakes ?

Les Content Credentials peuvent enregistrer qui ou quoi a signé un contenu, les actions déclarées et si la provenance signée correspond toujours au fichier. Une modification ou génération par IA déclarée peut être une preuve positive forte du processus enregistré.

Ils ne prouvent pas la vérité d’une scène et ne garantissent pas le consentement. Leur absence ne prouve pas une manipulation : leur utilisation est facultative et les métadonnées peuvent être perdues. Lisez C2PA Content Credentials : ce qu’ils sont et comment ils fonctionnent pour distinguer une provenance valide d’une affirmation vraie sur le monde réel.

Que faire en cas de soupçon d’arnaque par usurpation ?

Ralentissez l’échange. Ne vous fiez pas uniquement au visage apparent, à la voix, au numéro affiché ou au compte. Contactez la personne ou l’organisation à un numéro, sur un site ou par un compte que vous savez déjà authentique.

N’envoyez ni argent ni information sensible sous pression. Conservez les messages et les détails des transactions, prévenez la plateforme ou l’établissement financier concerné et signalez la fraude par la voie officielle adaptée. Le but est de vérifier la demande indépendamment, pas de gagner un débat sur le média.

Questions fréquentes

Un deepfake est-il toujours une vidéo ?

Non. Le terme peut couvrir des images, vidéos et sons manipulés ou synthétiques, surtout lorsqu’ils imitent l’identité, la voix, l’apparence ou les actions d’une personne réelle.

Tout filtre de visage est-il un deepfake ?

Pas généralement. Un filtre de divertissement clairement signalé se décrit mieux par sa fonction. Le terme deepfake devient plus pertinent lorsqu’une manipulation par IA crée une affirmation réaliste d’identité ou d’action impliquant une personne réelle.

Un détecteur de deepfake peut-il prouver qu’une vidéo est fausse ?

Aucun résultat de détecteur ne doit être considéré comme une preuve universelle. La couverture varie selon la manipulation et la qualité du fichier. Les conclusions importantes nécessitent des preuves sur la source, si possible le média original et un examen expert adapté.

Des images authentiques peuvent-elles servir à désinformer ?

Oui. Elles peuvent être anciennes, mal légendées, coupées de manière sélective ou associées à un faux lieu. L’authenticité du fichier et la vérité de l’affirmation qui l’entoure sont deux questions distinctes.

Comment décrire clairement un média suspect ?

Énoncez la technique observée et l’affirmation : par exemple « clone vocal présumé imitant un membre de la famille » ou « scène entièrement générée présentée comme un enregistrement réel ». Un langage précis est plus utile que d’appeler deepfake tout contenu suspect.

À retenir en pratique

Utilisez « deepfake » pour les médias utilisant l’IA qui imitent ou manipulent une identité, et « contenu généré par IA » pour la catégorie plus large. Vérifiez ensuite la personne, l’action, la source et le contexte précis. Une classification exacte aide à choisir les bonnes preuves au lieu de se fier à un seul indice visuel ou score de détecteur.

Questions et réponses

Un deepfake est-il toujours une vidéo ?

Non. Le terme peut couvrir des images, vidéos et sons synthétiques ou manipulés, surtout lorsqu’ils imitent une personne réelle.

Tout filtre de visage est-il un deepfake ?

Pas généralement. Le terme est plus utile lorsqu’une manipulation par IA crée une affirmation réaliste d’identité ou d’action impliquant une personne réelle.

Un détecteur de deepfake peut-il prouver qu’une vidéo est fausse ?

Aucun résultat isolé n’est une preuve universelle. La couverture varie et les conclusions importantes exigent des preuves sur la source et un examen approprié.

Des images authentiques peuvent-elles servir à désinformer ?

Oui. Elles peuvent être anciennes, mal légendées, coupées de manière sélective ou associées à un faux lieu.

Sources

  1. Frontier Research on Mitigating Risks from Synthetic Content — NIST
  2. Backgrounder: Deepfakes in 2021 — WITNESS
  3. Scammers Use Fake Emergencies To Steal Your Money — Federal Trade Commission