Guide alla verifica

Cos’è un deepfake? Deepfake e contenuti generati dall’IA a confronto

Scopri cos’è un deepfake, come differisce dalla categoria più ampia dei contenuti generati dall’IA, i principali tipi di manipolazione e come verificare una sospetta impersonificazione.

Copertina dell’articolo con il titolo: Cos’è un deepfake? Deepfake e contenuti generati dall’IA a confronto

Un deepfake è un contenuto sintetico o manipolato che usa l’IA per imitare o alterare l’identità, l’aspetto, la voce o le azioni di una persona. I contenuti generati dall’IA sono la categoria più ampia: possono rappresentare persone, luoghi, oggetti o eventi immaginari senza impersonare alcun individuo reale. Ogni deepfake è un contenuto generato o modificato dall’IA, ma non ogni file generato dall’IA è un deepfake.

Questa distinzione influisce sia sul rischio sia sulla verifica. Un paesaggio interamente generato e un video con volto sostituito possono entrambi essere sintetici, ma solo uno dipende da un’affermazione di identità su una persona reale.

Cos’è un deepfake?

Il termine «deepfake» combina apprendimento profondo e falsificazione. Nell’uso comune indica contenuti creati o alterati con tecniche di apprendimento automatico per far sembrare che una persona reale dica o faccia qualcosa che non ha detto o fatto, oppure per imitarne il volto o la voce.

Le definizioni variano nei casi limite. NIST descrive i contenuti sintetici in senso ampio come informazioni significativamente modificate o generate da algoritmi, inclusa l’IA. I materiali di analisi forense dei media di NIST dividono le manipolazioni del volto in categorie come sostituzione dell’identità, sostituzione dell’espressione, manipolazione degli attributi e sintesi dell’intero volto.

WITNESS usa «contenuti sintetici» come famiglia più ampia e descrive i deepfake come simulazioni realistiche del volto, della voce o delle azioni di qualcuno. Questa definizione centrata sulla persona è utile perché l’impersonificazione è spesso ciò che rende un deepfake particolarmente dannoso.

Qual è la differenza tra un deepfake e contenuti generati dall’IA?

I contenuti generati dall’IA includono testo, immagini, audio e video prodotti o sostanzialmente trasformati da modelli generativi. Possono essere chiaramente dichiarati, immaginari, artistici o progettati per un normale flusso commerciale. Non è necessario copiare una persona reale.

Un deepfake prende di solito di mira l’identità. Può collocare il volto di una persona su un altro corpo, ricreare espressioni facciali, generare parlato con una voce riconoscibile o creare una scena realistica che coinvolge una persona identificata.

Tipo di contenutoUsa l’IA?Imita una persona reale?Esempio tipico
Illustrazione generataSìNon necessariamenteUna città immaginaria creata da un prompt
Presentatore interamente generatoSìNo, se l’identità è immaginariaUn presentatore virtuale dichiarato
Sostituzione del voltoSìSìIl volto di una persona collocato sulla performance di un’altra
Ricreazione faccialeSìSìEspressioni o movimenti della bocca di una persona reale alterati
Clone vocaleSìSìParlato sintetico che imita una voce conosciuta
Montaggio ingannevole convenzionaleNon necessariamentePossibilmenteUn filmato reale tagliato per rimuovere il contesto

L’ultima riga conta: un contenuto dannoso o ingannevole non è automaticamente un deepfake. Un video riutilizzato, una didascalia falsa, un taglio selettivo o una modifica manuale possono ingannare senza IA generativa.

Quali sono i principali tipi di deepfake?

Sostituzioni del volto

La sostituzione del volto rimpiazza o fonde un’identità di origine in un’immagine o video di destinazione. Il corpo, il movimento, l’ambiente e l’audio sottostanti possono rimanere autentici anche se cambia l’identità apparente.

Ricreazione facciale e manipolazione della sincronizzazione labiale

La ricreazione cambia espressioni, sguardo, movimento della testa o della bocca conservando l’identità della persona di destinazione. I sistemi di sincronizzazione labiale possono far sembrare che una persona pronunci parole tratte da un audio sostitutivo.

Clonazione della voce

Un clone vocale genera parlato che imita una persona specifica. Può apparire in una telefonata, un messaggio vocale, un estratto di podcast o come traccia audio di un video alterato. La Federal Trade Commission degli Stati Uniti avverte che i truffatori che impersonano altre persone possono usare la clonazione vocale in false richieste di emergenza e consiglia di contattare il presunto chiamante tramite un canale noto.

Identità sintetica e manipolazione del corpo

Alcuni contenuti combinano un volto generato, un corpo alterato e un contesto inventato. Altri cambiano età, capelli, abiti o attributi senza sostituire l’intera identità. Questi casi mostrano perché «deepfake» non è una singola operazione tecnica.

Le persone interamente generate dall’IA sono deepfake?

Una persona generata che non imita un individuo identificabile è di solito descritta meglio come persona sintetica o personaggio generato dall’IA. Chiamare deepfake ogni ritratto IA fotorealistico può confondere i danni legati all’identità che il termine è stato creato per descrivere.

L’etichetta può comunque essere appropriata quando una scena generata rappresenta falsamente una persona reale identificata, anche se il sistema ha creato l’intero fotogramma invece di sostituire un volto. In pratica, descrivi sia la tecnica sia l’affermazione: «immagine generata dall’IA che rappresenta falsamente un personaggio pubblico» è più preciso di una sola etichetta.

Tutti i deepfake sono dannosi?

No. La tecnica può essere usata con consenso per doppiaggio, accessibilità, satira, produzione cinematografica, istruzione o opere creative dichiarate. La questione etica e legale dipende da consenso, divulgazione, contesto e danno, non soltanto dall’uso dell’IA.

Gli usi ad alto rischio includono immagini intime senza consenso, frode, molestie, manipolazione di prove e impersonificazione volta a influenzare decisioni. Anche in questi casi, non accusare un creatore o il soggetto basandoti solo sul risultato di un rilevatore automatico. Conserva la fonte originale e cerca una revisione qualificata per i casi con conseguenze importanti.

Come verificare un sospetto deepfake?

Inizia dall’affermazione e dall’identità, non dalle anomalie visive. Chiediti chi sarebbe mostrato o ascoltato, cosa avrebbe detto o fatto e dove è apparso per la prima volta il contenuto.

  1. Conserva URL, account, didascalia, riferimenti temporali e miglior file disponibile.
  2. Trova una versione più lunga o precedente tramite la ricerca della fonte e di fotogrammi rappresentativi.
  3. Confronta l’affermazione con registrazioni ufficiali, informazioni affidabili o un altro canale conosciuto.
  4. Esamina fotogrammi adiacenti cercando incoerenze persistenti di identità, movimento e composizione.
  5. Esamina l’audio separatamente; cerca modifiche e verifica la persona che parla tramite un percorso di contatto indipendente.
  6. Esamina le Content Credentials disponibili o altri registri di provenienza.
  7. Usa un rilevatore adatto come prova di supporto e registra la copertura dichiarata.

Per un flusso dettagliato di verifica dei contenuti, leggi Come capire se un video è generato dall’IA. Il processo si applica sia alle scene sintetiche sia alle sospette manipolazioni di identità.

Perché i «segnali di deepfake» visivi non bastano

Le liste fisse invecchiano rapidamente. Battiti di ciglia innaturali, denti deformati, mani strane o artefatti ai bordi possono fornire piste utili, ma i sistemi moderni possono evitarli. Anche filmati autentici possono contenere sfocatura, compressione, fotogrammi persi, doppiaggio, filtri o effetti di luce simili a una manipolazione.

Esamina una sequenza invece di un solo screenshot. Chiediti se un’anomalia persiste nei fotogrammi adiacenti e in una copia di qualità migliore. Ancora più importante, cerca prove esterne: una registrazione originale, un’altra angolazione, un’apparizione pubblica corrispondente o una contraddizione nel tempo e nel luogo.

Un volto convincente non convalida l’evento. Al contrario, un singolo fotogramma difettoso non dimostra una sostituzione del volto.

Cosa può dirti un rilevatore di video IA?

Un rilevatore può identificare motivi associati a contenuti nelle sue classi supportate. Il risultato va interpretato considerando l’addestramento del modello, la qualità del file, il tipo di manipolazione e la parte di video esaminata.

La metodologia di AIFakeScan afferma che Basic Scan non include la classificazione specializzata della sostituzione del volto e che l’ispezione audio di base non classifica il parlato clonato o sintetico. L’analisi video può campionare fotogrammi invece di esaminarli tutti. I risultati beta basati solo su segnali passivi rimangono inconcludenti; non sono probabilità IA validate.

Questi limiti evitano un errore comune: trattare un risultato generale del video come se avesse verificato separatamente il volto e la voce della persona. Usa il rilevatore di video IA solo per le verifiche che descrive, poi combina il risultato con la verifica dell’identità e della fonte.

Come aiutano le Content Credentials con i deepfake?

Le Content Credentials possono registrare chi o cosa ha firmato un file, quali azioni sono state dichiarate e se la provenienza firmata corrisponde ancora al file. Un’azione dichiarata di modifica o generazione con IA può essere una forte prova positiva del flusso registrato.

Non stabiliscono la verità di una scena e non garantiscono il consenso. Le credenziali mancanti non dimostrano una manipolazione, perché l’adozione è facoltativa e i metadati possono andare persi. Leggi Content Credentials C2PA: cosa sono e come funzionano per la distinzione tra un registro di provenienza valido e un’affermazione vera sul mondo reale.

Cosa fare in una sospetta truffa di impersonificazione?

Rallenta l’interazione. Non affidarti soltanto al volto o alla voce apparenti, all’identificativo della chiamata o all’account. Contatta la persona o l’organizzazione tramite un numero di telefono, un sito web o un account che sai già essere autentico.

Non inviare denaro o informazioni sensibili sotto pressione. Conserva messaggi e dettagli delle transazioni, avvisa la piattaforma o il fornitore finanziario pertinente e segnala la frode tramite il canale ufficiale appropriato. L’obiettivo è verificare la richiesta in modo indipendente, non vincere una discussione con il contenuto.

Domande frequenti

Un deepfake è sempre un video?

No. Il termine può comprendere immagini, video e audio manipolati o sintetici, soprattutto quando imitano l’identità, la voce, l’aspetto o le azioni di una persona reale.

Ogni filtro facciale è un deepfake?

Di solito no. Un filtro di intrattenimento dichiarato si descrive meglio per ciò che fa. L’etichetta deepfake diventa più rilevante quando una manipolazione con IA crea un’affermazione realistica di identità o azione che coinvolge una persona reale.

Un rilevatore di deepfake può dimostrare che un video è falso?

Nessun risultato di un rilevatore dovrebbe essere trattato come prova universale. La copertura varia secondo il tipo di manipolazione e la qualità del file. Le conclusioni con conseguenze importanti richiedono prove della fonte, contenuti originali quando possibile e una revisione esperta appropriata.

Un filmato autentico può comunque essere disinformazione?

Sì. Un filmato reale può essere vecchio, avere una didascalia errata, essere montato selettivamente o presentato con un luogo falso. L’autenticità del file e la verità dell’affermazione circostante sono domande separate.

Qual è il modo più chiaro per descrivere un contenuto sospetto?

Indica la tecnica osservata e l’affermazione: per esempio, «sospetto clone vocale che impersona un familiare» o «scena interamente generata presentata come filmato reale». Un linguaggio preciso è più utile che chiamare deepfake ogni file sospetto.

La conclusione pratica

Usa «deepfake» per contenuti che usano l’IA per imitare o manipolare l’identità e «contenuti generati dall’IA» per la categoria più ampia. Poi verifica la persona, l’azione, la fonte e il contesto specifici. Una classificazione accurata aiuta a scegliere le prove giuste invece di affidarsi a un solo indizio visivo o a un solo punteggio di rilevatore.

Domande e risposte

Un deepfake è sempre un video?

No. Il termine può comprendere immagini, video e audio sintetici o manipolati, soprattutto quando imitano una persona reale.

Ogni filtro facciale è un deepfake?

Di solito no. L’etichetta è più utile quando una manipolazione con IA crea un’affermazione realistica di identità o azione che coinvolge una persona reale.

Un rilevatore di deepfake può dimostrare che un video è falso?

Nessun singolo risultato è una prova universale. La copertura varia e le conclusioni con conseguenze importanti richiedono prove della fonte e una revisione appropriata.

Un filmato autentico può comunque essere disinformazione?

Sì. Un filmato reale può essere vecchio, avere una didascalia errata, essere montato selettivamente o associato a un luogo falso.

Fonti

  1. Frontier Research on Mitigating Risks from Synthetic Content — NIST
  2. Backgrounder: Deepfakes in 2021 — WITNESS
  3. Scammers Use Fake Emergencies To Steal Your Money — Federal Trade Commission