Um deepfake é uma mídia sintética ou manipulada que usa IA para imitar ou alterar a identidade, aparência, voz ou ações de uma pessoa. Conteúdo gerado por IA é a categoria mais ampla: pode retratar pessoas, lugares, objetos ou acontecimentos fictícios sem se passar por uma pessoa real. Todo deepfake é conteúdo gerado ou modificado por IA, mas nem todo conteúdo gerado por IA é um deepfake.
Essa diferença afeta tanto o risco quanto a verificação. Uma paisagem totalmente gerada e um vídeo com troca de rosto podem ser sintéticos, mas apenas um depende de uma afirmação de identidade sobre uma pessoa real.
O que é deepfake?
O termo “deepfake” combina deep learning, ou aprendizado profundo, e fake, ou falso. No uso comum, refere-se a mídias criadas ou alteradas com técnicas de aprendizado de máquina para fazer uma pessoa real parecer dizer ou fazer algo que não disse ou fez, ou para imitar seu rosto ou voz.
As definições variam nos casos limítrofes. O NIST descreve mídia sintética de forma ampla como informação significativamente modificada ou gerada por algoritmos, incluindo IA. Os materiais de análise forense de mídia do NIST dividem a manipulação de rosto em categorias como troca de identidade, troca de expressão, manipulação de atributos e geração de rosto inteiro.
A WITNESS usa “mídia sintética” como a família mais ampla e descreve deepfakes como simulações realistas do rosto, da voz ou das ações de alguém. Essa definição centrada na pessoa é útil porque a falsificação de identidade costuma ser o que torna um deepfake especialmente prejudicial.
Qual é a diferença entre deepfake e conteúdo gerado por IA?
Conteúdo gerado por IA inclui textos, imagens, áudio e vídeo produzidos ou substancialmente transformados por modelos generativos. Pode ser claramente identificado, fictício, artístico ou criado para um fluxo comercial comum. Não é necessário copiar uma pessoa real.
Um deepfake normalmente tem a identidade como alvo. Ele pode colocar o rosto de uma pessoa no corpo de outra, reproduzir expressões faciais, gerar fala em uma voz reconhecível ou criar uma cena realista envolvendo uma pessoa identificada.
| Tipo de mídia | Usa IA? | Imita uma pessoa real? | Exemplo típico |
|---|---|---|---|
| Ilustração gerada | Sim | Não necessariamente | Uma cidade fictícia criada a partir de uma instrução |
| Apresentador totalmente gerado | Sim | Não, se a identidade for fictícia | Um apresentador virtual identificado como tal |
| Troca de rosto | Sim | Sim | O rosto de uma pessoa colocado sobre a atuação de outra |
| Reprodução de expressões faciais | Sim | Sim | Expressões ou movimentos da boca de uma pessoa real alterados |
| Clonagem de voz | Sim | Sim | Fala sintética que imita uma pessoa conhecida |
| Edição enganosa convencional | Não necessariamente | Possivelmente | Um vídeo real cortado para retirar o contexto |
A última linha é importante: mídia prejudicial ou enganosa não é automaticamente um deepfake. Um vídeo antigo reutilizado, uma legenda falsa, um corte seletivo ou uma edição manual podem enganar sem IA generativa.
Quais são os principais tipos de deepfake?
Troca de rosto
Uma troca de rosto substitui ou mistura a identidade de origem em uma imagem ou vídeo de destino. O corpo, o movimento, o ambiente e o áudio podem continuar reais mesmo que a identidade aparente mude.
Reprodução facial e manipulação de sincronia labial
A reprodução facial altera expressões, olhar, movimento da cabeça ou da boca, preservando a identidade da pessoa visada. Sistemas de sincronia labial podem fazer uma pessoa parecer dizer palavras de um áudio substituto.
Clonagem de voz
Um clone de voz gera fala que imita uma pessoa específica. Pode aparecer em uma ligação, mensagem de voz, trecho de podcast ou como faixa de áudio de um vídeo alterado. A Comissão Federal de Comércio dos Estados Unidos alerta que golpistas que se passam por outras pessoas podem usar clonagem de voz em pedidos falsos de emergência e recomenda contatar o suposto autor da ligação por um canal conhecido.
Identidade sintética e manipulação corporal
Algumas mídias combinam um rosto gerado, um corpo alterado e um contexto inventado. Outros conteúdos mudam idade, cabelo, roupa ou atributos sem substituir toda a identidade. Esses casos mostram por que “deepfake” não é uma única operação técnica.
Pessoas totalmente geradas por IA são deepfakes?
Uma pessoa gerada que não imita um indivíduo identificável geralmente é mais bem descrita como pessoa sintética ou personagem gerado por IA. Chamar todo retrato fotorrealista de IA de deepfake pode obscurecer os danos ligados à identidade que o termo foi criado para descrever.
O termo ainda pode ser apropriado quando uma cena gerada retrata falsamente uma pessoa real identificada, mesmo que o sistema tenha criado o quadro inteiro em vez de trocar um rosto. Na prática, descreva a técnica e a afirmação: “imagem gerada por IA que retrata falsamente uma figura pública” é mais preciso do que um rótulo isolado.
Todos os deepfakes são maliciosos?
Não. A técnica pode ser usada com consentimento para dublagem, acessibilidade, sátira, produção de filmes, educação ou trabalho criativo identificado como tal. A preocupação ética e legal depende de consentimento, divulgação, contexto e dano, não apenas do uso de IA.
Usos de alto risco incluem imagens íntimas sem consentimento, fraude, assédio, manipulação de evidências e falsificação de identidade destinada a influenciar decisões. Mesmo nesses casos, não acuse um criador ou a pessoa retratada com base apenas em um resultado automatizado. Preserve a fonte original e procure uma análise qualificada em casos com consequências relevantes.
Como verificar uma suspeita de deepfake?
Comece pela afirmação e pela identidade, não por anomalias visuais. Pergunte quem supostamente aparece ou é ouvido, o que teria dito ou feito e onde a mídia apareceu primeiro.
- Preserve o endereço, a conta, a legenda, os tempos e o melhor arquivo disponível.
- Encontre uma versão mais longa ou anterior rastreando a fonte e pesquisando quadros representativos.
- Compare a afirmação com gravações oficiais, reportagens confiáveis ou outro canal conhecido.
- Examine quadros consecutivos em busca de inconsistências persistentes de identidade, movimento e composição.
- Examine o áudio separadamente; procure edições e verifique quem fala por um canal de contato independente.
- Examine Credenciais de Conteúdo disponíveis ou outros registros de origem.
- Use um detector adequado como evidência de apoio e registre a cobertura informada.
Para um processo detalhado de análise de mídia, leia Como saber se um vídeo foi gerado por IA. O processo se aplica tanto a cenas sintéticas quanto a suspeitas de manipulação de identidade.
Por que “sinais visuais de deepfake” não bastam
Listas fixas ficam desatualizadas rapidamente. Piscadas artificiais, dentes deformados, mãos estranhas ou defeitos nas bordas podem fornecer pistas úteis, mas sistemas modernos podem evitá-los. Gravações reais também podem conter borrões, compressão, quadros perdidos, dublagem, filtros ou efeitos de luz que se parecem com manipulação.
Examine uma sequência em vez de uma única captura de tela. Pergunte se uma anomalia persiste em quadros consecutivos e em uma cópia de melhor qualidade. Mais importante, procure evidências externas: gravação original, outro ângulo de câmera, aparição pública correspondente ou contradição de tempo e lugar.
Um rosto convincente não valida o acontecimento. Da mesma forma, um quadro ruim não prova uma troca de rosto.
O que um detector de vídeo de IA pode revelar?
Um detector pode identificar padrões associados a mídias das classes que ele aceita. Sua saída deve ser interpretada considerando o treinamento do modelo, a qualidade do arquivo, o tipo de manipulação e quanto do vídeo foi examinado.
A metodologia do AIFakeScan informa que o Basic Scan não inclui classificação especializada de troca de rosto, e que a análise básica de áudio não classifica fala clonada ou sintética. A análise de vídeo pode usar uma amostra de quadros em vez de examinar todos. Resultados beta apenas passivos permanecem inconclusivos; eles não são probabilidades de IA validadas.
Esses limites evitam um erro comum: tratar um resultado geral de vídeo como se tivesse testado separadamente o rosto e a voz da pessoa. Use o detector de vídeo de IA apenas para as verificações descritas e combine o resultado com a verificação da identidade e da fonte.
Como as Credenciais de Conteúdo ajudam com deepfakes?
As Credenciais de Conteúdo podem registrar quem ou o que assinou um arquivo, quais ações foram declaradas e se as informações de origem assinadas ainda correspondem ao arquivo. Uma edição ou geração por IA declarada pode ser uma forte evidência positiva sobre o processo registrado.
Elas não estabelecem a verdade de uma cena nem garantem consentimento. A falta de credenciais não prova manipulação, pois sua adoção é opcional e metadados podem ser perdidos. Leia Credenciais de Conteúdo C2PA: o que são e como funcionam para entender a diferença entre um registro de origem válido e uma afirmação verdadeira sobre o mundo real.
O que fazer diante de uma suspeita de golpe por falsificação de identidade?
Diminua o ritmo da interação. Não confie apenas no rosto, voz, identificador de chamadas ou conta aparentes. Entre em contato com a pessoa ou organização por um número de telefone, site ou conta que você já saiba ser verdadeiro.
Não envie dinheiro ou informações sensíveis sob pressão. Guarde mensagens e detalhes de transações, avise a plataforma ou instituição financeira relevante e denuncie a fraude pelo canal oficial adequado. O objetivo é verificar o pedido de forma independente, não vencer uma discussão com a mídia.
Perguntas frequentes
Um deepfake é sempre um vídeo?
Não. O termo pode abranger imagens, vídeo e áudio manipulados ou sintéticos, especialmente quando imitam identidade, voz, aparência ou ações de uma pessoa real.
Todo filtro de rosto é deepfake?
Geralmente não. Um filtro de entretenimento identificado como tal é mais bem descrito pelo que faz. O termo deepfake se torna mais relevante quando uma manipulação por IA cria uma afirmação realista sobre identidade ou ação envolvendo uma pessoa real.
Um detector de deepfake pode provar que um vídeo é falso?
Nenhum resultado de detector deve ser tratado como prova universal. A cobertura varia conforme o tipo de manipulação e a qualidade do arquivo. Conclusões de alto impacto exigem evidências da fonte, mídia original quando possível e análise especializada adequada.
Uma gravação real ainda pode ser desinformação?
Sim. Gravações reais podem ser antigas, ter legenda incorreta, ser editadas seletivamente ou apresentadas com local falso. A autenticidade do arquivo e a verdade da afirmação ao redor são questões separadas.
Qual é a forma mais clara de descrever uma mídia suspeita?
Informe a técnica observada e a afirmação: por exemplo, “suspeita de voz clonada imitando um familiar” ou “cena totalmente gerada apresentada como gravação real”. Uma linguagem precisa é mais útil do que chamar todo arquivo suspeito de deepfake.
A conclusão prática
Use “deepfake” para mídias que usam IA para imitar ou manipular uma identidade e “conteúdo gerado por IA” para a categoria mais ampla. Depois, verifique a pessoa, a ação, a fonte e o contexto específicos. Uma classificação precisa ajuda a escolher as evidências adequadas em vez de depender de uma pista visual ou de uma pontuação de detector.
Perguntas e respostas
Um deepfake é sempre um vídeo?
Não. O termo pode abranger imagens, vídeo e áudio sintéticos ou manipulados, especialmente quando imitam uma pessoa real.
Todo filtro de rosto é deepfake?
Geralmente não. O termo é mais útil quando a manipulação por IA cria uma afirmação realista sobre identidade ou ação envolvendo uma pessoa real.
Um detector de deepfake pode provar que um vídeo é falso?
Nenhum resultado isolado é prova universal. A cobertura varia, e conclusões de alto impacto exigem evidências da fonte e análise adequada.
Uma gravação real ainda pode ser desinformação?
Sim. Gravações reais podem ser antigas, ter legenda incorreta, ser editadas seletivamente ou receber uma localização falsa.
Fontes
- Frontier Research on Mitigating Risks from Synthetic Content — NIST
- Backgrounder: Deepfakes in 2021 — WITNESS
- Scammers Use Fake Emergencies To Steal Your Money — Federal Trade Commission
