Un deepfake es un medio sintético o manipulado que usa IA para imitar o alterar la identidad, apariencia, voz o acciones de una persona. El contenido generado por IA es la categoría más amplia: puede representar personas, lugares, objetos o eventos ficticios sin suplantar a ninguna persona real. Todo deepfake es contenido generado o modificado por IA, pero no todo recurso generado por IA es un deepfake.
Esa distinción afecta tanto al riesgo como a la verificación. Un paisaje totalmente generado y un video con intercambio de rostro pueden ser sintéticos, pero solo uno depende de una afirmación de identidad sobre una persona real.
¿Qué es un deepfake?
El término «deepfake» combina aprendizaje profundo y falsificación. En el uso común, se refiere a medios creados o alterados con técnicas de aprendizaje automático para hacer que una persona real parezca decir o hacer algo que no dijo o hizo, o para imitar su rostro o voz.
Las definiciones varían en los límites. NIST describe los medios sintéticos en términos amplios como información modificada significativamente o generada por algoritmos, incluida la IA. Los materiales de análisis forense de medios de NIST dividen la manipulación facial en categorías como intercambio de identidad, intercambio de expresión, manipulación de atributos y síntesis de rostro completo.
WITNESS usa «medios sintéticos» como la familia más amplia y describe los deepfakes como simulaciones realistas del rostro, la voz o las acciones de alguien. Esta definición centrada en la persona es útil porque la suplantación suele ser lo que hace especialmente dañino a un deepfake.
¿Cuál es la diferencia entre un deepfake y contenido generado por IA?
El contenido generado por IA incluye texto, imágenes, audio y video producidos o transformados sustancialmente por modelos generativos. Puede estar claramente declarado, ser ficticio, artístico o estar diseñado para un flujo comercial normal. No es necesario copiar a una persona real.
Un deepfake normalmente se centra en la identidad. Puede colocar el rostro de una persona en otro cuerpo, recrear expresiones faciales, generar habla con una voz reconocible o crear una escena realista que incluya a una persona identificada.
| Tipo de medio | ¿Usa IA? | ¿Imita a una persona real? | Ejemplo típico |
|---|---|---|---|
| Ilustración generada | Sí | No necesariamente | Una ciudad ficticia creada a partir de una instrucción |
| Presentador totalmente generado | Sí | No, si la identidad es ficticia | Un anfitrión virtual declarado |
| Intercambio de rostro | Sí | Sí | El rostro de una persona colocado sobre la actuación de otra |
| Recreación facial | Sí | Sí | Se alteran las expresiones o movimientos de boca de una persona real |
| Clon de voz | Sí | Sí | Habla sintética que imita a un hablante conocido |
| Edición engañosa convencional | No necesariamente | Posiblemente | Un clip real cortado para eliminar el contexto |
La última fila importa: un medio dañino o engañoso no es automáticamente un deepfake. Un video reutilizado, una descripción falsa, un corte selectivo o una edición manual pueden engañar sin IA generativa.
¿Cuáles son los principales tipos de deepfakes?
Intercambios de rostro
Un intercambio de rostro reemplaza o mezcla una identidad de origen en una imagen o video de destino. El cuerpo, el movimiento, el entorno y el audio subyacentes pueden seguir siendo auténticos aunque cambie la identidad aparente.
Recreación facial y manipulación de sincronización de labios
La recreación cambia expresiones, mirada, movimiento de cabeza o movimiento de boca mientras conserva la identidad de la persona objetivo. Los sistemas de sincronización de labios pueden hacer que parezca que una persona pronuncia palabras de un audio de reemplazo.
Clonación de voz
Un clon de voz genera habla que imita a un hablante concreto. Puede aparecer en una llamada telefónica, una nota de voz, un fragmento de pódcast o como pista de audio de un video alterado. La Comisión Federal de Comercio de Estados Unidos advierte que los estafadores que suplantan identidades pueden usar clonación de voz en solicitudes falsas de emergencia y aconseja contactar a la supuesta persona que llama por un canal conocido.
Identidad sintética y manipulación corporal
Algunos medios combinan un rostro generado, un cuerpo alterado y un contexto inventado. Otros contenidos cambian edad, cabello, ropa o atributos sin reemplazar toda la identidad. Estos casos muestran por qué «deepfake» no es una sola operación técnica.
¿Las personas generadas totalmente por IA son deepfakes?
Una persona generada que no imita a una persona identificable suele describirse mejor como persona sintética o personaje generado por IA. Llamar deepfake a todo retrato fotorrealista de IA puede desdibujar los daños relacionados con la identidad que el término se creó para describir.
La etiqueta aún puede ser apropiada cuando una escena generada representa falsamente a una persona real identificada, aunque el sistema haya creado todo el fotograma en vez de intercambiar un rostro. En la práctica, describe tanto la técnica como la afirmación: «Imagen generada por IA que representa falsamente a una figura pública» es más preciso que una etiqueta por sí sola.
¿Todos los deepfakes son maliciosos?
No. La técnica puede usarse con consentimiento para doblaje, accesibilidad, sátira, producción cinematográfica, educación u obras creativas declaradas. La preocupación ética y legal depende del consentimiento, la divulgación, el contexto y el daño, no solo del uso de IA.
Los usos de alto riesgo incluyen imágenes íntimas sin consentimiento, fraude, acoso, manipulación de pruebas y suplantación destinada a influir en decisiones. Incluso entonces, no acuses a un creador o a la persona representada basándote solo en el resultado de un detector automatizado. Conserva la fuente original y busca una revisión cualificada para casos de consecuencias importantes.
¿Cómo puedes verificar un posible deepfake?
Comienza por la afirmación y la identidad, no por anomalías visuales. Pregunta a quién supuestamente se muestra o escucha, qué habría dicho o hecho y dónde apareció primero el medio.
- Conserva la URL, la cuenta, la descripción, las marcas de tiempo y el mejor archivo disponible.
- Encuentra una versión más larga o anterior mediante el rastreo de la fuente y búsquedas de fotogramas representativos.
- Compara la afirmación con grabaciones oficiales, información confiable u otro canal conocido.
- Revisa fotogramas contiguos en busca de incoherencias persistentes de identidad, movimiento y composición.
- Examina el audio por separado; busca ediciones y verifica al hablante mediante una vía de contacto independiente.
- Examina las Content Credentials u otros registros de procedencia disponibles.
- Usa un detector adecuado como evidencia de apoyo y registra su cobertura declarada.
Para un proceso detallado de revisión de medios, lee Cómo saber si un video fue generado por IA. El proceso se aplica tanto a escenas sintéticas como a posibles manipulaciones de identidad.
Por qué las «señales de deepfake» visuales no bastan
Las listas fijas envejecen rápidamente. Un parpadeo poco natural, dientes deformados, manos extrañas o artefactos en los bordes pueden aportar pistas útiles, pero los sistemas modernos pueden evitarlos. Las grabaciones auténticas también pueden contener desenfoque, compresión, fotogramas perdidos, doblaje, filtros o efectos de iluminación que se parecen a la manipulación.
Examina una secuencia en lugar de una sola captura. Pregunta si una anomalía persiste en fotogramas contiguos y en una copia de mejor calidad. Más importante aún, busca evidencia externa: una grabación original, otro ángulo de cámara, una aparición pública coincidente o una contradicción de tiempo y lugar.
Un rostro convincente no valida el evento. A la inversa, un fotograma defectuoso no demuestra un intercambio de rostro.
¿Qué puede decirte un detector de videos de IA?
Un detector puede identificar patrones asociados con medios de sus clases compatibles. Su resultado debe interpretarse teniendo en cuenta el entrenamiento del modelo, la calidad del archivo, el tipo de manipulación y qué parte del video examinó.
La metodología de AIFakeScan indica que Basic Scan no incluye clasificación especializada de intercambio de rostro y que la inspección básica de audio no clasifica habla clonada o sintética. El análisis de video puede tomar muestras de fotogramas en vez de examinar cada uno. Los resultados beta basados solo en señales pasivas siguen siendo inconclusos; no son probabilidades de IA validadas.
Esos límites evitan un error común: tratar un resultado general de video como si hubiera probado por separado el rostro y la voz de la persona. Usa el detector de videos de IA solo para las comprobaciones que describe y después combina el resultado con la verificación de identidad y fuente.
¿Cómo ayudan las Content Credentials con los deepfakes?
Las Content Credentials pueden registrar quién o qué firmó un recurso, qué acciones se declararon y si la procedencia firmada sigue coincidiendo con el archivo. Una acción declarada de edición o generación con IA puede ser evidencia positiva sólida sobre el proceso registrado.
No establecen la verdad de una escena ni garantizan el consentimiento. Las credenciales ausentes no demuestran manipulación, porque su adopción es opcional y los metadatos pueden perderse. Lee Content Credentials de C2PA: qué son y cómo funcionan para conocer la distinción entre un registro válido de procedencia y una afirmación verdadera sobre el mundo real.
¿Qué debes hacer ante una posible estafa de suplantación?
Reduce el ritmo de la interacción. No confíes solo en el rostro o la voz aparentes, el identificador de llamada o la cuenta. Contacta a la persona u organización mediante un número de teléfono, sitio web o cuenta que ya sepas que es auténtico.
No envíes dinero ni información sensible bajo presión. Conserva mensajes y datos de transacciones, avisa a la plataforma o al proveedor financiero correspondiente y denuncia el fraude por el canal oficial apropiado. El objetivo es verificar la solicitud de manera independiente, no ganar una discusión con el medio.
Preguntas frecuentes
¿Un deepfake siempre es un video?
No. El término puede abarcar imágenes, video y audio manipulados o sintéticos, especialmente cuando imitan la identidad, voz, apariencia o acciones de una persona real.
¿Todos los filtros faciales son deepfakes?
Normalmente no. Un filtro de entretenimiento declarado se describe mejor por lo que hace. La etiqueta deepfake es más relevante cuando la manipulación mediante IA crea una afirmación realista de identidad o acción que involucra a una persona real.
¿Puede un detector de deepfakes demostrar que un video es falso?
Ningún resultado de detector debe tratarse como prueba universal. La cobertura varía según el tipo de manipulación y la calidad del archivo. Las conclusiones de consecuencias importantes requieren evidencia de la fuente, medios originales cuando sea posible y una revisión experta apropiada.
¿Una grabación auténtica aún puede ser desinformación?
Sí. Una grabación real puede ser antigua, tener una descripción incorrecta, estar editada selectivamente o presentarse con una ubicación falsa. La autenticidad del archivo y la verdad de la afirmación circundante son preguntas separadas.
¿Cuál es la forma más clara de describir un medio sospechoso?
Indica la técnica observada y la afirmación: por ejemplo, «posible clon de voz que suplanta a un familiar» o «escena totalmente generada presentada como grabación real». Un lenguaje preciso es más útil que llamar deepfake a todo recurso sospechoso.
La conclusión práctica
Usa «deepfake» para medios que usan IA para imitar o manipular la identidad y «contenido generado por IA» para la categoría más amplia. Después verifica la persona, la acción, la fuente y el contexto específicos. Una clasificación precisa te ayuda a elegir la evidencia adecuada en lugar de depender de una señal visual o una puntuación de detector.
Preguntas y respuestas
¿Un deepfake siempre es un video?
No. El término puede abarcar imágenes, video y audio sintéticos o manipulados, especialmente cuando imitan a una persona real.
¿Todos los filtros faciales son deepfakes?
Normalmente no. La etiqueta es más útil cuando una manipulación con IA crea una afirmación realista de identidad o acción que involucra a una persona real.
¿Puede un detector de deepfakes demostrar que un video es falso?
Ningún resultado individual es una prueba universal. La cobertura varía y las conclusiones de consecuencias importantes requieren evidencia de la fuente y una revisión apropiada.
¿Una grabación auténtica aún puede ser desinformación?
Sí. Una grabación real puede ser antigua, tener una descripción incorrecta, estar editada selectivamente o tener asignada una ubicación falsa.
Fuentes
- Frontier Research on Mitigating Risks from Synthetic Content — NIST
- Backgrounder: Deepfakes in 2021 — WITNESS
- Scammers Use Fake Emergencies To Steal Your Money — Federal Trade Commission
