Anleitungen zur Überprüfung

Was ist ein Deepfake? Deepfakes und KI-generierte Inhalte im Vergleich

Erfahren Sie, was ein Deepfake ist, wie er sich von allgemeinen KI-generierten Inhalten unterscheidet, welche Manipulationsarten es gibt und wie Sie vermutete Identitätstäuschung prüfen.

Artikelbild mit dem Titel: Was ist ein Deepfake? Deepfakes und KI-generierte Inhalte im Vergleich

Ein Deepfake ist ein synthetisches oder manipuliertes Medium, das KI nutzt, um Identität, Aussehen, Stimme oder Handlungen einer Person nachzuahmen oder zu verändern. KI-generierter Inhalt ist die breitere Kategorie: Er kann fiktive Menschen, Orte, Gegenstände oder Ereignisse darstellen, ohne eine reale Person nachzuahmen. Jeder Deepfake ist KI-generierter oder KI-veränderter Inhalt, aber nicht jedes KI-generierte Objekt ist ein Deepfake.

Dieser Unterschied beeinflusst Risiko und Prüfung. Eine vollständig generierte Landschaft und ein Video mit ausgetauschtem Gesicht können beide synthetisch sein, aber nur eines beruht auf einer Identitätsbehauptung über eine reale Person.

Was ist ein Deepfake?

Der Begriff „Deepfake“ verbindet Deep Learning und Fake. Üblicherweise bezeichnet er Medien, die mit maschinellen Lerntechniken erstellt oder verändert wurden, um eine reale Person Dinge sagen oder tun zu lassen, die sie nicht gesagt oder getan hat, oder ihr Gesicht oder ihre Stimme nachzuahmen.

Die Definitionen unterscheiden sich in Grenzfällen. NIST beschreibt synthetische Medien allgemein als durch Algorithmen einschließlich KI erheblich veränderte oder erzeugte Informationen. NIST-Medienforensikmaterial unterteilt Gesichtsmanipulation unter anderem in Identitätstausch, Ausdruckstausch, Merkmalsmanipulation und vollständige Gesichtssynthese.

WITNESS verwendet „synthetische Medien“ als Oberbegriff und beschreibt Deepfakes als realistische Simulationen von Gesicht, Stimme oder Handlungen einer Person. Diese personenzentrierte Definition ist nützlich, weil Identitätstäuschung Deepfakes häufig besonders schädlich macht.

Was unterscheidet Deepfakes von KI-generierten Inhalten?

KI-generierte Inhalte umfassen Text, Bilder, Audio und Video, die von generativen Modellen erzeugt oder wesentlich verändert wurden. Sie können klar gekennzeichnet, fiktiv, künstlerisch oder für gewöhnliche kommerzielle Abläufe bestimmt sein. Keine reale Person muss kopiert werden.

Ein Deepfake zielt typischerweise auf Identität. Er kann das Gesicht einer Person auf einen anderen Körper setzen, Gesichtsausdrücke nachstellen, Sprache in einer erkennbaren Stimme erzeugen oder eine realistische Szene mit einer namentlich genannten Person erstellen.

MedientypKI verwendet?Reale Person nachgeahmt?Typisches Beispiel
Generierte IllustrationJaNicht unbedingtEine durch eine Eingabe erstellte fiktive Stadt
Vollständig generierter ModeratorJaNein, wenn die Identität fiktiv istEin offengelegter virtueller Moderator
GesichtstauschJaJaDas Gesicht einer Person wird auf die Darstellung einer anderen gesetzt
Nachstellung von GesichtsausdrückenJaJaAusdruck oder Mundbewegung einer realen Person verändert
StimmklonJaJaSynthetische Sprache ahmt eine bekannte Stimme nach
Herkömmliche irreführende BearbeitungNicht unbedingtMöglicherweiseEin echter Clip, aus dem Kontext herausgeschnitten wurde

Die letzte Zeile ist wichtig: Schädliche oder täuschende Medien sind nicht automatisch Deepfakes. Wiederverwendete Videos, falsche Bildunterschriften, selektive Schnitte oder manuelle Bearbeitungen können ohne generative KI irreführen.

Was sind die wichtigsten Deepfake-Arten?

Gesichtstausch

Ein Gesichtstausch ersetzt oder mischt eine Quellenidentität in ein Zielbild oder -video. Körper, Bewegung, Umgebung und Ton können echt bleiben, obwohl sich die scheinbare Identität ändert.

Nachstellung von Gesichtsausdrücken und Lippensynchronisation

Die Nachstellung verändert Ausdruck, Blick, Kopf- oder Mundbewegung unter Beibehaltung der Identität der Zielperson. Lippensynchronisationssysteme können eine Person Worte aus einem Ersatzton scheinbar sprechen lassen.

Stimmklonen

Ein Stimmklon erzeugt Sprache, die einen bestimmten Sprecher nachahmt. Er kann in einem Anruf, einer Sprachnachricht, einem Podcastausschnitt oder als Tonspur eines veränderten Videos auftreten. Die US Federal Trade Commission warnt, dass Betrüger Stimmklonen für falsche Notrufbitten einsetzen können, und rät, den angeblichen Anrufer über einen bekannten Kanal zu kontaktieren.

Synthetische Identität und Körpermanipulation

Manche Medien kombinieren ein generiertes Gesicht, einen veränderten Körper und erfundenen Kontext. Andere verändern Alter, Haare, Kleidung oder Merkmale, ohne die gesamte Identität zu ersetzen. Diese Fälle zeigen, warum „Deepfake“ keine einzelne technische Operation ist.

Sind vollständig KI-generierte Personen Deepfakes?

Eine generierte Person, die keine identifizierbare Person nachahmt, wird meist besser als synthetische Person oder KI-generierte Figur beschrieben. Jedes fotorealistische KI-Porträt Deepfake zu nennen kann die identitätsbezogenen Schäden verwischen, für die der Begriff geschaffen wurde.

Die Bezeichnung kann dennoch passen, wenn eine generierte Szene eine namentlich genannte reale Person falsch darstellt, selbst wenn das System das gesamte Bild statt eines Gesichtstauschs erzeugte. Beschreiben Sie Technik und Behauptung: „KI-generiertes Bild, das eine Person des öffentlichen Lebens falsch darstellt“ ist genauer als ein Etikett allein.

Sind alle Deepfakes böswillig?

Nein. Die Technik kann mit Einwilligung für Synchronisation, Barrierefreiheit, Satire, Filmproduktion, Bildung oder offengelegte kreative Arbeiten verwendet werden. Ethische und rechtliche Fragen hängen von Einwilligung, Offenlegung, Kontext und Schaden ab, nicht allein vom KI-Einsatz.

Zu Anwendungen mit hohem Risiko gehören intime Bilder ohne Einwilligung, Betrug, Belästigung, Beweismanipulation und Identitätstäuschung zur Beeinflussung von Entscheidungen. Beschuldigen Sie dennoch keinen Urheber oder Betroffenen allein aufgrund eines automatisierten Detektorergebnisses. Bewahren Sie die Originalquelle und holen Sie bei folgenreichen Fällen qualifizierte Prüfung ein.

Wie prüfen Sie einen vermuteten Deepfake?

Beginnen Sie mit Behauptung und Identität, nicht mit visuellen Auffälligkeiten. Fragen Sie, wer angeblich zu sehen oder zu hören ist, was die Person gesagt oder getan haben soll und wo das Medium zuerst erschien.

  1. Bewahren Sie URL, Konto, Bildunterschrift, Zeitstempel und die beste verfügbare Datei.
  2. Suchen Sie eine längere oder frühere Version durch Quellenverfolgung und Suche repräsentativer Einzelbilder.
  3. Vergleichen Sie die Behauptung mit offiziellen Aufnahmen, verlässlicher Berichterstattung oder einem anderen bekannten Kanal.
  4. Prüfen Sie benachbarte Einzelbilder auf anhaltende Unstimmigkeiten bei Identität, Bewegung und Zusammensetzung.
  5. Untersuchen Sie Ton getrennt; prüfen Sie Schnitte und verifizieren Sie den Sprecher über einen unabhängigen Kontaktweg.
  6. Prüfen Sie verfügbare Content Credentials oder andere Herkunftsdatensätze.
  7. Nutzen Sie einen geeigneten Detektor als ergänzenden Hinweis und dokumentieren Sie seine angegebene Abdeckung.

Für einen ausführlichen Medienablauf lesen Sie So prüfen Sie, ob ein Video KI-generiert ist. Das Verfahren gilt für synthetische Szenen ebenso wie für vermutete Identitätsmanipulation.

Warum visuelle „Deepfake-Merkmale“ nicht ausreichen

Feste Checklisten altern schnell. Unnatürliches Blinzeln, verzerrte Zähne, seltsame Hände oder Kantenartefakte können nützliche Hinweise sein, aber moderne Systeme können sie vermeiden. Auch echte Aufnahmen können Unschärfe, Kompression, ausgelassene Einzelbilder, Synchronisation, Filter oder Lichteffekte enthalten, die Manipulation ähneln.

Prüfen Sie eine Sequenz statt eines einzelnen Screenshots. Fragen Sie, ob eine Auffälligkeit in benachbarten Bildern und einer besseren Kopie bestehen bleibt. Suchen Sie vor allem externe Belege: Originalaufnahme, anderen Kamerawinkel, passenden öffentlichen Auftritt oder einen Widerspruch bei Zeit und Ort.

Ein überzeugendes Gesicht bestätigt nicht das Ereignis. Umgekehrt beweist ein einzelnes schlechtes Bild keinen Gesichtstausch.

Was kann ein KI-Videodetektor sagen?

Ein Detektor kann Muster erkennen, die mit Medien seiner unterstützten Klassen verbunden sind. Seine Ausgabe muss im Licht von Modelltraining, Dateiqualität, Manipulationstyp und dem untersuchten Videoanteil interpretiert werden.

Die Methodik von AIFakeScan erklärt, dass Basic Scan keine spezielle Gesichtstauschklassifizierung enthält und die grundlegende Audioprüfung keine geklonte oder synthetische Sprache klassifiziert. Die Videoanalyse kann Einzelbilder stichprobenartig untersuchen statt jedes Bild. Ergebnisse allein aus passiven Beta-Signalen bleiben uneindeutig; sie sind keine validierten KI-Wahrscheinlichkeiten.

Diese Grenzen verhindern einen häufigen Fehler: ein allgemeines Videoergebnis so zu behandeln, als seien Gesicht und Stimme der Person getrennt geprüft worden. Nutzen Sie den KI-Videodetektor nur für die beschriebenen Prüfungen und kombinieren Sie das Ergebnis mit Identitäts- und Quellenprüfung.

Wie helfen Content Credentials bei Deepfakes?

Content Credentials können aufzeichnen, wer oder was ein Objekt signierte, welche Aktionen angegeben wurden und ob die signierte Herkunft noch zur Datei passt. Eine angegebene KI-Bearbeitung oder Generierung kann ein starker positiver Hinweis auf den dokumentierten Ablauf sein.

Sie belegen nicht die Wahrheit einer Szene und garantieren keine Einwilligung. Fehlende Nachweise beweisen keine Manipulation, da die Nutzung freiwillig ist und Metadaten verloren gehen können. Lesen Sie C2PA Content Credentials: Was sie sind und wie sie funktionieren zum Unterschied zwischen einem gültigen Herkunftsdatensatz und einer wahren realen Behauptung.

Was tun bei vermutetem Identitätsbetrug?

Verlangsamen Sie die Interaktion. Verlassen Sie sich nicht allein auf scheinbares Gesicht, Stimme, Anruferkennung oder Konto. Kontaktieren Sie Person oder Organisation über eine Telefonnummer, Website oder ein Konto, von dem Sie bereits wissen, dass es echt ist.

Senden Sie unter Druck weder Geld noch sensible Informationen. Bewahren Sie Nachrichten und Transaktionsdetails, informieren Sie die betreffende Plattform oder den Finanzanbieter und melden Sie Betrug über einen geeigneten offiziellen Kanal. Ziel ist die unabhängige Prüfung der Anfrage, nicht ein Streit über das Medium.

Häufig gestellte Fragen

Ist ein Deepfake immer ein Video?

Nein. Der Begriff kann manipulierte oder synthetische Bilder, Videos und Audio umfassen, besonders wenn sie Identität, Stimme, Aussehen oder Handlungen einer realen Person nachahmen.

Ist jeder Gesichtsfilter ein Deepfake?

Meist nicht. Ein offengelegter Unterhaltungsfilter wird besser nach seiner Funktion beschrieben. Die Bezeichnung Deepfake wird relevanter, wenn KI-Manipulation eine realistische Identitäts- oder Handlungsbehauptung über eine reale Person erzeugt.

Kann ein Deepfake-Detektor beweisen, dass ein Video gefälscht ist?

Kein Detektorergebnis sollte als universeller Beweis gelten. Die Abdeckung hängt von Manipulationstyp und Dateiqualität ab. Folgenreiche Schlussfolgerungen benötigen Quellenbelege, nach Möglichkeit Originalmedien und geeignete fachliche Prüfung.

Können echte Aufnahmen dennoch Desinformation sein?

Ja. Echte Aufnahmen können alt, falsch beschriftet, selektiv geschnitten oder mit falschem Ort präsentiert sein. Echtheit der Datei und Wahrheit der umgebenden Behauptung sind getrennte Fragen.

Wie beschreibt man verdächtige Medien am klarsten?

Nennen Sie beobachtete Technik und Behauptung, etwa „vermuteter Stimmklon, der ein Familienmitglied nachahmt“ oder „vollständig generierte Szene als echte Aufnahme bezeichnet“. Präzise Sprache ist hilfreicher, als jedes verdächtige Objekt Deepfake zu nennen.

Praktische Schlussfolgerung

Verwenden Sie „Deepfake“ für KI-gestützte Medien, die Identität nachahmen oder manipulieren, und „KI-generierte Inhalte“ für die breitere Kategorie. Prüfen Sie dann konkrete Person, Handlung, Quelle und Kontext. Eine genaue Einordnung hilft bei der Wahl passender Belege, statt auf ein visuelles Merkmal oder einen Detektorwert zu vertrauen.

Fragen und Antworten

Ist ein Deepfake immer ein Video?

Nein. Der Begriff kann synthetische oder manipulierte Bilder, Videos und Audio umfassen, besonders wenn sie eine reale Person nachahmen.

Ist jeder Gesichtsfilter ein Deepfake?

Meist nicht. Die Bezeichnung ist hilfreicher, wenn KI-Manipulation eine realistische Identitäts- oder Handlungsbehauptung über eine reale Person erzeugt.

Kann ein Deepfake-Detektor beweisen, dass ein Video gefälscht ist?

Kein einzelnes Ergebnis ist universeller Beweis. Die Abdeckung variiert; folgenreiche Schlussfolgerungen benötigen Quellenbelege und geeignete Prüfung.

Können echte Aufnahmen dennoch Desinformation sein?

Ja. Echte Aufnahmen können alt, falsch beschriftet, selektiv geschnitten oder einem falschen Ort zugeordnet sein.

Quellen

  1. Frontier Research on Mitigating Risks from Synthetic Content — NIST
  2. Backgrounder: Deepfakes in 2021 — WITNESS
  3. Scammers Use Fake Emergencies To Steal Your Money — Federal Trade Commission