Was ist ein Deepfake und wie erkennst du ihn?

Kurze Antwort: Ein Deepfake ist ein mit KI erzeugtes oder verändertes Bild, Audio oder Video, das einer echten Person, einem Ort oder einem Ereignis ähnelt und echt wirkt. Die Technik wird auch in unterhaltsamen und kreativen Arbeiten eingesetzt; Schaden entsteht, wenn sie ohne Einwilligung der Person oder zur Täuschung verwendet wird. Dieser Artikel erklärt die Definition, die wichtigsten Schäden, wie du prüfst, ob ein Inhalt echt ist, und was verantwortungsvolle Nutzung bedeutet. Er ist keine Rechtsberatung.

Was genau ist ein Deepfake?

Die KI-Verordnung der EU definiert „Deepfake“ als mit KI erzeugten oder manipulierten Bild-, Audio- oder Videoinhalt, der bestehenden Personen, Objekten, Orten, Einrichtungen oder Ereignissen ähnelt und für eine Person fälschlich echt oder wahrheitsgemäß erscheinen würde. Ein gemeinsames Informationsblatt von NSA, FBI und CISA behandelt Deepfakes als Medien, die mit maschinellem Lernen oder Deep Learning synthetisch erzeugt oder verändert wurden. Der gemeinsame Nenner: Der Inhalt ist künstlich und wirkt echt.

Nicht jedes KI-Bild ist ein Deepfake. Eine offensichtlich erfundene Szene, ein Bild im Cartoon-Stil oder eine Landschaft, die niemandem ähnelt, versucht nicht, für die Wirklichkeit gehalten zu werden. Das Problem ist, das Gesicht, die Stimme oder die Worte einer echten Person so nachzuahmen, dass sie für echt gehalten werden.

Welche Schäden können Deepfakes anrichten?

• Betrug: Laut einer Warnung der FTC genügen Betrügern ein kurzer, online geteilter Tonschnipsel der Stimme eines Angehörigen und ein Programm zur Stimmenklonung; sie rufen mit der Geschichte „Wir brauchen dringend Geld“ an.
• Identitätsmissbrauch gegenüber Organisationen: Das Informationsblatt von NSA, FBI und CISA nennt unter den wichtigsten Bedrohungen Angriffe auf Marken, die Nachahmung von Führungskräften und Finanzverantwortlichen sowie gefälschte Kommunikation, mit der Zugang zu Netzwerken erlangt werden soll.
• Falschinformation: Ein Video oder Audio, das ein nie stattgefundenes Ereignis zeigt, kann Entscheidungen von Menschen beeinflussen.
• Schaden für Ruf und Privatsphäre: Wenn jemand ohne Einwilligung etwas zu sagen oder zu tun scheint, was er nie gesagt oder getan hat, kann das zu Belästigung, Erpressung und Rufschädigung führen.

Das Informationsblatt von NSA, FBI und CISA weist darauf hin, dass es nur begrenzte Hinweise auf den Einsatz durch staatlich unterstützte böswillige Akteure gibt, der Einsatz aber voraussichtlich wächst, weil weniger versierte Akteure leichter Zugang zu diesen Techniken erhalten.

Wie erkennst du, ob ein Inhalt ein Deepfake ist?

Es gibt keine sichere Methode. Hinweise wie Unstimmigkeiten bei Gesicht, Fingern, Ohren, Zähnen und Licht, eine nicht zur Lippenbewegung passende Stimme oder ein seltsamer Hintergrund helfen manchmal, aber mit besseren Modellen werden diese Hinweise seltener. Deshalb ist es robuster, Quelle und Kontext zu prüfen, statt sich auf das bloße Auge zu verlassen.

Methode	Wobei sie hilft	Grenze
Quelle prüfen	Wer hat es geteilt, wo ist es zuerst erschienen, gibt es ein verlässliches Medium?	Auch ein vertrauenswürdig wirkendes Konto kann es geteilt haben
Kontext hinterfragen	Ist das Ereignis auch in anderen verlässlichen Quellen belegt?	Bei neuen Ereignissen braucht die Prüfung Zeit
Auf visuelle Hinweise achten	Unstimmigkeiten bei Händen, Zähnen, Schrift, Schatten, Licht	Gute Modelle zeigen diese Fehler womöglich gar nicht
Rückwärtssuche nach Bildern	Ob das Bild von einem älteren Foto stammt	Bei neuen Erzeugungen bleibt die Suche ohne Treffer
Herkunftsmerkmale	Inhaltsnachweise (C2PA), Wasserzeichen	Merkmale lassen sich entfernen; ihr Fehlen beweist nicht, dass der Inhalt echt ist
Rückruf (bei Audio)	Die Person über eine dir bekannte Nummer anrufen	Wenn du sie nicht erreichst, bestätige über einen anderen Angehörigen

C2PA ist eine Koalition, die offene technische Standards für die Herkunft und Echtheit von Inhalten entwickelt. Die Seite zu Content Credentials beschreibt ein Kennzeichen, das zeigt, dass ein Inhalt Herkunftsinformationen trägt, und mit dem sich nachvollziehen lässt, wie er erstellt wurde und welche Bearbeitungen er durchlaufen hat. Die Seite räumt außerdem ein, dass böswillige Akteure weiter versuchen werden, synthetische Inhalte als echt zu kennzeichnen. Diese Merkmale sind also eine Hilfe, aber kein endgültiger Beweis.

Was solltest du gegen Betrug mit Stimmen tun?

Die Empfehlungen der FTC sind eindeutig: Vertraue der Stimme nicht; ruf die Person zur Überprüfung der Geschichte über eine dir bekannte Nummer an; erreichst du sie nicht, versuche es über ein anderes Familienmitglied oder einen Freund; sei vorsichtig bei Zahlungswünschen, die sich kaum rückgängig machen lassen, etwa Überweisungen, Kryptowährung oder Geschenkkarten. Wenn du einen Betrug bemerkst, melde ihn der zuständigen Stelle.

Wie sieht verantwortungsvolle Nutzung aus?

• Einwilligung: Wenn du das Gesicht, die Stimme oder das Erscheinungsbild einer echten Person verwenden willst, hol dir vorher eine ausdrückliche Erlaubnis.
• Keinen Schaden anrichten: Erstelle keine Inhalte, die jemanden herabwürdigen, täuschen, belästigen oder als Komplizen eines Verbrechens darstellen.
• Offenheit: Wenn du eine realistische Szene teilst, sag dazu, dass sie künstlich ist.
• Politische und öffentliche Personen: Vermeide besonders Inhalte, die im Wahl- oder Nachrichtenkontext für echt gehalten werden könnten.
• Kinder: Erstelle solche Inhalte nicht mit Bildern von Kindern.

Was sagt das Recht? Das Beispiel der KI-Verordnung der EU

Artikel 50 der KI-Verordnung der EU legt Transparenzpflichten fest. Nach Artikel 50 Absatz 4 müssen Organisationen, die ein System zum Erstellen oder Verändern eines Deepfakes nutzen und den Inhalt veröffentlichen (Betreiber), offenlegen, dass der Inhalt künstlich erzeugt oder verändert wurde. Handelt es sich um ein offensichtlich künstlerisches, kreatives, satirisches oder fiktionales Werk, beschränkt sich die Pflicht darauf, das Vorhandensein des Inhalts in geeigneter Weise offenzulegen, ohne die Vorführung oder den Genuss des Werks zu beeinträchtigen. Die FAQ-Seite der Europäischen Kommission schreibt, dass die Pflichten für Systeme nach Artikel 50 Absatz 2 und 4 ab dem 2. August 2026 gelten, für vorher in Verkehr gebrachte Systeme eine Übergangsfrist bis zum 2. Dezember 2026 besteht und ein Verhaltenskodex zu Gestaltung und Platzierung von Deepfake-Kennzeichnungen veröffentlicht wurde. Details findest du in unserem Artikel KI-Inhalte kennzeichnen. Die Regeln in deinem Land können abweichen; dies ist keine Rechtsberatung.

Was solltest du tun, wenn du auf einen Deepfake stößt?

1. Teile ihn nicht; Verbreiten vergrößert den Schaden.
2. Prüfe Quelle und Kontext.
3. Melde den Inhalt über das Meldewerkzeug der Plattform.
4. Geht es um einen persönlichen Schaden, bewahre einen Screenshot und den Link als Beweis auf.
5. Bei Betrug oder Erpressung wende dich an die zuständigen Behörden und deine Bank; Stellen wie die FTC haben Meldewege.
6. Bist du oder jemand aus deinem Umfeld betroffen, hol dir rechtliche Unterstützung.

Welche Vorkehrungen kannst du in Familie und Beruf treffen?

Das Informationsblatt von NSA, FBI und CISA empfiehlt Organisationen technische und nicht technische Maßnahmen: Erkennungs- und Herkunftsprüfwerkzeuge, den Schutz der Kommunikation wichtiger Personen, Informationsaustausch, die Planung und Übung von Reaktionen auf Angriffsversuche sowie die Schulung der Mitarbeitenden. Du kannst diese Vorschläge auf deinen eigenen Maßstab übertragen.

• Zweikanal-Regel bei Zahlungswünschen: Bestätige jede Bitte um Geld oder eine Kontoänderung, die per Nachricht, Stimme oder Video kommt, über einen anderen dir bekannten Kanal.
• Bei Druck langsam werden: Betrüger setzen auf Eile; der Druck „Schick es sofort“ ist ein Warnsignal.
• In der Familie sprechen: Erkläre besonders älteren Angehörigen, dass es Betrug mit geklonten Stimmen gibt, und vereinbart eine gemeinsame Prüfmethode; dies ist ein allgemeiner Praxisrat.
• Im Betrieb eine Anleitung schreiben: Schriftlich festhalten, wer welche Anfrage über welchen Kanal freigibt.
• Über deine eigene Spur nachdenken: Öffentlich geteilte Ton- und Videoaufnahmen können als Material für Nachahmungen dienen; prüfe, was du teilst.

Häufige Fehler

• Dem Auge vertrauen: Ein guter Deepfake fällt mit bloßem Auge womöglich nicht auf.
• Geld schicken, weil du die Stimme erkennst: Stimmen lassen sich klonen; ruf immer zurück.
• Kein Wasserzeichen heißt echt: Kennzeichen lassen sich entfernen oder wurden nie hinzugefügt.
• Inhalte ohne Einwilligung als Scherz erstellen: Der Schaden hängt nicht von der Absicht ab.
• Ohne Prüfung teilen: Falschinformationen verbreiten sich schnell.

Wie verlässlich sind Kennzeichnungen und Markierungen?

Eine Kennzeichnung „mit KI erstellt“ bei einem Inhalt zu sehen, ist ein nützlicher Hinweis, aber das Fehlen einer Kennzeichnung beweist nicht, dass der Inhalt echt ist; böswillige Akteure setzen keine Kennzeichnungen oder versuchen, Merkmale zu entfernen. Umgekehrt gilt auch: Eine Kennzeichnung kann optisch gefälscht sein. Stelle Kennzeichnungen deshalb neben die Prüfung von Quelle und Kontext, nicht an deren Stelle. Zu den Kennzeichnungsregeln siehe unseren Artikel KI-Inhalte kennzeichnen.

Zusammenfassung

• Ein Deepfake ist mit KI erzeugter oder veränderter Inhalt, der wie eine echte Person oder ein echtes Ereignis wirkt.
• Betrug, Identitätsmissbrauch, Falschinformation und Rufschäden sind die wichtigsten Risiken.
• Die Erkennung mit dem Auge ist unzuverlässig; Quelle, Kontext und Rückruf sind robuster.
• Inhaltsnachweise und Wasserzeichen helfen, sind aber nicht endgültig.
• Verantwortungsvolle Nutzung heißt: Einwilligung, keinen Schaden anrichten und offenlegen, dass es künstlich ist.