AI-Inhalte kennzeichnen: EU-AI-Act und Plattformen

Kurze Antwort: Artikel 50 des EU-AI-Act legt zwei Hauptpflichten fest: Anbieter generativer KI-Systeme müssen ihre Ausgaben maschinenlesbar kennzeichnen, und Betreiber, die Deepfakes veröffentlichen, müssen offenlegen, dass der Inhalt künstlich ist. Der Artikel gilt seit dem 2. August 2026. Für die Kennzeichnungspflicht gibt es bei Systemen, die vorher in Verkehr gebracht wurden, eine Übergangsfrist bis zum 2. Dezember 2026. Auch die Plattformen (YouTube, Meta, TikTok) haben eigene Kennzeichnungsregeln. Dieser Artikel ist eine Zusammenfassung für Kreative und Unternehmer; er ist keine Rechtsberatung.

Was verlangt Artikel 50 des EU-AI-Act?

Artikel 50 regelt Transparenzpflichten. Die Kernpunkte lassen sich so zusammenfassen:

• 50(1): Anbieter von KI-Systemen, die direkt mit Menschen interagieren, müssen sicherstellen, dass die Menschen wissen, dass sie mit einem KI-System zu tun haben, sofern dies nicht aus dem Zusammenhang offensichtlich ist.
• 50(2): Anbieter generativer KI-Systeme, die Audio, Bilder, Videos oder Text erzeugen, müssen die Ausgaben maschinenlesbar kennzeichnen und erkennbar machen, dass sie künstlich erzeugt oder verändert wurden. Die Kommission erwartet, dass die Lösungen, soweit technisch möglich, wirksam, interoperabel, robust und zuverlässig sind.
• 50(3): Wer Systeme zur Emotionserkennung oder biometrischen Kategorisierung einsetzt, muss die betroffenen Personen informieren.
• 50(4): Betreiber, die Systeme zur Erzeugung oder Veränderung von Deepfakes nutzen und die Inhalte veröffentlichen, müssen offenlegen, dass sie künstlich sind. Für KI-erzeugte Texte, die veröffentlicht werden, um die Öffentlichkeit zu informieren, gilt eine ähnliche Offenlegungspflicht; es gibt eine Ausnahme, wenn eine menschliche Prüfung und redaktionelle Verantwortung bestehen.
• 50(5): Die Information muss spätestens bei der ersten Interaktion oder ersten Wahrnehmung klar und unterscheidbar erfolgen.

Bei künstlerischen, kreativen, satirischen, fiktionalen oder vergleichbaren Werken ist die Pflicht gelockert: Es genügt, das Vorhandensein der Inhalte in angemessener Form offenzulegen, die die Präsentation oder den Genuss des Werkes nicht beeinträchtigt. Die FAQ-Seite der Kommission nennt für solche Arbeiten ebenfalls besondere Regeln.

Wer muss was tun?

Partei	Artikel	Pflicht
Anbieter eines generativen KI-Systems	50(2)	Ausgabe maschinenlesbar kennzeichnen, erkennbar machen
Betreiber, der einen Deepfake veröffentlicht	50(4)	Offenlegen, dass der Inhalt künstlich ist
Wer KI-Text zur Information der Öffentlichkeit veröffentlicht	50(4)	Offenlegen, dass er künstlich ist (ohne redaktionelle Prüfung)
Anbieter eines interaktiven Systems wie eines Chatbots	50(1)	Darüber informieren, dass man mit einer KI spricht

Wer ein Werkzeug nutzt und auf dem eigenen Konto teilt, ist meist Adressat der Offenlegungspflicht (als Betreiber) und nicht der Kennzeichnungspflicht (als Anbieter). Diese Unterscheidung braucht im konkreten Fall eine rechtliche Bewertung.

Fristen: Wann gilt das?

Die FAQ-Seiten der Kommission sind eindeutig: Artikel 50 gilt ab dem 2. August 2026; dieses Datum gilt für Systeme nach 50(2) und 50(4). Für Systeme, die vor dem 2. August 2026 in Verkehr gebracht wurden, gibt es eine Übergangsfrist bis zum 2. Dezember 2026. Sie wurde durch Gesetzesänderungen zur KI eingeführt. Außerdem müssen Ausgaben, die vor dem 2. August 2026 bereitgestellt wurden, nicht rückwirkend gekennzeichnet werden.

Die Kommission hat zur Erfüllung dieser Pflichten einen freiwilligen Verhaltenskodex veröffentlicht (Juni 2026). Abschnitt 1 betrifft Kennzeichnung und Erkennung für Anbieter, Abschnitt 2 die Kennzeichnung von Deepfakes und veröffentlichten Texten für Betreiber. Die Unterzeichnung ist freiwillig; wer nicht unterzeichnet, muss die Einhaltung auf anderem Weg nachweisen. Die Seite der Kommission nennt außerdem Hinweise zu Gestaltung und Platzierung des Labels und ein optionales EU-Symbol.

Was verlangen Plattformen?

Das Gesetz ist das eine, die Plattformregeln sind etwas anderes. Die folgende Übersicht fasst die offiziellen Seiten der Plattformen zusammen und kann sich mit der Zeit ändern:

Plattform	Was wird erwartet?	Wie sieht das Label aus?
YouTube	Realistische Inhalte, die KI-generiert oder sinnvoll verändert wurden, müssen offengelegt werden; zum Beispiel wenn eine echte Person etwas sagt, das sie nie gesagt hat, Aufnahmen eines echten Ereignisses verändert werden oder eine realistische Szene entsteht, die so nie stattgefunden hat. Ästhetische Kleinigkeiten wie Schönheitsfilter, Farbkorrektur und Untertitel sowie nicht realistische Inhalte müssen nicht offengelegt werden.	Die Einstellung „AI use“ beim Hochladen in YouTube Studio; ein Hinweis im Player oder in der erweiterten Beschreibung
Meta	Meta bringt ein „AI info“-Label an, wenn branchenübliche KI-Merkmale erkannt werden oder Personen beim Hochladen angeben, dass der Inhalt KI-generiert ist	Ein „AI info“-Label; bei Inhalten mit hohem Risiko ein deutlicheres Label
TikTok	Die Hilfeseite erklärt, welche KI-Inhalte Kreative kennzeichnen sollten und wie Inhalte mit C2PA-Content-Credentials automatisch gekennzeichnet werden	Details auf der aktuellen Version der Seite

Praktische Folge: Lies die aktuelle Hilfeseite der Plattform, auf der du veröffentlichst, und nutze dort die Einstellung zur Offenlegung. Die meisten Plattformen wenden bei Verstößen Konsequenzen wie Verwarnungen oder das Entfernen von Inhalten an; die Details findest du auf der jeweiligen Seite.

Was sind C2PA und Content Credentials?

C2PA ist eine Koalition, die offene technische Standards für Herkunft und Echtheit von Inhalten entwickelt. Content Credentials ist ein System, das auf diesem Standard aufbaut: Auf dem Inhalt erscheint eine Markierung; wenn man sie anklickt, sieht man, wie der Inhalt erzeugt wurde und welche Bearbeitungsgeschichte er hat. Die Seite erkennt an, dass böswillige Akteure weiterhin versuchen werden, synthetische Inhalte als echt zu kennzeichnen. Ziel ist, gutwilligen Erstellern einen Weg zu geben, die Echtheit ihrer Inhalte zu zeigen.

Hersteller nutzen auch andere Markierungen. Google gibt zum Beispiel an, dass mit Veo erzeugte Videos mit SynthID markiert werden, der Technologie des Unternehmens zur Kennzeichnung und Erkennung KI-erzeugter Inhalte. Als allgemeiner Hintergrund gilt: Metadaten können durch erneutes Speichern und Screenshots verloren gehen; Markierungen sind deshalb ein Signal und kein endgültiger Beweis. Um zu erklären, dass ein Inhalt künstlich ist, solltest du zusätzlich ein sichtbares Label oder einen Erklärungstext ergänzen.

Praktische Checkliste für Kreative und Unternehmen

1. Bestimme die Art des Inhalts: Handelt es sich um realistische Inhalte, die einer echten Person, einem Ereignis oder einem Ort ähneln, oder ist er eindeutig erdacht?
2. Bei realistischen Inhalten offenlegen: ein sichtbares Label („Mit KI erstellt“) oder die Offenlegungseinstellung der Plattform.
3. Plattformregeln prüfen: Lies die aktuellen Seiten von YouTube, Meta und TikTok.
4. Markierungen im Werkzeug nicht entfernen: Versuche nicht, Content Credentials und Wasserzeichen zu entfernen.
5. Aufzeichnungen führen: Halte fest, was du mit welchem Werkzeug und wann erzeugt hast.
6. Zustimmung der Personen einholen: Für das Bild echter Personen ist eine Erlaubnis unverzichtbar. Siehe auch unseren Artikel Was ist ein Deepfake?.
7. Bei Texten: Wenn du KI-Texte zur Information der Öffentlichkeit veröffentlichst, erwäge eine redaktionelle Prüfung und übernimm die Verantwortung.

Beispielhinweis: „Dieses Bild wurde mit KI erstellt; es zeigt kein echtes Ereignis.“

Beispielhinweis: „Die Audio- und Bildspur in diesem Video ist eine mit KI erzeugte Nachstellung.“

Beispielszenarien

Das Folgende ist eine allgemeine Einschätzung; für eine verbindliche Bewertung solltest du eine Fachperson fragen.

• Eindeutig erdachte Fantasy-Illustration: Wenn sie keiner echten Person, keinem Ort und keinem Ereignis ähnelt, fällt sie möglicherweise nicht unter die Deepfake-Definition. Auch die YouTube-Seite sagt, dass nicht realistische Inhalte keine Offenlegung brauchen. Trotzdem solltest du die Nutzungsbedingungen des Werkzeugs und die Plattformregeln prüfen.
• Realistisches Video, in dem eine Person etwas sagt, was sie nie gesagt hat: Das kann im Gesetz unter den Deepfake-Begriff fallen und ist in den Beispielen von YouTube ein Typ, der offengelegt werden muss. Ein klares Label und die Zustimmung der Person sind unverzichtbar.
• Austausch des Hintergrunds bei einem Produktfoto: Die Beispiele für „kleine ästhetische Bearbeitungen“ bei YouTube nennen Farb- und Lichtanpassungen; den Hintergrund komplett zu ersetzen, zählt darunter möglicherweise nicht. Das Produkt im kommerziellen Kontext nicht falsch darzustellen, ist ein eigenes Thema; im Zweifel kennzeichne es.
• Mit KI geschriebener Blogbeitrag: Artikel 50(4) verlangt eine Offenlegung für KI-Texte, die zur Information der Öffentlichkeit veröffentlicht werden; es gibt eine Ausnahme, wenn eine menschliche Prüfung und redaktionelle Verantwortung bestehen. Prüfe den Text vor der Veröffentlichung wirklich und übernimm die Verantwortung.

Häufige Fehler

• „Die Kennzeichnung ist nur Sache des Anbieters“: Ein Betreiber, der einen Deepfake veröffentlicht, kann ebenfalls eine Offenlegungspflicht haben.
• Das Label verstecken oder sehr klein schreiben: Die Information muss klar und unterscheidbar sein.
• Glauben, Content Credentials reichen aus: Metadaten können verloren gehen; ergänze auch eine sichtbare Offenlegung.
• Annehmen, dass sich die Plattformregeln nicht ändern: Kontrolliere die Seiten regelmäßig.
• Inhalte echter Personen ohne Zustimmung erzeugen: Ein Label gleicht fehlende Zustimmung nicht aus.

Zusammenfassung

• 50(2): Anbieter kennzeichnen Ausgaben maschinenlesbar; 50(4): Wer Deepfakes veröffentlicht, legt offen.
• Artikel 50 gilt seit dem 2. August 2026; bereits in Verkehr gebrachte Systeme haben bis zum 2. Dezember 2026 Zeit für die Kennzeichnung.
• Der freiwillige Verhaltenskodex der Kommission hat Abschnitte für Anbieter und Betreiber.
• YouTube, Meta und TikTok haben eigene Kennzeichnungsregeln; lies ihre aktuellen Seiten.
• Markierungen wie C2PA und SynthID helfen; ergänze zusätzlich eine sichtbare Offenlegung.