Ein Hund rettet angeblich ein Kind, eine Katze führt ein erstaunlich menschliches Gespräch – und ein bekannter Schauspieler empfiehlt plötzlich eine dubiose Abnehmpille. Vieles davon sieht echt aus, ist aber künstlich erzeugt. Seit August gelten in der EU neue Transparenzpflichten. Doch sie bedeuten nicht, dass nun jedes KI-Bild einen großen Warnhinweis tragen muss.
Quellen:
https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-50
https://digital-strategy.ec.europa.eu/en/policies/guidelines-ai-transparency-obligations
https://digital-strategy.ec.europa.eu/en/factpages/quick-facts-transparency-rules-ai-systems
🔎 Was ist passiert?
Seit dem 2. August 2026 gelten die Transparenzpflichten aus Artikel 50 des EU AI Act. Dabei unterscheidet das Gesetz vor allem zwischen Pflichten der Anbieter eines KI-Systems und Pflichten derjenigen, die bestimmte KI-Inhalte einsetzen oder veröffentlichen.
Anbieter generativer KI-Systeme müssen Ausgaben wie synthetische Texte, Bilder, Audios oder Videos grundsätzlich maschinenlesbar markieren und technisch erkennbar machen. Die Lösung soll wirksam, interoperabel, robust und zuverlässig sein, soweit das technisch machbar ist. Ausgenommen sind unter anderem bloße Standardbearbeitungen oder assistive Funktionen, die Eingaben und deren Bedeutung nicht wesentlich verändern.
Wer Deepfakes einsetzt, muss offenlegen, dass Bild-, Ton- oder Videoinhalte künstlich erzeugt oder manipuliert wurden. Als Deepfake gilt dabei nicht jedes Fantasiebild, sondern Inhalt, der realen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und fälschlich echt oder wahr wirken könnte.
Für offensichtlich künstlerische, kreative, satirische oder fiktionale Werke ist die Offenlegung begrenzt: Sie soll angemessen erfolgen, ohne den Genuss des Werks unnötig zu beeinträchtigen. Auch KI-generierte Texte zu Angelegenheiten von öffentlichem Interesse müssen offengelegt werden – außer sie wurden menschlich geprüft oder redaktionell kontrolliert und eine Person oder Organisation trägt die redaktionelle Verantwortung.
⚖️ Der Realitätscheck
Technische Markierung und sichtbare Kennzeichnung sind nicht dasselbe. Die erste Pflicht richtet sich an Systemanbieter und soll maschinelle Erkennung ermöglichen. Die zweite betrifft etwa den Einsatz von Deepfakes und muss für Menschen klar und wahrnehmbar sein.
Ein offensichtlich fantastisches Katzenvideo fällt daher nicht automatisch unter dieselbe sichtbare Offenlegungspflicht wie ein täuschend echter Clip, in dem ein Prominenter angeblich ein Produkt bewirbt. Gerade bei solcher Werbung kann die Kennzeichnungspflicht wichtig sein – zusätzlich können je nach Fall Verbraucher-, Persönlichkeits-, Marken- oder Strafrecht greifen.
Für generative Systeme, die schon vor dem 2. August 2026 auf dem Markt waren, sieht die aktuelle EU-Regelung bei der technischen Markierung eine begrenzte Übergangsfrist bis Dezember 2026 vor. Ältere Deepfakes müssen nicht rückwirkend gekennzeichnet werden, eine freiwillige Kennzeichnung wird jedoch empfohlen.
Und selbst eine korrekte Kennzeichnung löst nicht alles. Sie verhindert weder, dass irreführende Inhalte außerhalb der EU entstehen, noch garantiert sie, dass Plattformen und Nutzer den Hinweis beachten.
💡 Warum ist das interessant?
Massenhaft erzeugte Hunde- und Katzenvideos wirken zunächst harmlos. Sie trainieren aber eine Medienumgebung, in der Aufmerksamkeit mit möglichst billig produzierten scheinbar authentischen Szenen gewonnen wird. Spätestens wenn dieselben Werkzeuge Stimmen und Gesichter realer Menschen für Werbung, Betrug oder politische Manipulation verwenden, wird die Grenze deutlich.
Artikel 50 versucht deshalb nicht, KI-Kreativität pauschal zu verbieten. Die Regel folgt einem vernünftigen Grundgedanken: Wer etwas Künstliches als scheinbar echt vorführt, soll den künstlichen Ursprung kenntlich machen.
Ob das im Alltag funktioniert, hängt nun von technischen Standards, Plattformen, Aufsicht und einer Kennzeichnung ab, die verständlich ist – und nicht nur irgendwo im Kleingedruckten verschwindet.
Schreibe einen Kommentar