Kommentar: Warum der ZDF-KI-Fail ein Weckruf ist

Im „heute journal“ hat das ZDF KI-generierte Bilder in einem Nachrichtenbeitrag gezeigt – ohne Kennzeichnung und ergänzt um Archivmaterial aus anderem Kontext. Der Sender hat sich entschuldigt, den Beitrag geändert, personelle Konsequenzen gezogen und einen Maßnahmenkatalog angekündigt, doch der Fall zeigt: Ohne klare Kennzeichnungsstandards für KI-Inhalte gerät Vertrauen – vor allem in den unabhängigen Journalismus – ins Wanken.

KI-Material zur Illustration eines News-Beitrages

Der Fall ist schnell erzählt – und gerade das macht ihn so brisant: In der „heute journal“-Ausgabe vom 15. Februar zeigte das ZDF in einem Beitrag zu Abschiebungen von Minderjährigen durch die US-Einwanderungsbehörde ICE KI-generierte Bilder, ohne diese als solche kenntlich zu machen oder journalistisch einzuordnen. Zu sehen waren unter anderem Szenen, in denen Kinder von Einsatzkräften abgeführt werden – stark emotionale Bilder, die für das Publikum wie authentisches Nachrichtenmaterial wirken mussten. Hinzu kam, dass eine weitere Sequenz zwar real, aber älter und aus einem anderen Kontext stammte – also ebenfalls nicht das zeigte, was der Beitrag im Moment der Ausstrahlung nahelegte.

Das ZDF räumte den Fehler ein und erklärte, die Kennzeichnung der KI-Bilder sei „bei der Überspielung des Beitrags aus technischen Gründen nicht übertragen worden“. Gleichzeitig betonte der Sender, in den eigenen KI-Grundsätzen sei festgelegt, dass KI-generiertes Bildmaterial „immer transparent gekennzeichnet“ werden müsse. Genau diese Diskrepanz – ein klarer Grundsatz auf dem Papier, eine eklatante Verletzung in der Praxis. Zumal das ZDF zusammen mit ARD, Deutschlandradio und Deutsche Welle erst kurz vorher noch einen gemeinsamen KI-Kodex verabschiedet haben (hier geht’s zum vollständigen Kodex).

Wir haben ja erst kürzlich hier im Blog darauf verwiesen, wie nah KI-generiertes Material rein optisch inzwischen an der Realität oder realistisch gedrehten Szenen sein kann – und auch von der Problematik berichtet, wie sich der Einfluss von KI auch auf den Audio-Bereich, insbesondere bei Moderation und Synchronisation, auswirken kann. Der ZDF-Fail macht das ganze Thema nochmal plakativer.

Entschuldigung des ZDF wegen KI-Nutzung

Die Reaktion des ZDF folgte in mehreren Etappen: Zunächst wurde der Beitrag in der Mediathek ausgetauscht, die KI-Bilder entfernt und durch andere Videosequenzen und Standbilder ersetzt. Über den betreffenden Passagen liegt nun ein Balken mit dem Hinweis „Video aus redaktionellen Gründen nachträglich geändert“ – ein sichtbares Zeichen dafür, dass hier etwas grundlegend schief gelaufen ist. Parallel erklärte der Sender, die Redaktion habe den Fehler korrigiert und arbeite den Vorfall auf. Anne Gellinek, stellvertretende Chefredakteurin und Leiterin der Aktualität, erklärte: „Wir entschuldigen uns in aller Form für diese Fehler. Der Beitrag entspricht nicht unseren Standards und hätte in dieser Form nicht gesendet werden dürfen. Wir haben ihn deshalb von allen Plattformen entfernt und werden auf ZDFheute sowie an gleicher Stelle im ‚heute journal‘ heute Abend korrigierend berichten.“

ZDF-Chefredakteurin Bettina Schausten und ZDF-Nachrichtenchefin Anne Gellinek moderieren Sendungen wie die „Was nun?“-Reihe. Die Frage muss sich das ZDF jetzt einmal selbst stellen.

In weiteren Stellungnahmen kündigte das ZDF einen Maßnahmenkatalog an, „um Abläufe bei der Verifikation von Bewegtbildmaterial noch strenger zu regeln“. Dazu gehören verpflichtende Schulungen für Mitarbeiterinnen und Mitarbeiter, mit denen die „hohen journalistischen Standards des ZDF“ gesichert werden sollen. Öffentlich stellte der Sender klar, dass der „Einsatz KI-generierter Bilder und Videos von Menschen, Ereignissen und politischen Zusammenhängen“ im Genre Nachrichten und Information grundsätzlich nicht erlaubt sei – außer dann, wenn KI-Fakes selbst Thema des Beitrags sind und für das Publikum „klar erkennbar“ eingeordnet werden. Zudem wurde die verantwortliche Mitarbeiterin abberufen, was zwar die Ernsthaftigkeit der internen Konsequenzen unterstreicht – ZDF-Chefredakteurin Bettina Schausten spricht davon, dass das ZDF nach der KI-Affäre beschädigt sei – , aber auch durchaus kontrovers diskutiert wird, mit allen Folgen auch auf das Arbeitsklima für die Redaktion.

Damit ist der Fall formal sauber bearbeitet: Fehler eingeräumt, Beitrag korrigiert, Verantwortliche abgezogen, Maßnahmenpaket angekündigt. Und doch bleibt die eigentliche Frage offen: Wie konnte es überhaupt so weit kommen – in einem Umfeld, das zu Recht für sich beansprucht, höchste Sorgfalt und Transparenz walten zu lassen? Hier geht es nicht um einen beliebigen Social-Media-Clip, sondern um eine der zentralen Nachrichtensendungen des öffentlich-rechtlichen Rundfunks.

KI-generierte Inhalte müssen gekennzeichnet sein, gerade wenn sie täuschend echt aussehen

Ich halte genau an diesem Punkt zwei Dinge für unverhandelbar: Erstens müssen KI-generierte Inhalte immer erkennbar gekennzeichnet werden, wenn eine Verfälschung vorliegt – dann ohne Ausnahmen, ohne Ausreden, ohne technische Fußangeln. Zweitens ist die Schwelle für den Einsatz von KI-Bildmaterial in Nachrichtenbeiträgen deutlich höher anzusetzen als in anderen Genres. Wer Fakten berichtet, darf keine Fiktion bebildern, ohne das glasklar zu machen. Je näher sich KI-Bilder an dokumentarischem Material anlehnen, desto größer ist das Risiko, dass Zuschauerinnen und Zuschauer manipuliert werden – auch dann, wenn die inhaltliche Aussage des Beitrags für sich genommen korrekt sein mag.

Meiner Ansicht nach sollte Kennzeichnung dort erfolgen, wo eine semantische Verfälschung vorliegt – also wenn eine falsche Realität suggeriert wird. Wenn ich ein klar erkennbares Comicbild mit KI erstelle, liegt keine Irreführung vor. Wenn aber ein manipuliertes Bild als echte Fotografie verkauft wird, dann schon. Warum diese Differenzierung? Über-Kennzeichnung birgt die Gefahr eines Gewöhnungseffekts – wie bei Cookie-Bannern.

Wenn ich Redaktionen, Unternehmen und öffentliche Einrichtungen bei der Einführung generativer Systeme begleite, tauchen auch immer wieder genau diese Fragen auf: Wie kennzeichnen wir KI-Inhalte? Welche Transparenz erwarten unterschiedliche Zielgruppen? Wie verhindern wir, dass Deepfakes und synthetische Bilder unbemerkt in seriöse Kommunikationskanäle einsickern? Ich erlebe immer wieder das gleiche Muster: Sobald der Produktionsdruck steigt, werden Kennzeichnungen als lästig, störend oder gestalterisch „unschön“ wahrgenommen – und damit schnell zur Variablen, an der man zuerst spart. Genau das darf im Journalismus, und schon gar nicht im öffentlich-rechtlichen Nachrichtenbetrieb, nicht passieren.

EU AI Act sagt, DASS man kennzeichnen muss – aber nicht WIE

Der EU AI Act setzt an dieser Stelle formal den richtigen Rahmen: Er verpflichtet dazu, KI-generierte Inhalte zu kennzeichnen und schafft damit eine Transparenzpflicht, die ab August 2026 in Europa verbindlich gilt. Artikel 50 unterscheidet dabei unter anderem zwischen audiovisuellen Inhalten wie Deepfakes und automatisch generierten Texten und verlangt, dass KI-Medien sowohl maschinenlesbar als auch für Menschen erkennbar markiert werden. Betroffen sind nicht nur die Anbieter der Systeme, sondern auch die Betreiber – also zum Beispiel Medienhäuser, die generative KI im redaktionellen Alltag einsetzen.

Doch genau hier liegt aus meiner Sicht der blinde Fleck der aktuellen Regulierung: Der EU AI Act sagt, dass gekennzeichnet werden muss – aber nicht, wie. Er schreibt Transparenz vor, definiert aber nicht konkret, ob ein winziger Hinweis im Kleingedruckten reicht oder eine klare, visuelle und sprachliche Kennzeichnung direkt am Bild oder im Beitrag erforderlich ist. Für Nachrichtensendungen, Live-Berichterstattung und Beiträge öffentlicher Stellen ist das ein Problem, weil Unklarheit bei der Ausgestaltung am Ende fast immer zulasten der Zuschauerinnen und Zuschauer geht. Formales „Compliance-Häkchen gesetzt“ ersetzt keine echte Verständlichkeit im Sinne des Publikums.

Positiv ist, dass die EU an genau dieser Stelle nachschärfen will: Derzeit arbeitet die Kommission an umsetzenden Richtlinien und ergänzenden Regelungen. Der Code of Practice soll konkretisieren, wie KI-generierte Inhalte kenntlich zu machen sind – insbesondere im Bereich audiovisuelle Medien und Plattformen. Hier geht es um Fragen wie Mindestgröße, Platzierung und Verständlichkeit von Hinweisen, aber auch um technische Standards für maschinenlesbare Markierungen. Für Medienhäuser bietet sich gerade jetzt die Chance, nicht auf die kleinste zulässige Lösung zu warten, sondern proaktiv höhere Transparenzstandards zu definieren, die über das rechtlich Gebotene hinausgehen. Adobe geht hier übrigens mit gutem Beispiel voran und hat sich selbst verpflichtet, Transparenz in der Erzeugung von KI-Material durch Adobe-Werkzeuge zu dokumentieren.

Code of Practice des AI Office der EU muss kommen – bald!

Genau hier kommt das AI Office der EU ins Spiel: Es arbeitet derzeit an einem Code of Practice, der festlegen soll, wie KI-generierte Inhalte konkret zu kennzeichnen sind – und zwar so, dass Transparenz nicht nur juristisch, sondern auch praktisch und für uns Nutzer:innen und Konsument:innen verständlich wird. In diesem Code geht es unter anderem um Mindestanforderungen an Sichtbarkeit und Platzierung von Hinweisen, um klare, standardisierte Formulierungen („Mit Hilfe von KI erzeugt“ statt technokratischer Fachbegriffe), um wiedererkennbare Icons oder Labels für KI-Medien und um technische Standards für maschinenlesbare Markierungen, etwa über Metadaten. Hinzu kommen Vorgaben, wie Plattformen und Medienhäuser diese Kennzeichnungen konsistent in ihre Player, Mediatheken und Social-Media-Formate integrieren sollen.

Der ZDF-Fall zeigt in erschreckender Klarheit, was auf dem Spiel steht, wenn man das Thema Kennzeichnung als reine Formalie behandelt: Vertrauen ist in Sekunden verspielt, aber nur in Jahren wieder aufzubauen. Wer in Nachrichten mit KI-Bildern arbeitet, bewegt sich auf einem schmalen Grat – selbst dann, wenn die Bilder „nur“ stellvertretend für ein reales Geschehen stehen sollen. Für das Publikum ist nicht entscheidend, ob die Pixel technisch korrekt eingeordnet wurden, sondern ob es den Eindruck hatte, tatsächliche Dokumentation zu sehen.

Vier klare Schritte bei der KI-Nutzung erforderlich

Als jemand, der regelmäßig mit Redaktionen arbeitet, würde ich mir vier klare Schritte wünschen: Erstens eine strengere Selbstbindung, die den Einsatz von KI-Bildern in Nachrichten tatsächlich auf Ausnahmefälle begrenzt, in denen KI selbst Gegenstand der Berichterstattung ist. Zweitens ein sichtbares, einheitliches Kennzeichnungssystem – on air, in der Mediathek und in Social-Media-Clips – das für Zuschauer:innen und Nutzer:innen auf den ersten Blick verständlich ist. Drittens eine offene Fehlerkultur, die nicht nur erklärt, was schiefgelaufen ist, sondern transparent macht, welche konkreten Änderungen im Arbeitsalltag erfolgen. Und viertens eine breit angelegte Aufklärungs- und Trainingsarbeit zu KI-Medienkompetenz: in Schulen, in der Erwachsenenbildung, bei kommunalen Weiterbildungsträgern, in Behörden – und ja, auch in den öffentlich-rechtlichen Häusern selbst. Wenn wir wollen, dass Bürger:innen und Konsument:innen KI-Bilder richtig einordnen, müssen wir sie systematisch dazu befähigen.

Der Vorfall im „heute journal“ ist kein Ausrutscher einer einzelnen Redaktion, sondern ein Symptom eines größeren Problems: Wir unterschätzen die Wucht, mit der generative KI unsere Bilderwelt verändert, und wir überschätzen die Robustheit etablierter redaktioneller Routinen. Wenn öffentlich-rechtliche Nachrichten beginnen, mit synthetischen Bildern zu arbeiten, ohne dies klar auszuweisen, verschwimmt die Grenze zwischen Dokumentation und Inszenierung – und genau diese Grenze ist das Fundament, auf dem journalistische Glaubwürdigkeit steht.

Umso wichtiger ist es, gerade jetzt präzise zu sein: KI-Bilder sind mächtige Werkzeuge, aber in der Berichterstattung über reale Ereignisse sind sie ohne eindeutige Kennzeichnung fehl am Platz. Der EU AI Act liefert den Rahmen, doch die Verantwortung, daraus verständliche, verlässliche und für das Publikum nachvollziehbare Standards zu machen, liegt bei den Redaktionen, Intendanturen und Medienhäusern selbst. Der ZDF-Fall sollte deshalb nicht als technischer Fehler abgehakt werden, sondern als Weckruf: Wer heute mit KI experimentiert, experimentiert immer auch mit Vertrauen – und genau damit sollte man äußerst sparsam umgehen.

Bilder: ZDF