Was Art. 50 verlangt

Art. 50 der Verordnung (EU) 2024/1689 regelt die Transparenzpflichten für KI-Systeme. Die Kernforderung: Wer KI-generierte Inhalte veröffentlicht — insbesondere Deepfakes, synthetische Bilder, synthetischen Text und synthetische Audios — muss diese als maschinell erzeugt kenntlich machen.

Die Pflicht betrifft zwei Gruppen: Anbieter von KI-Systemen, die dafür sorgen müssen, dass ihre Ausgaben technisch markierbar sind, und Betreiber, die diese Systeme einsetzen und sicherstellen müssen, dass die Kennzeichnung beim Veröffentlichen erhalten bleibt.

Die drei Stufen der Kennzeichnungspflicht

• KI-generierte Inhalte allgemein — Texte, Bilder, Audio und Video, die ganz oder überwiegend von einem KI-System erzeugt wurden, müssen als solches erkennbar sein (Art. 50 Abs. 2).
• Deepfakes und manipulierte Inhalte — Wer realistisch wirkende, aber künstlich erzeugte oder veränderte Inhalte veröffentlicht, muss offenlegen, dass es sich um künstliche Inhalte handelt (Art. 50 Abs. 2).
• Emotionserkennung und Biometrik — KI-Systeme, die Emotionen erkennen oder biometrische Kategorien bilden, unterliegen zusätzlichen Transparenzanforderungen gegenüber den betroffenen Personen (Art. 50 Abs. 3).

Wen es konkret trifft

Betroffen sind nicht nur große Plattformanbieter. Jedes Unternehmen, das KI-generierte Inhalte veröffentlicht — sei es für Marketing, internen Kommunikationsauftritt oder Kundenservice — fällt unter die Pflicht. Das schließt ein:

Marketingabteilungen, die Bilder mit Midjourney oder DALL-E erstellen. Kundenservice-Teams, die KI-gestützte Chatbots betreiben. PR-Abteilungen, die synthetischen Text für Pressemitteilungen verwenden. Und Unternehmen, die Deepfake-Videos für Schulungen oder Präsentationen einsetzen.

Wichtig: Auch die Einbindung fremder KI-Dienste löst die Pflicht aus. Wer einen Chatbot-Dienstleister nutzt, muss sicherstellen, dass die Ausgaben seines Chatbots als KI-generiert gekennzeichnet sind.

Was jetzt zu tun ist

• Inventar aufbauen — Welche KI-Systeme sind im Einsatz? Welche Inhalte erzeugen sie? Wo werden sie veröffentlicht?
• Technische Markierung prüfen — Können die verwendeten Systeme C2PA-kompatible Metadaten liefern? Wenn nicht: Anbieter auf Roadmap ansprechen.
• Prozess definieren — Wer ist verantwortlich für die Kennzeichnung? Gibt es einen Freigabe-Workflow für KI-generierte Inhalte?
• Bestand aufarbeiten — Bereits veröffentlichte KI-Inhalte nachträglich kennzeichnen, soweit möglich.
• Dokumentation aufbauen — Nachweise für die Einhaltung führen. Bei einer Prüfung wird gefragt, nicht geglaubt.

Warum halbherzige Lösungen nicht reichen

Ein Hinweis im Impressum reicht nicht. Die Verordnung verlangt, dass die Kennzeichnung beim Inhalt selbst erfolgt — nicht irgendwo auf der Seite vergraben. Wer synthetische Bilder ohne Metadaten veröffentlicht, erfüllt die Anforderung genauso wenig wie der, der einen Chatbot betreibt, ohne dass dieser sich als KI ausweist.

Die Aufsichtsbehörden in Deutschland — überwiegend die Landesdatenschutzbeauftragten — haben bereits signalisiert, dass sie die Einhaltung der Transparenzpflichten als Prüfschwerpunkt betrachten. Der Aufwand für eine nachträgliche Korrektur ist deutlich höher als für eine rechtzeitige Umsetzung.

Die Kennzeichnungspflicht trifft nicht nur Anbieter, sondern jeden, der KI-generierte Inhalte in den Verkehr bringt. Art. 50 Abs. 2 Verordnung (EU) 2024/1689