(Stuttgart) Ab dem 2. August 2026 gelten die Transparenzpflichten des Artikels 50 der europäischen KI-Verordnung. Unternehmen müssen insbesondere offenlegen, wenn Menschen mit KI-Systemen interagieren oder mit bestimmten künstlich erzeugten Inhalten konfrontiert werden.
Die Rechtslage erklärt Fachanwalt für Arbeitsrecht Klaus-Dieter Franzen, Bremen vom VDAA – Verband deutscher ArbeitsrechtsAnwälte e. V. mit Sitz in Stuttgart.
Worum geht es rechtlich?
Die Pflichten richten sich an Anbieter und Betreiber von KI-Systemen. Anbieter entwickeln KI-Systeme oder bringen sie unter ihrem Namen auf den Markt. Betreiber setzen KI-Systeme in eigener Verantwortung ein. Nutzt ein Beschäftigter ein KI-System im Auftrag und unter der Kontrolle seines Unternehmens, bleibt grundsätzlich das Unternehmen Betreiber. Art und Umfang der Pflichten hängen von dieser Rollenverteilung ab.
- Was gilt aktuell und warum
Menschen müssen erkennen, wenn sie mit KI kommunizieren
Chatbots, virtuelle Assistenten und vergleichbare Systeme müssen zu Beginn der ersten Interaktion klar darauf hinweisen, dass eine KI eingesetzt wird. Ein versteckter Hinweis im Impressum, in den Allgemeinen Geschäftsbedingungen oder in der Datenschutzerklärung genügt nicht. Nur wenn die KI-Interaktion offensichtlich ist, kann der Hinweis entfallen. Diese Ausnahme ist jedoch eng auszulegen. Die Information muss wahrnehmbar und barrierefrei sein. Bei Angeboten für Kinder ist ein altersgerechter Hinweis erforderlich.
Generierte Inhalte benötigen eine technische Markierung
Anbieter generativer KI-Systeme müssen Bild-, Audio-, Video- und Textinhalte grundsätzlich so kennzeichnen, dass ihre künstliche Herkunft maschinenlesbar erkannt werden kann. In Betracht kommen etwa Metadaten oder digitale Wasserzeichen.
Für generative KI-Systeme, die bereits vor dem 2. August 2026 auf den Markt gebracht wurden, gilt hinsichtlich dieser technischen Markierung eine begrenzte Übergangsfrist bis zum 2. Dezember 2026. Sie erfasst nicht die übrigen Transparenzpflichten. Vor dem 2. August 2026 erzeugte Inhalte müssen grundsätzlich nicht nachträglich gekennzeichnet werden.
Deepfakes müssen sichtbar offengelegt werden:
Wer als Betreiber realistisch wirkende, KI-generierte oder manipulierte Bilder, Videos oder Tonaufnahmen veröffentlicht, muss spätestens beim ersten Kontakt deutlich auf die künstliche Erstellung oder Veränderung hinweisen. Eine unsichtbare technische Markierung reicht nicht aus. Der Hinweis muss ohne besondere technische Hilfsmittel erkennbar sein. Art. 50 Abs. 4 KI-VO.
Eine Täuschungsabsicht ist nicht erforderlich. Auch vollständig künstlich erzeugte Personen, Orte oder Ereignisse können erfasst sein, wenn sie realistisch und authentisch wirken. Eindeutig unrealistische oder comicartige Darstellungen fallen regelmäßig nicht darunter. Für fotorealistische Werbung und Produktdarstellungen sollte nicht auf die Erleichterung für künstlerische, satirische oder fiktionale Werke vertraut werden.
Bestimmte KI-Texte brauchen ebenfalls einen Hinweis
Das betrifft KI-generierte oder wesentlich manipulierte Texte, die veröffentlicht werden, um die Öffentlichkeit über Themen von öffentlichem Interesse zu informieren. Eine Kennzeichnung kann entfallen, wenn eine fachkundige Person den Inhalt substanziell geprüft hat und eine natürliche oder juristische Person die redaktionelle Verantwortung übernimmt. Eine reine Rechtschreibkontrolle oder formale Freigabe genügt nicht.
Emotionserkennung und biometrische Kategorisierung müssen offengelegt werden
Betreiber solcher Systeme müssen die betroffenen Personen über deren Einsatz informieren. Das gilt sowohl für eine Echtzeitauswertung als auch für eine nachträgliche Analyse. Datenschutzrechtliche Anforderungen bleiben daneben uneingeschränkt bestehen.
Typische Fehler in der Praxis
Unternehmen sollten technische Markierung und sichtbare Offenlegung nicht verwechseln. Die maschinenlesbare Kennzeichnung ist regelmäßig Aufgabe des Anbieters. Die sichtbare Information über Deepfakes oder bestimmte KI-Texte trifft dagegen das Unternehmen, das die Inhalte veröffentlicht oder verbreitet.
Ein weiterer Fehler ist eine nur oberflächliche menschliche Prüfung. Wer sich auf die redaktionelle Ausnahme berufen will, benötigt einen dokumentierten Freigabeprozess mit fachlicher Prüfung, tatsächlicher Entscheidungsbefugnis und klarer Verantwortlichkeit.
Auch die Annahme, sämtliche KI-Pflichten seien verschoben worden, ist unzutreffend. Artikel 50 KI-VO gilt ab dem 2. August 2026. Verstöße können mit Geldbußen von bis zu 15 Millionen Euro oder bis zu drei Prozent des weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres geahndet werden.
Was heißt das für die Praxis?
Unternehmen sollten zeitnah erfassen, welche KI-Systeme sie einsetzen und welche Inhalte damit erzeugt werden. Kundenservice, Personalabteilung, Marketing und Unternehmenskommunikation sind besonders relevant. Bei Chatbots müssen klare Hinweise eingerichtet werden. Für KI-Bilder, KI-Videos und synthetische Stimmen ist ein Kennzeichnungsprozess erforderlich. Verträge mit externen Anbietern sollten regeln, ob und wie maschinenlesbare Markierungen bereitgestellt werden.
Für Veröffentlichungen sollte das Unternehmen bestimmen, wer Inhalte fachlich prüft, freigibt und rechtlich verantwortet. Die Prüfung sollte nachvollziehbar dokumentiert werden. Bei betrieblichen Anwendungen bleiben außerdem die Datenschutz-Grundverordnung und mögliche Beteiligungsrechte des Betriebsrats zu beachten.
Für Rückfragen steht Ihnen zur Verfügung:
Klaus-Dieter Franzen
Rechtsanwalt
Fachanwalt für Arbeitsrecht
Zertifizierter Datenschutzbeauftragter (DSB-TÜV)
— — — — — — — — — — — — — — — — —
FranzenLegal
Altenwall 6
D-28195 Bremen
Telefon: +49 (0) 421 33 78 413
Telefax: +49 (0) 421 33 78 416