Mensch oder Maschine? Die besonderen Transparenzpflichten nach dem AI Act ab dem 02. August 2026

– von Martin Erlewein (Kanzlei Erlewein) –

Eine Mandantin von mir gab im Juli dieses Jahres die Erstellung ihres neuen Online-Auftritts in Auftrag. Sie führte danach über mehrere Tage per WhatsApp einen Chat mit einer vermeintlichen Mitarbeiterin des beauftragten Webdesigners, um die Ausgestaltung der Website im Detail zu klären. Erst nachdem die Umsetzung des Projekts nicht in der versprochenen Qualität und Frist erfolgte, stellte sich heraus, dass meine Mandantin hier die ganze Zeit mit einem KI-Chatbot geschrieben hatte. Einen Hinweis auf den Einsatz eines Bots hatte der Dienstleister bis zum Schluss nicht gegeben und tatsächlich war dieses Verschweigen nach der noch bis zum 02. August 2026 geltenden Rechtslage – zumindest rechtlich – zulässig. Blöd nur für den Dienstleister, dass der Bot Versprechungen gemacht hatte, die der Dienstleister gar nicht erfüllen konnte und die er sich nun zurechnen lassen muss.

Seit dem 2. August 2026 sähe es mit der Zulässigkeit nun aber anders aus, da seitdem die besonderen Transparenzpflichten des Art. 50 der KI-Verordnung (AI Act) anwendbar sind. Der fehlende Hinweis an den Kunden als natürliche Person, dass es dieser mit einem KI-Chatbot zu tun hat, stellt nun einen Rechtsverstoß durch den Anbieter des entsprechenden KI-Systems dar, der mit einem Bußgeld geahndet werden könnte und eventuell auch abmahnfähig wäre. Aber dazu später.

Aus meiner Beratungspraxis kann ich berichten, dass derzeit eine ausgeprägte Unsicherheit im Umgang mit den neuen Vorgaben besteht. Die häufig gestellte Frage lautet, ob nun sämtliche mit KI generierte Inhalte als solche gekennzeichnet werden? Was ist mit KI-generierten Werbemails, Grafiken, Musik, Präsentationen, Geschäftskommunikation usw.? Was sind die Voraussetzungen für den Einsatz eines KI-Chatbots oder sonstiger KI-gestützter Kommunikation?

Um es vorweg zu nehmen … es gibt auch nach dem 02. August 2026 keine generelle Pflicht des Betreibers bzw. Verwenders eines KI-Systems zur Kennzeichnung von Inhalten, die mittels eines KI-Systems erzeugt oder manipuliert wurden. Vielmehr muss hier sauber differenziert werden. Die Rechtslage ist jedoch beherrschbar, wenn man seine Rolle nach dem AI Act richtig bestimmt und die Reichweite der Pflichten daraus korrekt ableitet.

Über den Autor

Martin Erlewein

Kanzlei Erlewein

Martin Erlewein ist Fachanwalt für IT-Recht und Inhaber der Kanzlei Erlewein. Er berät Unternehmen mit den Schwerpunkten Datenschutz, E-Commerce, IP- und Wettbewerbsrecht. Daneben ist er externer Datenschutzbeauftragter diverser Unternehmen und Vereinigungen.

Seine juristische Laufbahn führte ihn nach dem zweiten Staatsexamen zu einem der großen Wirtschaftsprüfungsunternehmen und anschließend in die Inhouse-Beratung zweier M-Dax Unternehmen. Er besitzt als weitere Qualifikationen den Titel eines Fachanwalts für Steuerrecht und eines Steuerberaters. Aufgrund dessen ist ihm auch eine umfassende Beratung von Unternehmen zum Gesellschaft- und Steuerrecht und hier vom StartUp bis zum Exit möglich.

Regelmäßig tritt er als Speaker und Leiter von Workshops auf und veröffentlicht zu aktuellen Themen aus dem Bereich IT-Recht und Datenschutz.

Anbieter und Betreiber

Der AI Act unterscheidet zwischen dem Anbieter eines KI-Systems oder eines KI-Modells und dem Betreiber eines KI-Systems. Diese Abgrenzung hat für die Praxis erhebliche Bedeutung. Der Anbieter ist derjenige, der ein KI-System entwickelt oder entwickeln lässt und auf den Markt bringt. Der Betreiber ist derjenige, der ein solches System in eigener Verantwortung verwendet; also etwa der Unternehmer, der einen fertigen Chatbot auf seiner Website einbindet oder ein KI-System zur Generierung von Werbemails nutzt.

Die meisten meiner Mandanten sind Betreiber. Sie entwickeln keine KI-Systeme unter Einbindung von KI-Modellen, sondern setzen fertige Anwendungen ein: einen Chatbot im Kundenservice, ein Textwerkzeug für Kampagnen, einen Bildgenerator für soziale Medien. Für diese Betreiber ist der Umfang der Transparenzpflichten überschaubar.

Die weitergehenden Pflichten treffen den Anbieter. Er muss dafür sorgen, dass KI-generierte oder -manipulierte Inhalte bereits technisch, in maschinenlesbarer Form, als künstlich erzeugt markiert werden, damit nachgelagerte Systeme dies erkennen können. Diese Anforderung richtet sich an denjenigen, der das System herstellt.

Den Betreiber trifft die Pflicht dafür Sorge zu tragen, dass die für Menschen unmittelbar wahrnehmbaren Informationen zugänglich gemacht werden. Die der Transparenz dienenden Informationen werden den betreffenden natürlichen Personen spätestens zum Zeitpunkt der ersten Interaktion oder erstmaligem Kontakt mit dem Inhalt in klarer und eindeutiger Weise bereitgestellt.

Wie die Information dann im Einzelnen zu erfolgen hat, ergibt sich nicht aus dem AI Act selber, sondern wird in einer Guideline des AI Office (Amts für künstliche Intelligenz) das der EU-Kommission untersteht, erstmalig vorgegeben.

KI-System mit besonderen Transparenzpflichten

Konkret zählt der AI Act fünf Arten von KI-Systemen auf, deren Einsatz besondere Transparenzpflichten zur Folge haben können. Die Pflichten bei Betrieb eines Emotionserkennungsystems oder Systemen zur biometrischen Kategorisierung lasse ich hier erst einmal außenvor.

a) KI-Systeme für die direkte Interaktion mit natürlichen Menschen: Wer ein KI-System betreibt, das mit natürlichen Personen direkt interagiert, muss sicherstellen, dass diese darüber informiert werden, dass sie mit einem KI-System kommunizieren – sofern dies nicht ohnehin aus den Umständen offensichtlich ist. Auf die Offensichtlichkeit wird man sich jedoch nicht berufen könne, wenn das KI-System – zumindest auch – mit Einzelpersonen interagiert, die aufgrund ihres Alters oder einer Behinderung Gruppen schutzbedürftiger Personen angehören. Ein Hinweis zu Beginn der Konversation genügt grundsätzlich. Zwar liegt die Transparenzpflicht aus dem AI Act im Fall eines Chatbots erst einmal beim KI-Anbieter, aber der Anbieter kann dieser Pflicht auch dadurch entsprechen, indem er sicherstellt, dass der Betreiber die Information erteilt.

b) KI-Systeme zur Erzeugung synthetischer Audio-, Bild-, Video oder Textinhalte: Die Pflicht zur maschinenlesbaren Kennzeichnung dieser Inhalte als künstlich erzeugt oder manipuliert liegt alleine beim Anbieter. Für den Betreiber gilt danach keine generelle zusätzliche Kennzeichnungspflicht für diese Inhalte, es sei denn, dass ein Deepfake vorliegt.

c) Deepfakes. Wer Bild-, Ton- oder Videomaterial erstellt oder verändert, das realen Personen, Orten oder Ereignissen täuschend ähnlich sieht, muss offenlegen, dass der Inhalt künstlich erzeugt oder manipuliert wurde. Für die werbliche Praxis ist diese Fallgruppe von besonderer Relevanz. Zwar gilt für Deepfakes, die Teil eines offensichtlich künstlerischen, kreativen, satirischen oder fiktionalen Werks sind, eine abgeschwächte Pflicht, aber darauf wird man sich im Fall von Produktwerbung im Regelfall nicht berufen können. Die Guideline des AI Office nennt hier als ein Beispiel, dass nicht als künstlerisches Werk einzustufen ist, ein mit KI bearbeitetes Video, in dem eine realistisch wirkende synthetische Influencerin ein gesponsertes echtes Produkt testet.

d) KI-Systeme zur Erzeugung oder Manipulation von Texten zur Information der Öffentlichkeit: Diese Fallgruppe ist für das Online-Marketing zentral, weil sich an ihr entscheidet, welche mit KI erstellten Texte gekennzeichnet werden müssen und welche nicht.

Die Kennzeichnungspflicht greift nur, wenn ein veröffentlichter Text die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informiert. Beide Voraussetzungen fehlen bei den meisten Marketing-Inhalten. Werbetexte und Produktbeschreibungen sind werblich-kommerzieller Natur und kein Beitrag zu einer Angelegenheit von öffentlichem Interesse. Die Guidelines des AI Office nehmen sie ausdrücklich vom Anwendungsbereich aus. Jedoch kann Werbetext doch einer Transparenzpflicht unterliegen, wenn er nicht nur eine Produktbeschreibung, sondern auch Aussagen zu Gesundheit, Verbrauchersicherheit oder Nachhaltigkeit enthält. Hier müsste dann im Einzelfall geprüft werden, ob der Text wegen dieser Aussagen die Öffentlichkeit doch über eine Angelegenheit von öffentlichem Interesse informiert. Auch KI-generierte Einladungs- oder Veranstaltungstexte lösen keine Kennzeichnungspflicht aus, selbst wenn sie an einen großen Verteiler von mehreren tausend Empfängern gehen: Der Versand an einen geschlossenen Verteiler ist keine Veröffentlichung gegenüber der Öffentlichkeit. Gleiches gilt für Newsletter, soweit sie werblichen Charakter haben und an einen bestimmten Empfängerkreis versandt werden.

Auch die bloße KI-Unterstützung im Lektorat begründet keine Kennzeichnungspflicht. Hier verbessert die KI Stil und sprachliche Richtigkeit, erzeugt aber nicht den Inhalt; die geistige Urheberschaft bleibt beim Menschen. Und selbst dort, wo ein Text ausnahmsweise Fragen von öffentlichem Interesse berührt, entfällt die Pflicht, wenn die Inhalte einer menschlichen Überprüfung unterliegen und eine natürliche oder juristische Person die redaktionelle Verantwortung trägt.

Das Grundprinzip lautet daher: Der AI Act verlangt keine Kennzeichnung jedes von einem KI-System berührten Textes. Er fordert Transparenz dort, wo andernfalls eine Täuschung der Öffentlichkeit droht – nicht flächendeckend.

Der Hintergrund der Transparenzpflichten

Die Begründung für diese Pflichten findet sich in den Erwägungsgründen der Verordnung. Der leitende Gedanke ist, dass KI-Systeme inzwischen in der Lage sind, Menschen überzeugend nachzuahmen und Inhalte zu erzeugen, die von authentischem Material kaum noch zu unterscheiden sind. Damit wird es immer schwieriger künstlich Erzeugtes zu erkennen. Wo nicht mehr erkennbar ist, ob eine Kommunikation mit einem Menschen oder einer Maschine erfolgt und ob ein Inhalt real oder generiert ist, entstehen Risiken für das Vertrauen im Rechts- und Geschäftsverkehr sowie für die freie Meinungsbildung.

Ziel ist nicht die Einschränkung des KI-Einsatzes, sondern der Schutz der informierten Entscheidung des Einzelnen. Zugleich lassen die Erwägungsgründe erkennen, dass die Transparenz mit Augenmaß gehandhabt werden soll. Bei Inhalten, die offensichtlich künstlerischer, satirischer oder fiktionaler Natur sind, beschränkt sich die Pflicht auf einen Hinweis in einer Form, die die Wahrnehmung des Werks nicht beeinträchtigt.

Die Empfehlungen an die Betreiber von KI-Systemen

Betreiber von KI-Systemen sollten jetzt zunächst eine Bestandsaufnahme ihrer KI-Berührungspunkte vornehmen. Zu klären ist, an welchen Stellen ein System mit Kunden interagiert und wo Bilder, Videos oder Töne mithilfe von KI erzeugt werden. Chatbots und jede andere Form KI-gestützter Kundenkommunikation müssen mit einem klaren Hinweis zu Beginn der Konversation ausgestattet werden. Dort, wo die redaktionelle Ausnahme in Anspruch genommen wird, empfiehlt sich eine Dokumentation, die belegt, dass tatsächlich eine Person die inhaltliche Verantwortung trägt. Der AI Act fordert von Anbietern und Betreibern, dass diese nach besten Kräften sicherstellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ein ausreichendes Maß an KI-Kompetenz verfügen. Dies kann unter anderem durch geeignete Schulungen erfolgen. Es gilt zudem, die Mitarbeiter darauf festzulegen, dass nur vom Unternehmen freigegebene KI-Systeme eingesetzt werden.

Auch wenn manche Transparenzpflichten nach dem Wortlaut des AI Acts erst einmal nur den Anbieter eines KI-Systems treffen, kann sich der Betreiber nicht gänzlich der Verantwortung entziehen, zu prüfen, ob der Anbieter diesen auch nachkommt. Im Zweifelsfall sollte das entsprechende KI-System nicht mehr verwendet werden.

Rechtliche Konsequenzen bei fehlender Transparenz

Die Bedeutung der Einhaltung der besonderen Transparenzpflichten darf nicht unterschätzt werden. Für Verstöße gegen die Transparenzpflichten sieht die Verordnung Geldbußen von bis zu 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes vor. Wie im Fall der DSGVO werden die konkreten Bußgeldhöhen erst noch nachfolgend von den nationalen Aufsichtsbehörden festgelegt werden.

Auch die möglichen Konsequenzen für das Wettbewerbsrecht verdienen gerade im Marketing besondere Aufmerksamkeit. Es ist nicht auszuschließen, dass ein Verstoß gegen die besonderen Transparenzpflichten des AI Act zugleich einen Verstoß gegen die Normen des Gesetzes gegen den unlauteren Wettbewerb (UWG) darstellt. Wer zum Beispiel den Einsatz eines Chatbots nicht offenlegt oder verschweigt, dass es sich bei Inhalten um Deepfakes handelt, muss sich den Vorwurf gefallen lassen, dass er dem Verbraucher wesentliche Informationen vorenthält und sich einen unlauteren Vorteil verschaffen könnte. Ob die Transparenzpflichten als Marktverhaltensregelungen zu qualifizieren sind und damit die Möglichkeit einer Abmahnung durch Mitbewerber oder Verbände eröffnen, wird aktuell noch diskutiert. Die Möglichkeit besteht jedoch, sodass ein fehlender Hinweis nicht nur ein Tätigwerden der Aufsichtsbehörde, sondern auch eine wettbewerbsrechtliche Abmahnung nach sich ziehen könnte.