Wer heute einen Chatbot, einen KI-Textgenerator oder ein Bild-Tool einsetzt, muss sich ab sofort eine neue Frage stellen: Erkennen Menschen sofort, dass sie mit einer Maschine interagieren? Der EU AI Act macht diese Frage ab dem 2. August 2026 zur harten Compliance-Pflicht. Artikel 50 der Verordnung verlangt, dass Anbieter und Betreiber bestimmter KI-Systeme ihre Nutzer transparent aufklären – und KI-generierte Inhalte als solche kennzeichnen. Die Regel gilt unabhängig vom Risikograd, trifft also auch Tools, die bisher als „harmlos“ galten.

Am 2. August 2026 ist nicht nur ein Stichtag, sondern der Moment, an dem aus „Papierrecht“ ein durchsetzbares Sanktionsrecht wird. Die EU-Kommission hat am Wochenende eine Pressemitteilung veröffentlicht, in der sie die neuen Transparenzvorgaben als Meilenstein für „sichere und transparente KI“ bezeichnet. Parallel liegen die finalen Leitlinien zur Auslegung von Artikel 50 vor, die dem AI Act die nötige technische und operative Schärfe geben. Großanbieter wie OpenAI, Google, Meta und Anthropic müssen ihre Systeme entsprechend anpassen. Doch auch kleinere Unternehmen und Behörden, die Microsoft Copilot, ChatGPT Enterprise oder ähnliche Assistenten nutzen, sind als Deployer betroffen. Bei Verstößen drohen Bußgelder von bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes.

Was Artikel 50 konkret regelt

Artikel 50 des EU AI Act (Verordnung (EU) 2024/1689) ist kein allgemeiner Appell an mehr ethische KI. Er definiert vier konkrete Transparenzpflichten, die ab dem 2. August 2026 greifen. Die Pflichten richten sich je nach Kategorie entweder an Anbieter (Provider) oder an Betreiber (Deployer) von KI-Systemen. Anders als die Hochrisiko-Anforderungen aus Anhang III wurden diese Pflichten vom Digital-Omnibus-Paket nicht verschoben.

Die vier Pflichtkategorien im Überblick

Die Verordnung fordert, dass Hinweise „in klarer und unterscheidbarer Weise spätestens zum Zeitpunkt der ersten Interaktion“ erfolgen und barrierefrei zugänglich sind. Das heißt im Klartext: Ein kleiner Hinweis im Impressum reicht nicht. Die Offenlegung muss dort platziert werden, wo der Nutzer die KI tatsächlich nutzt.

Warum der Stichtag nicht verschoben wurde

Der Leitlinien der EU-Kommission betonen, dass Artikel 50 außerhalb der risikobasierten Struktur des AI Act steht. Während der Digital Omnibus die Hochrisiko-Fristen auf den 2. Dezember 2027 beziehungsweise August 2028 verschoben hat, bleiben die Transparenzpflichten für Chatbots, generative KI, Emotionserkennung und Deepfakes auf dem ursprünglichen Datum. Die einzige Nachfrist betrifft die maschinenlesbare Wasserzeichenpflicht: Hier gewährt der Omnibus eine viermonatige Übergangsfrist bis zum 2. Dezember 2026.

Welche Systeme jetzt betroffen sind

Die Pflichten knüpfen nicht am Modell selbst, sondern an der Funktion, die ein KI-System erfüllt. Das ist der entscheidende Unterschied zu den Hochrisiko-Anforderungen. Ein Unternehmen, das ChatGPT Enterprise für Kundenkommunikation nutzt, muss sich nicht plötzlich wie OpenAI verantworten. Es trägt aber die Betreiberpflichten für den konkreten Einsatz.

Chatbots und Konversations-KI

Jeder Chatbot, der direkt mit natürlichen Personen interagiert, muss offenlegen, dass es sich um eine KI handelt. Das gilt für Website-Chatbots, interne Helpdesks, Kundenservice-Assistenten und Self-Service-Portale. Auch ChatGPT, Claude oder Microsoft Copilot fallen als Anbieter-Systeme in diese Kategorie. Deployer müssen prüfen, ob die von ihnen eingesetzte Lösung die Hinweise bereits korrekt anzeigt oder ob sie ergänzt werden müssen.

Typische Einsatzszenarien in Unternehmen sind Bewerbungs-Chats, Support-Bots, interne Wissensmanagement-Assistenten oder Tools für die Vertrags-Recherche. Sobald ein Mitarbeitender oder Kunde am anderen Ende sitzt, greift die Pflicht – unabhängig von der Unternehmensgröße.

Generative Inhalte: Text, Bild, Audio, Video

Wer KI-generierte Texte, Bilder, Audio- oder Videodateien veröffentlicht, muss diese kennzeichnen. Die Regel trifft Anbieter von Generatoren wie DALL·E, Midjourney, Stable Diffusion oder Sora, aber auch Betreiber, die solche Inhalte auf ihrer Website, in Social Media oder in Marketing-Materialien verwenden. Die Kennzeichnung muss maschinenlesbar sein, also beispielsweise durch eingebettete Metadaten oder digitale Wasserzeichen.

Einige Plattformen wie KI-Tools im Alltag bieten bereits entsprechende Features. Doch die Verantwortung für die korrekte Anwendung liegt beim Deployer. Wer ein KI-generiertes Bild im Blog-Artikel oder ein KI-synthetisiertes Video in der Werbung nutzt, muss sicherstellen, dass die Kennzeichnung erhalten bleibt – auch wenn der Inhalt überarbeitet, komprimiert oder auf andere Plattformen verteilt wird.

Emotionserkennung und biometrische Kategorisierung

Systeme, die Emotionen erkennen oder Personen biometrisch kategorisieren, müssen betroffene Personen informieren. Das betrifft beispielsweise Video-Interview-Tools, die Mimik analysieren, oder Zugangssysteme, die Gesichter klassifizieren. Hier greift zusätzlich das Datenschutzrecht: Die Verarbeitung biometrischer Daten ist in der Regel als besondere Kategorie personenbezogener Daten einzustufen und erfordert eine gesonderte Rechtsgrundlage.

Deepfakes und öffentlichkeitsrelevanter KI-Text

Deepfakes – also durch KI erzeugte oder veränderte Bilder, Audio- und Videodateien, die reale Personen oder Ereignisse darstellen – müssen als solche gekennzeichnet werden. Das gilt für politische Inhalte ebenso wie für sexualisierte Deepfakes. Ab Dezember 2026 werden zudem sogenannte Nudify-Apps und KI-generierte Kinderbilder mit sexuellem Bezug verboten, wie Deutschlandfunk berichtet.

Auch KI-generierte Texte zu öffentlichen Angelegenheiten müssen offengelegt werden, es sei denn, sie unterliegen einer menschlichen redaktionellen Verantwortung. Für Newsroom-Teams und PR-Abteilungen bedeutet das: Ein von ChatGPT erstellter Pressetext muss gekennzeichnet werden, wenn er ohne menschliche Endredaktion veröffentlicht wird.

Was Unternehmen jetzt tun müssen

Die Pflichten greifen ab sofort. Unternehmen, die bislang keine KI-Governance aufgebaut haben, müssen schnell handeln. Der Aufwand ist überschaubar, wenn man systematisch vorgeht.

KI-Inventar und Risikoeinstufung erstellen

Der erste Schritt ist ein vollständiges Inventar aller eingesetzten KI-Systeme. Dazu gehören nicht nur selbst entwickelte Lösungen, sondern auch Cloud-Dienste, SaaS-Tools mit KI-Funktionen und Browser-Plugins. Für jedes System sollte dokumentiert werden:

• Welches Tool wird genutzt (z. B. Microsoft Copilot, ChatGPT Enterprise, HubSpot AI, Notion AI)?
• Wer ist Anbieter, wer Betreiber?
• Welche AI-Act-Funktion erfüllt das System (interaktiv, synthetische Inhalte, Emotionserkennung, Deepfake)?
• Welche Abteilungen und Prozesse sind betroffen?
• Welche personenbezogenen oder geschäftskritischen Daten fließen in Prompts?

Diese Dokumentation wird häufig als KI-Akte bezeichnet und ist die Basis für alle weiteren Maßnahmen. Sie hilft auch bei der Einordnung in die Software-Compliance und dient als Nachweis gegenüber Aufsichtsbehörden.

Transparenz-Regelungen implementieren

Für jedes interaktive KI-System muss eine klare Offenlegung erfolgen. Das kann ein Hinweis direkt im Chat-Fenster sein, ein Banner bei der ersten Nutzung oder ein Einwilligungsdialog. Wichtig ist, dass der Hinweis:

• vor der ersten Interaktion erfolgt,
• in einfacher Sprache formuliert ist,
• barrierefrei zugänglich ist,
• nicht nur in den AGB, sondern am Point of Interaction sichtbar ist.

Für synthetische Inhalte muss zusätzlich eine maschinenlesbare Kennzeichnung aktiviert werden. Viele Anbieter bieten inzwischen Wasserzeichen oder C2PA-Metadaten an. Doch diese technischen Lösungen haben Grenzen: Die Cloud Security Alliance weist darauf hin, dass Wasserzeichen kostengünstig ausgetrickst werden können. Ein akademisches Paper zeigte, dass Wasserzeichen aus KI-generierten Texten für weniger als 50 US-Dollar Angriffskosten entfernt oder sogar auf menschliche Texte übertragen werden können.

KI-Kompetenz der Mitarbeitenden sicherstellen

Artikel 4 des AI Act verlangt, dass Mitarbeitende, die mit KI arbeiten, über Chancen, Grenzen und Risiken informiert werden. Diese Pflicht gilt bereits seit Februar 2025. Ab August 2026 wird sie Teil der Prüfkriterien bei Durchsetzungsmaßnahmen. Unternehmen sollten Schulungen dokumentieren, inklusive Datum, Teilnehmende und Inhalt. Eine interne KI-Nutzungsrichtlinie sollte zudem festlegen, welche Tools erlaubt sind, welche Daten nicht in Prompts eingefügt werden dürfen und wie menschliche Aufsicht gewährleistet wird.

Auftragsverarbeitung und Datenschutz prüfen

Wer KI-Dienste von Drittanbietern nutzt, muss prüfen, ob ein Auftragsverarbeitungsvertrag (AVV) vorliegt und ob sensible Daten in die Prompts gelangen. Besonders bei der Nutzung öffentlicher KI-Services wie dem Standard-ChatGPT besteht die Gefahr, dass Geschäftsgeheimnisse oder personenbezogene Daten in die Trainingsdaten des Anbieters fließen. Unternehmen sollten daher Enterprise-Versionen mit DPA und Zero-Retention-Optionen bevorzugen.

Technische Umsetzung: Wasserzeichen, Metadaten und C2PA

Artikel 50 verlangt, dass KI-generierte Inhalte „maschinenlesbar und als künstlich erzeugt oder manipuliert erkennbar“ gekennzeichnet werden. Die Formulierung „soweit technisch zumutbar“ gibt Anbietern Spielraum, setzt aber gleichzeitig voraus, dass der aktuelle Stand der Technik berücksichtigt wird.

Wasserzeichen im Spannungsfeld

Text-Wasserzeichen sind statistische Muster, die in die Token-Wahrscheinlichkeiten eingebettet werden. Bild-Wasserzeichen wie Google SynthID verändern Pixel in für Menschen unsichtbarer Weise. Beide Verfahren haben einen gemeinsamen Schwachpunkt: Sie können bei Komprimierung, Übersetzung, Paraphrasierung oder Screenshots verloren gehen. Die CSA zitiert ein öffentlich verfügbares Tool, das SynthID auf aktuellen Gemini-Bildern aushebelt.

Das bedeutet nicht, dass Wasserzeichen nutzlos sind. Aber Unternehmen dürfen sie nicht als alleinigen Compliance-Nachweis betrachten. Eine solide Strategie kombiniert mehrere Ebenen: sichtbare Hinweise, maschinenlesbare Metadaten, Wasserzeichen wo verfügbar und interne Prozesse zur menschlichen Überprüfung.

C2PA und Content Credentials

Ein vielversprechender Ansatz sind C2PA Content Credentials. Diese speichern Herkunft und Bearbeitungsschritte in kryptografisch signierten Manifesten. Adobe, Microsoft und mehrere Kamerahersteller unterstützen den Standard bereits. Für Unternehmen bietet C2PA den Vorteil, dass die Herkunft eines Inhalts über mehrere Plattformen und Bearbeitungsschritte hinweg nachvollziehbar bleibt – zumindest theoretisch. In der Praxis fehlt noch die flächendeckende Unterstützung durch soziale Netzwerke und Content-Management-Systeme.

EU-Ikonen für KI-Inhalte

Die EU-Kommission hat ein freiwilliges Icon-Set veröffentlicht, das KI-generierte, KI-veränderte und allgemein KI-beteiligte Inhalte kennzeichnen soll. Das Set ist optional, dient aber als Orientierung für die sichtbare Offenlegung. Unternehmen können die Icons als Basis nutzen, sollten aber zusätzlich eigene klare Hinweise in der Sprache ihrer Zielgruppe ergänzen.

Bußgelder, Sanktionen und Durchsetzung

Der AI Act kennt ein gestuftes Bußgeldsystem. Bei Verstößen gegen Artikel 50 drohen bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist. Die Beweislast liegt beim Unternehmen: Es muss nachweisen, dass es die Offenlegungspflichten rechtzeitig und ordnungsgemäß erfüllt hat. Die nationale Marktüberwachung ist zuständig für die Durchsetzung – in Deutschland liegt diese Rolle beim Bundesamt für Sicherheit in der Informationstechnik (BSI) und weiteren zuständigen Behörden.

Was „nachweisbar“ bedeutet

Ein rein mündlicher Hinweis oder eine undokumentierte Konfiguration reichen nicht. Unternehmen sollten folgende Nachweise bereithalten:

• Screenshots oder Code-Snippets der Interaktions-Hinweise
• Dokumentation der Wasserzeichen- oder Metadaten-Konfiguration
• Schulungsnachweise für Mitarbeitende
• AVV und Datenschutz-Folgenabschätzungen für eingesetzte KI-Dienste
• Entscheidungsprotokolle zur Auswahl der Kennzeichnungstechnologie

Genau diese Dokumentation ist es, die im Fall einer Prüfung den Unterschied zwischen einem verschmerzbaren Hinweis und einem teuren Verstoß ausmacht. Die Juristische Einordnung betont, dass die Behörden den Nachweis der rechtzeitigen Offenbarung vom Unternehmen verlangen, nicht umgekehrt.

Extraterritoriale Reichweite

Der AI Act gilt für alle KI-Systeme, die auf dem EU-Markt in Verkehr gebracht oder eingesetzt werden. Auch Anbieter außerhalb der EU müssen die Regeln einhalten, wenn ihre Produkte EU-Nutzer erreichen. Das betrifft US-amerikanische Anbieter genauso wie asiatische KI-Startups. Umgekehrt erreichen EU-Nutzer aber auch Inhalte aus Drittländern, die nicht gekennzeichnet sind. Hier bleibt die Erkennung ein offenes Problem – ein weiterer Grund für Unternehmen, ihre eigenen Inhalte konsequent zu kennzeichnen.

Praxisbeispiel: Ein Mittelständler nutzt Copilot

Stellen Sie sich ein mittelständisches Beratungsunternehmen vor. Die Mitarbeitenden nutzen Microsoft 365 Copilot für E-Mail-Entwürfe, Zusammenfassungen von Besprechungen und die Recherche in internen Dokumenten. Die Geschäftsführung glaubt, der AI Act betreffe nur OpenAI und Google.

Falsch. Das Unternehmen ist Deployer eines interaktiven KI-Systems. Es muss sicherstellen, dass Kunden und Mitarbeitende erkennen, wenn eine E-Mail oder ein Textvorschlag KI-generiert ist. Zudem müssen KI-generierte Inhalte in Marketing-Materialien gekennzeichnet werden. Schließlich braucht es eine KI-Nutzungsrichtlinie, die regelt, dass keine Kundendaten ungeprüft in Copilot-Prompts eingefügt werden.

Der erste Schritt ist ein einfaches Inventar. Welche Abteilungen nutzen welche KI-Tools? Welche Daten fließen ein? Wer prüft Outputs vor der Veröffentlichung? Diese Übersicht allein zeigt oft überraschend viele Stellen, an denen KI bereits im Alltag eingebettet ist – ohne dass jemand darüber nachgedacht hat.

Fazit und Ausblick

Der EU AI Act hat mit dem 2. August 2026 einen neuen Reifegrad erreicht. Artikel 50 ist keine Zukunftsmusik mehr, sondern eine sofort geltende Pflicht. Unternehmen müssen wissen, welche KI-Systeme sie nutzen, wer Anbieter und wer Betreiber ist, und wie sie Transparenz und maschinenlesbare Kennzeichnung umsetzen. Die gute Nachricht: Wer heute systematisch ein Inventar erstellt, interne Richtlinien definiert und die technischen Kennzeichnungsoptionen prüft, ist besser aufgestellt als 90 Prozent der Mitbewerber.

Die schlechte Nachricht: Die technische Lösung ist noch nicht ausgereift. Wasserzeichen lassen sich aushebeln, Metadaten gehen bei der Verbreitung verloren, und C2PA ist noch nicht flächendeckend verbreitet. Unternehmen brauchen daher eine mehrschichtige Strategie aus sichtbaren Hinweisen, maschinenlesbaren Signalen und menschlicher Aufsicht. Wer das versteht, behandelt Artikel 50 nicht als reinen Compliance-Checkbox, sondern als Bestandteil einer verantwortungsvollen KI-Governance.