Artikel 50 des EU AI Act: Was KI-Agenten offenlegen müssen

Am 20. Juli 2026 verabschiedete die Europäische Kommission ihre finalen Leitlinien zu den Transparenzpflichten aus Artikel 50 des EU AI Act. Diese Pflichten gelten ab dem 2. August 2026, also dreizehn Tage später. Ein Agent, der mit Menschen spricht, Inhalte generiert oder Texte veröffentlicht, kann nach Artikel 50 mindestens eine von fünf Offenlegungspflichten auslösen. Die Leitlinien beschreiben erstmals detailliert, wie deren Erfüllung aussehen soll.

In der Praxis stellt sich die Frage, welche Pflicht für welche Art von Agenten gilt, wo Ausnahmen enger sind als sie scheinen und welche Aufgaben die eigene Anwendung statt der darunterliegenden Plattform übernehmen muss. Einen Überblick über die Risikoklassen und den Zeitplan für Hochrisikosysteme bietet unser Leitfaden zur Compliance mit dem EU AI Act für KI-Agenten .

Was die Kommission am 20. Juli veröffentlicht hat

Das Paket erklärt, wie die Kommission Artikel 50 auslegt, ohne dessen Wortlaut zu ändern. Zusammen mit den Leitlinien veröffentlichte sie eine Mitteilung, die deren Inhalt billigt, ein öffentliches FAQ zu den Pflichten aus Artikel 50 und ein kurzes Factsheet. Ziel ist eine einheitliche Auslegung derselben Regeln in allen Mitgliedstaaten, damit Menschen erkennen können, wann sie mit einem KI-System interagieren und wann Inhalte von einem solchen System generiert oder verändert wurden.

Nichts davon ist bindend. Nur der Gerichtshof der Europäischen Union kann die Verordnung verbindlich auslegen. Die Leitlinien dienen nationalen Marktüberwachungsbehörden und dem AI Office jedoch als Referenz. Damit bilden sie den besten verfügbaren Hinweis darauf, wie diese Behörden den Text ab August auslegen werden.

Der finale Text bestätigt außerdem, dass die Kommission den Code of Practice on Transparency of AI-Generated Content als angemessen bewertet hat. Der Code wurde am 10. Juni 2026 vom AI Office veröffentlicht; seine Anwendung ist freiwillig. Eine Unterzeichnung kann die Konformität mit den Kennzeichnungspflichten belegen, begründet aber keine formale rechtliche Vermutung, dass sie erfüllt sind. Ein Verzicht darauf ist nicht automatisch falsch. Der Anbieter muss dann jedoch vollständig belegen, dass die gewählte Kennzeichnung ausreicht.

Weiterführende Quellen: AI Omnibus (EU-Kommission), Leitlinien zu den Transparenzpflichten aus Artikel 50, Leitfaden zur Compliance mit dem EU AI Act für KI-Agenten.

Die fünf Offenlegungspflichten

Artikel 50 enthält fünf eigenständige Pflichten, aufgeteilt auf die Rollen Anbieter und Betreiber. Ein einzelnes System kann mehrere davon gleichzeitig auslösen.

Artikel 50(5) regelt, wie all diese Hinweise erfolgen müssen: klar und unterscheidbar, spätestens bei der ersten Interaktion oder Exposition und in einer Form, die Anforderungen an Barrierefreiheit erfüllt. Für Deepfakes stellen die Leitlinien klar, dass eine rein maschinenlesbare Kennzeichnung nicht genügt. Eine Person muss den Hinweis wahrnehmen können.

Die Pflicht, die die meisten Teams mit Agenten betrifft

Die Leitlinien nennen vier kumulative Kriterien dafür, ob ein System direkt mit einer natürlichen Person interagiert. Alle vier müssen erfüllt sein:

• 1.Das System gilt nach der Verordnung als KI-System
• 2.Es findet ein echter Austausch in beide Richtungen statt, nicht nur Datenerhebung bei der Person
• 3.Die KI kommuniziert selbst mit der Person, nicht über einen menschlichen Vermittler
• 4.Die Gegenpartei ist eine natürliche Person

Damit lässt sich eine typische Agentenlandschaft sinnvoll abgrenzen. Ein Agent, der Kunden über die Telegram-Verbindung antwortet, aus einem gemeinsamen Postfach über die E-Mail-Verbindung reagiert oder per WebSocket-Sitzung in ein Support-Widget streamt, fällt eindeutig in den Anwendungsbereich. Ein Agent, der ein Kafka-Topic verarbeitet, Datensätze anreichert und nach Postgres schreibt, dagegen nicht: Am anderen Ende des Austauschs steht keine natürliche Person. Hintergrundsysteme und Kommunikation zwischen Maschinen sind ausgenommen.

Die Pflicht trifft den Anbieter, also denjenigen, der das System entwickelt und unter eigenem Namen in Verkehr bringt oder in Betrieb nimmt. Ein Unternehmen, das einen Agenten entwickelt und seinen Kunden anbietet, ist der Anbieter. Weil die Pflicht bereits bei der Entwicklung greift, muss die Offenlegung im System verankert sein und nicht erst zur Laufzeit bedacht werden.

Die Ausnahmen sind enger, als sie scheinen

Wann ein KI-Hinweis entfallen darf, muss rechtlich geprüft werden

Artikel 50(1) gilt nicht, wenn für die Person offensichtlich ist, dass sie mit einer KI interagiert. Die Leitlinien messen dies an einer hypothetischen Durchschnittsperson, die angemessen gut informiert, aufmerksam und umsichtig ist. Angesichts der zentralen Rolle von Transparenz in der Verordnung legen sie die Ausnahme eng aus. Intern davon überzeugt zu sein, dass jeder das Support-Widget als Bot erkennt, ist etwas anderes, als es anhand dieses Maßstabs zu prüfen und das Ergebnis zu dokumentieren. Eine Behörde wird den schriftlichen Nachweis verlangen.

Redaktionelle Kontrolle bedeutet, dass es tatsächlich jemand gelesen hat

Die Pflicht für Texte von öffentlichem Interesse entfällt, wenn der Inhalt einer menschlichen Prüfung oder redaktionellen Kontrolle unterzogen wurde. Die Leitlinien verstehen darunter eine bewusste inhaltliche Prüfung durch eine oder mehrere natürliche Personen mit einschlägigem Wissen sowie eine Person oder Organisation, die den Inhalt aus inhaltlichen Gründen genehmigen, ändern oder ablehnen kann und redaktionelle Verantwortung für die Veröffentlichung trägt. Eine Rechtschreibprüfung oder ein flüchtiger Blick genügen nicht.

Für Teams, die Agenten zur Erstellung von Inhalten bereitstellen, ist dies die relevanteste Ausnahme und zugleich eine Frage des Nachweises. Wer sich darauf beruft, muss zeigen können, wer welchen Inhalt wann geprüft hat und mit welcher Befugnis zur Ablehnung.

Für die Kennzeichnung gibt es echte technische Ausnahmen

Artikel 50(2) erfasst keine Systeme mit unterstützender Funktion, die Eingabedaten nicht wesentlich verändern. Die Leitlinien ergänzen weitere Ausnahmen für kurze Symbolfolgen, Quellcode, Ausgaben für die Kommunikation zwischen Maschinen und geschlossene Entwicklungsumgebungen. Offenkundig künstlerische, satirische oder fiktionale Werke unterliegen einer reduzierten Deepfake-Pflicht: Der Hinweis muss vorhanden sein, darf Darstellung oder Genuss des Werks jedoch nicht beeinträchtigen.

Die entscheidenden Termine

Die Rückwirkung unterscheidet sich je nach Modalität und wird leicht verwechselt. Bilder, Audio und Video, die vor dem 2. August 2026 generiert oder manipuliert wurden, müssen nicht rückwirkend gekennzeichnet werden. Für Text gilt das Gegenteil: Text, der vor dem 2. August generiert, aber an oder nach diesem Datum veröffentlicht wurde, muss gekennzeichnet werden, sofern nicht die Ausnahme für redaktionelle Kontrolle greift. Auf dieser Grundlage sollten geplante Inhaltswarteschlangen und dauerhaft genutzte Inhaltsbibliotheken geprüft werden.

Wer Inhalte bei Bring Your Own Key kennzeichnet

Artikel 50(2) verpflichtet den Anbieter des generativen Systems. Die zugrunde liegenden technischen Erwartungen greifen dort, wo Inhalte entstehen: kryptografisch signierte Herkunftsmetadaten, nicht wahrnehmbare Wasserzeichen, die Formatkonvertierungen überstehen, und ergänzende Fingerabdruckregister. Der Code of Practice stellt klar, dass derzeit keine einzelne Technik alle vier genannten Qualitätskriterien erfüllt: Wirksamkeit, Interoperabilität, Robustheit und Zuverlässigkeit. Er lenkt Anbieter daher zu mehrschichtigen Ansätzen statt zu einem einzigen Mechanismus.

Das verändert die Einordnung der Pflichten bei Connic. Bei BYOK ist die anbieterseitige Kennzeichnung eine Eigenschaft des gewählten KI-Modell-Dienstes. Bei einem connic/*-KI-Modell stellt Connic den verwalteten Inferenz-Pfad bereit und dokumentiert die zugrunde liegenden anbieterseitigen Kontrollen. In beiden Fällen müssen auch in der Anwendung eigene Transparenzpflichten gegenüber den Nutzern erfüllt werden. Anbieternachweise können die Dokumentation stützen; die Verantwortung übertragen sie nicht.

Artikel 50 in einen operativen Nachweis überführen

Offenlegungspflichten scheitern bei Audits auf vorhersehbare Weise: Das Banner existiert, die Kennzeichnung ist vorhanden, aber niemand kann einen datierten Nachweis vorlegen, welches System auf welcher Grundlage welcher Pflicht unterliegt und ob der Hinweis die vorgesehene Person erreicht hat. Dieser Nachweis wird in Connic KI-Governance geführt, einer Enterprise-Funktion. Sie dient der Dokumentation und den Nachweisen, nicht der Durchsetzung; ihr Umfang ist jeweils auf ein Projekt begrenzt. Der vollständige Ablauf steht in der KI-Governance-Referenz.

Freigaben dokumentieren die redaktionelle Kontrolle

Für die Ausnahme aufgrund menschlicher Prüfung bei Texten von öffentlichem Interesse verlangen die Leitlinien eine inhaltliche Prüfung durch eine Person, die den Inhalt ablehnen kann. Genau das ermöglicht eine Freigaberegel vor der Veröffentlichung und erfasst den Inhalt, die benannte prüfende Person, die Entscheidung und den Zeitpunkt. Zusammen mit dem Trace hinter jeder Ausführung lässt sich die Anwendbarkeit der Ausnahme belegen, statt sie nur zu behaupten.

Wo die Vorbereitung vor dem 2. August beginnt

• 1.Jeden Agenten auflisten, dessen Ausgabe eine natürliche Person erreicht, und den jeweiligen Auslieferungskanal notieren. Diese Liste definiert den Anwendungsbereich für Artikel 50(1)
• 2.Für jeden Agenten die Rolle der Organisation bestimmen. Wer ihn entwickelt und anbietet, ist in der Regel Anbieter; wer das System eines anderen in eigener Verantwortung nutzt, ist Betreiber. Beide Rollen können zugleich gelten
• 3.Den Hinweistext für jede unterstützte Sprache verfassen und so platzieren, dass er spätestens beim ersten Austausch erscheint, nicht erst auf einer Einstellungsseite oder im Footer
• 4.Für KI-generierte Texte zu Themen von öffentlichem Interesse bewusst zwischen Kennzeichnung und echter redaktioneller Prüfung entscheiden und anschließend den passenden Nachweispfad aufbauen
• 5.Beim KI-Modell-Anbieter erfragen, welche Kennzeichnung er auf generierte Medien anwendet und wie sie erkannt werden kann. Die Antwort als Nachweis des vorgelagerten Anbieters erfassen

Wie unsere Kontrollen zur umfassenderen Verordnung passen, beschreibt die Plattformerklärung zum EU AI Act. Nichts davon ist Rechtsberatung, und eine vorläufige Bewertung ist keine Klassifizierung: Die endgültige Entscheidung über die Pflichten liegt bei der Organisation und ihrer Rechtsberatung.