KI-Kennzeichnungs­pflicht nach Art. 50 KI-VO

Anbieter müssen KI-Systeme, die für die direkte Interaktion mit natürlichen Personen bestimmt sind, so konzipieren und entwickeln, dass die betroffenen Personen informiert werden, dass sie mit einem KI-System interagieren. Das betrifft klassische Website-Chatbots ebenso wie Sprachassistenten am Telefon, KI-Avatare in Videocalls oder KI-Agenten, die E-Mails beantworten.

Die Pflicht entfällt nur, wenn es aus Sicht einer angemessen informierten, aufmerksamen und verständigen Person aufgrund der Umstände und des Nutzungskontexts offensichtlich ist. Das ist eine Ausnahme mit Augenmaß: Ein Sprachassistent mit natürlicher Stimme ist für viele Menschen gerade nicht offensichtlich als KI erkennbar. Für Systeme, die gesetzlich zur Strafverfolgung zugelassen sind, gelten Sonderregeln.

Wichtig ist der Zeitpunkt: Der Hinweis muss spätestens bei der ersten Interaktion erfolgen (Abs. 5). Ein Satz im Impressum oder in den AGB reicht dafür nicht. In der Praxis bewährt sich eine Kombination aus Begrüßungstext und dauerhaftem Label im Chatfenster, damit der Hinweis auch bei späterem Einstieg in den Verlauf sichtbar bleibt.

Anbieter von KI-Systemen – einschließlich KI-Systemen mit allgemeinem Verwendungszweck –, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, müssen sicherstellen, dass die Ausgaben in einem maschinenlesbaren Format markiert und als künstlich erzeugt oder manipuliert erkennbar sind. Diese Pflicht richtet sich an die Hersteller generativer KI, nicht an die Unternehmen, die damit Bilder oder Texte erstellen.

Die technischen Lösungen müssen wirksam, interoperabel, robust und zuverlässig sein, soweit das technisch möglich ist. Dabei sind die Besonderheiten der Inhaltsarten, die Kosten der Umsetzung und der allgemein anerkannte Stand der Technik zu berücksichtigen. In der Praxis werden mehrere Techniken kombiniert, etwa Metadaten, unsichtbare Wasserzeichen und Protokollierung, weil jede für sich leicht verloren gehen kann – Metadaten zum Beispiel beim Hochladen auf viele Plattformen.

Ausgenommen sind Systeme, die nur eine unterstützende Funktion bei der Standardbearbeitung haben oder die vom Betreiber bereitgestellten Eingabedaten oder deren Semantik nicht wesentlich verändern, sowie gesetzlich zugelassene Systeme zur Strafverfolgung. Für Systeme, die vor dem 2. August 2026 in Verkehr gebracht wurden, gilt nach dem Digital Omnibus eine Übergangsfrist bis 2. Dezember 2026.

Betreiber eines KI-Systems, das Bild-, Audio- oder Videoinhalte erzeugt oder manipuliert, die ein Deepfake sind, müssen offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden. Ein Deepfake ist ein Inhalt, der wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen merklich ähnelt und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würde.

Typische Fälle in Unternehmen: ein fotorealistisches Bild eines „Kunden“, der nie existiert hat, ein Video, in dem die Geschäftsführerin per Stimmklon eine Botschaft in fremden Sprachen spricht, oder ein Produktfoto in einer Umgebung, die es so nicht gibt. Die Pflicht ist nicht auf Veröffentlichungen beschränkt – auch ein internes Schulungsvideo mit synthetischem Sprecher fällt darunter, wenn es fälschlich als echt erscheinen könnte.

Ist der Inhalt Teil eines offensichtlich künstlerischen, kreativen, satirischen, fiktionalen oder analogen Werks, beschränkt sich die Pflicht auf eine Offenlegung in angemessener Weise, die Darstellung und Genuss des Werks nicht beeinträchtigt. Die Leitlinien der Kommission legen diese Ausnahme eng aus. Außerdem betonen sie: Wenn absehbar ist, dass Menschen einen Inhalt nicht von Anfang an wahrnehmen – etwa bei Videos, in die man mittendrin einsteigt –, reicht ein einmaliger Hinweis zu Beginn nicht.

Betreiber eines KI-Systems, das Text erzeugt oder manipuliert, der veröffentlicht wird, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, müssen offenlegen, dass der Text künstlich erzeugt oder manipuliert wurde. Gemeint sind etwa Nachrichten, Berichte über Politik, Gesundheit, Wirtschaft oder öffentliche Sicherheit – auch auf Unternehmensseiten, wenn sie solche Themen informierend aufgreifen.

Die wichtigste Ausnahme: Die Pflicht entfällt, wenn der KI-Text einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurde und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung trägt. Für Pressestellen und Redaktionen mit klarem Freigabeprozess ist das der Normalfall. Kritisch sind dagegen automatisiert veröffentlichte Texte, etwa KI-generierte Marktberichte oder Newsfeeds ohne Prüfung.

Werbetexte, Produktbeschreibungen und interne Dokumente fallen in der Regel nicht unter diese Pflicht, weil sie nicht der Information der Öffentlichkeit über Angelegenheiten von öffentlichem Interesse dienen. Die Grenze kann aber verschwimmen – etwa bei einem Unternehmensblog über Gesundheitsthemen. Im Zweifel hilft ein kurzer, freiwilliger Hinweis oder ein dokumentierter Redaktionsprozess.

Betreiber eines Emotionserkennungssystems oder eines Systems zur biometrischen Kategorisierung müssen die davon betroffenen natürlichen Personen über den Betrieb des Systems informieren. Zusätzlich verlangt die Vorschrift ausdrücklich, dass personenbezogene Daten im Einklang mit der DSGVO und den weiteren Datenschutzregeln verarbeitet werden.

Bevor es um Hinweistexte geht, steht eine andere Frage: Ist der Einsatz überhaupt erlaubt? Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen ist nach Art. 5 Abs. 1 lit. f KI-VO grundsätzlich verboten, Ausnahmen gibt es nur aus medizinischen oder Sicherheitsgründen. Das betrifft auch Funktionen in Meeting-Tools oder Callcenter-Software, die die „Stimmung“ von Beschäftigten auswerten. Auch bestimmte Formen der biometrischen Kategorisierung sind verboten.

Wo der Einsatz zulässig ist – etwa in der Marktforschung mit Einwilligung oder bei Müdigkeitserkennung im Fahrzeug –, muss der Hinweis vor bzw. spätestens bei Beginn der Erfassung erfolgen und für alle Betroffenen wahrnehmbar sein, auch für Menschen mit Behinderungen. Da biometrische Daten betroffen sein können, gehört eine Datenschutz-Folgenabschätzung in der Regel dazu.