Digital Omnibus zum AI Act: was sich ändert – und was nicht

Kapitel III Abschnitte 1 bis 3 der KI-Verordnung – Einstufung, Anforderungen an Hochrisiko-Systeme sowie die Pflichten von Anbietern, Betreibern und anderen Akteuren – gelten für Anhang-III-Systeme ab dem 2. Dezember 2027 und für Anhang-I-Systeme ab dem 2. August 2028. Damit verschieben sich auch die Betreiberpflichten aus Art. 26, etwa die Aufbewahrung der Protokolle für mindestens sechs Monate und die vorherige Information der Arbeitnehmervertreter.

Praktisch wichtig ist die Regel für Bestandssysteme (Art. 111 Abs. 2): Was vor dem Geltungsbeginn in Verkehr gebracht oder in Betrieb genommen wird, fällt nur dann unter die Hochrisiko-Pflichten, wenn es danach erheblich in seiner Konzeption verändert wird. Für Systeme, die Behörden nutzen sollen, gilt unabhängig davon der 2. August 2030. Empfehlung: Halten Sie Inbetriebnahmedatum und spätere Änderungen je System fest – nur so lässt sich später zeigen, ob ein System Bestandsschutz genießt.

Bisher mussten Anbieter und Betreiber Maßnahmen ergreifen, um „nach besten Kräften sicherzustellen“, dass ihr Personal über ein ausreichendes Maß an KI-Kompetenz verfügt. Die neue Fassung verlangt Maßnahmen, um die Entwicklung der KI-Kompetenz zu unterstützen – unter Berücksichtigung von Vorwissen, Erfahrung, Ausbildung und Einsatzkontext. Neu sind Abs. 2 und 3: Kommission und Mitgliedstaaten fördern die Umsetzung, die Kommission veröffentlicht praktische Beispiele, das KI-Gremium gibt Empfehlungen.

Die Pflicht ist also nicht entfallen, sie ist weicher formuliert. Die KI-VO selbst sieht für Art. 4 keinen eigenen Bußgeldrahmen vor (Art. 99 Abs. 4). Seit dem Digital-Omnibus (VO (EU) 2026/1744) können die Mitgliedstaaten aber jeden Verstoß sanktionieren (Art. 99 Abs. 1 n. F.); in Deutschland ist Art. 4 derzeit nicht bußgeldbewehrt (§ 15 KI-MIG). Empfehlung: Schulungen, Leitfäden und Freigaberegeln weiter dokumentieren – das ist der einfachste Beleg, dass Sie Maßnahmen ergriffen haben, und für Hochrisiko-Betreiber ohnehin nötig, weil die menschliche Aufsicht kompetenten Personen übertragen werden muss (Art. 26 Abs. 2).

Ab dem 2. Dezember 2026 sind KI-Systeme verboten, die realistische Bild-, Video- oder Toninhalte erzeugen oder manipulieren, in denen intime Körperteile oder eindeutig sexuelle Handlungen einer bestimmbaren Person ohne deren freie, spezifische Einwilligung dargestellt werden (lit. ba). Ebenso verboten sind Systeme, die Darstellungen sexuellen Kindesmissbrauchs im Sinne der Richtlinie 2011/93/EU erzeugen oder manipulieren (lit. bb).

Abs. 1a grenzt ab: Für Anbieter gilt das Verbot, wenn solche Inhalte der Zweck des Systems sind oder nach Gestaltung und Funktionen ein absehbares, reproduzierbares Ergebnis ohne erhebliche technische Änderungen – und das System keine zumutbaren Schutzvorkehrungen hat. Für Betreiber gilt es, wenn sie das System gezielt für solche Inhalte verwenden. Empfehlung für Anbieter generativer KI: Filter und Missbrauchsschutz bis Dezember dokumentieren.

Die Transparenzpflichten gelten wie ursprünglich vorgesehen seit dem 2. August 2026: Hinweis bei direkter Interaktion mit KI (Abs. 1), maschinenlesbare Markierung synthetischer Inhalte (Abs. 2), Information bei Emotionserkennung und biometrischer Kategorisierung (Abs. 3), Offenlegung von Deepfakes (Abs. 4).

Der Omnibus ergänzt nur einen Übergang: Generative Systeme, die vor dem 2. August 2026 in Verkehr gebracht wurden, haben für die Markierung nach Abs. 2 bis zum 2. Dezember 2026 Zeit. Außerdem wurde Abs. 7 zu den Praxisleitfäden neu gefasst. Der Praxisleitfaden zur Kennzeichnung KI-generierter Inhalte ist seit dem 10. Juni 2026 final; er ist freiwillig.

Neu definiert sind „KMU“ (Empfehlung 2003/361/EG) und „kleines Midcap-Unternehmen“ (Empfehlung (EU) 2025/1099). Kleine Midcaps sind Unternehmen, die über die KMU-Schwellen hinausgewachsen, aber noch nicht groß sind; die genauen Schwellenwerte stehen in der Empfehlung.

Beide Gruppen dürfen die technische Dokumentation über ein vereinfachtes Formular der Kommission bereitstellen (Art. 11), das QMS verhältnismäßig umsetzen (Art. 17 Abs. 2) und profitieren bei Bußgeldern vom jeweils niedrigeren Betrag (Art. 99 Abs. 6 und 6a). KMU ohne Partner- oder verbundene Unternehmen dürfen bestimmte QMS-Elemente vereinfacht erfüllen (Art. 63). Das Schutzniveau sinkt dadurch nicht – vereinfacht wird die Form, nicht die Anforderung.

Der neue Art. 4a erlaubt Anbietern von Hochrisiko-KI ausnahmsweise, besondere Kategorien personenbezogener Daten zu verarbeiten, um Verzerrungen zu erkennen und zu korrigieren. Abs. 2 öffnet das unter denselben Bedingungen auch für Anbieter und Betreiber anderer KI-Systeme und -Modelle sowie für Betreiber von Hochrisiko-KI, wenn es um Verzerrungen mit Folgen für Gesundheit, Sicherheit, Grundrechte oder verbotene Diskriminierung geht – eine Pflicht zur Bias-Prüfung entsteht dadurch nicht.

Die Bedingungen sind streng: nicht mit anderen, auch synthetischen oder anonymisierten Daten machbar; Pseudonymisierung und Beschränkung der Weiterverwendung; strenge, dokumentierte Zugriffskontrolle; keine Übermittlung an Dritte; Löschung nach Korrektur oder Fristende; Begründung im Verzeichnis von Verarbeitungstätigkeiten. Art. 2 Abs. 7 stellt klar, dass die DSGVO im Übrigen unberührt bleibt.

Betreiber, die eine Grundrechte-Folgenabschätzung durchführen müssen – öffentliche Stellen, private Einrichtungen, die öffentliche Dienste erbringen, und Betreiber von Systemen nach Anhang III Nr. 5 lit. b und c –, können für bereits durch eine DSFA erfüllte Pflichten auf die einschlägigen Abschnitte der DSFA verweisen.

Bisher hieß es nur, die GRFA „ergänzt“ die DSFA. Der Muster-Fragebogen des KI-Büros, auch als automatisiertes Instrument, soll künftig ausdrücklich die Möglichkeit bieten, solche Verweise aufzunehmen. Empfehlung: DSFA und GRFA in einem gemeinsamen Ablauf führen, damit Verweise sauber nachvollziehbar sind.

Für KI-Systeme, die auf einem KI-Modell mit allgemeinem Verwendungszweck beruhen, wenn Modell und System vom selben Anbieter oder derselben Unternehmensgruppe stammen, ist künftig ausschließlich das Büro für Künstliche Intelligenz zuständig. Gleiches gilt für KI-Systeme, die eine sehr große Online-Plattform oder Suchmaschine nach dem Digital Services Act bilden oder darin integriert sind. Ausgenommen sind u. a. Produkt-KI nach Anhang I und Systeme nach Anhang III Nr. 2.

Das KI-Büro erhält eigene Befugnisse: Auskunftsersuchen, Inspektionen, verbindliche Verpflichtungszusagen, Geldbußen nach Art. 99 und Zwangsgelder von bis zu 5 % der durchschnittlichen Tageseinnahmen je Tag. Für Betreiber gilt die Zuständigkeit nur, wenn sie zugleich Anbieter sind oder zur Unternehmensgruppe des Anbieters gehören.