Hochrisiko-KI nach Anhang III EU AI Act
Fällt Ihr KI-System unter Anhang III des EU AI Acts, gelten umfangreiche Pflichten: technische Dokumentation, Konformitätsbewertung, Registrierung und laufende Überwachung. Prüfen Sie hier, ob Ihr System betroffen ist.
Was macht ein KI-System zum Hochrisikosystem?
Ein KI-System gilt als Hochrisiko, wenn es in einem der in Anhang III genannten Bereiche eingesetzt wird UND wesentlichen Einfluss auf Entscheidungen hat, die die Rechte oder Sicherheit von Personen betreffen. Zusätzlich müssen KI-Systeme, die als Sicherheitskomponenten von Produkten dienen, denselben Anforderungen genügen.
Die 8 Kategorien nach Anhang III
1. Biometrische Identifizierung
Gesichtserkennung, Fingerabdrucksysteme, Emotionserkennung, biometrische Kategorisierung nach Rasse, politischer Meinung oder sexueller Orientierung
2. Kritische Infrastruktur
Managementsysteme für Energie, Wasser, Abfall, Verkehr, digitale Infrastruktur und Finanzmärkte
3. Allgemeine und berufliche Bildung
Zugangsentscheidungen zu Bildungseinrichtungen, Prüfungsbewertung, Lernstandserfassung, Kompetenzbewertung
4. Beschäftigung und Personalmanagement
Bewerbungsauswahl, Leistungsbewertung, Beförderungsentscheidungen, Kündigungs- und Aufgabenverteilungssysteme
5. Wesentliche Dienstleistungen
Kreditwürdigkeitsbewertung, Sozialleistungsentscheidungen, Notfalldienste-Einsatzsteuerung, Krankenversicherungseinstufung
6. Strafverfolgung
Risikobeurteilung für Straftaten, Lügendetektion, Kriminalprophylaxe, Analyse von Beweismitteln
7. Migration und Grenzkontrolle
Risikoeinschätzung bei Grenzübertritten, Prüfung von Asyl- und Visaanträgen, Überwachung im Grenzbereich
8. Justiz und demokratische Prozesse
KI-Unterstützung bei Rechtsprechung, Strafzumessung, Wahlbeeinflussung, politische Werbung mit Targeting
Pflichten für Hochrisiko-KI-Betreiber
- Technische Dokumentation nach Anhang IV erstellen und aktuell halten
- Konformitätsbewertungsverfahren durchführen (intern oder durch benannte Stelle)
- System in der EU-Datenbank für Hochrisiko-KI registrieren
- Menschliche Aufsichtsmechanismen einrichten und sicherstellen
- Protokollierung und laufende Überwachung des KI-Systems sicherstellen
Schnell-Check: Ist Ihr KI-System betroffen?
- Wird das System in einem der 8 Bereiche nach Anhang III eingesetzt?
- Hat das System wesentlichen Einfluss auf Entscheidungen, die Personen betreffen?
- Dient das System als Sicherheitskomponente eines regulierten Produkts?
Wenn Sie eine oder mehrere Fragen mit Ja beantwortet haben, ist Ihr System wahrscheinlich als Hochrisiko-KI einzustufen. Eine rechtliche Prüfung wird empfohlen.
Häufige Fragen zu Hochrisiko-KI
Gilt jedes HR-System als Hochrisiko-KI?
Nicht automatisch. Ein HR-System gilt als Hochrisiko, wenn es KI-Komponenten für Personalauswahl, Leistungsbewertung oder Kündigung enthält und diese wesentlichen Einfluss auf Entscheidungen haben. Einfache Verwaltungssysteme ohne Entscheidungsrelevanz fallen nicht darunter.
Was sind die Konsequenzen bei Verstößen?
Bei Einsatz verbotener KI: bis zu 35 Mio. Euro oder 7 % des Jahresumsatzes. Bei sonstigen Verstößen gegen Hochrisiko-Pflichten: bis zu 15 Mio. Euro oder 3 % des Jahresumsatzes. Zusätzlich können Marktrücknahmen und Betriebsstilllegungen angeordnet werden.
Wer ist verantwortlich – Anbieter oder Betreiber?
Beide tragen Verantwortung, aber unterschiedliche. Anbieter (die das System entwickeln) tragen primäre Verantwortung für Dokumentation und Konformitätsbewertung. Betreiber (die es einsetzen) müssen Aufsicht, Protokollierung und zweckgemäßen Einsatz sicherstellen.
Gilt Anhang III auch für KI-Systeme aus Drittstaaten?
Ja. Wenn ein KI-System aus einem Drittland in der EU eingesetzt wird oder seine Outputs in der EU genutzt werden, gilt der EU AI Act. Importeure und Händler haben eigene Pflichten zur Sicherstellung der Compliance.
Weiterführende Themen
Hochrisiko-KI dokumentieren mit SimpleAct
SimpleAct hilft Ihnen, Hochrisiko-KI-Systeme zu identifizieren, vollständig zu dokumentieren und alle Pflichten nach EU AI Act zu erfüllen – in einem strukturierten, auditierbaren System.
Kostenlos starten