Die vergessene AI-Act-Pflicht: Barrierefreiheit für Hochrisiko-KI-Systeme

Bei der EU-AI-Act-Compliance denken die meisten Unternehmen an Risikoklassen, Dokumentation und menschliche Aufsicht. Eine Anforderung wird dabei fast immer übersehen, obwohl sie direkt im Pflichtenkatalog für Anbieter von Hochrisiko-KI steht: Barrierefreiheit.

Artikel 16 Buchstabe l der KI-Verordnung verpflichtet Anbieter von Hochrisiko-KI-Systemen ausdrücklich dazu, ihre Systeme barrierefrei zu gestalten. Und zwar nicht nach selbst gewählten Maßstäben, sondern nach bestehendem EU-Recht. Diese Anforderung ist leicht zu übersehen, weil sie am Ende einer langen Liste von Anbieterpflichten steht. Aber sie hat erhebliche praktische Konsequenzen, gerade weil sie Barrierefreiheit mit Produktsicherheit und Haftung verknüpft.

Dieser Beitrag erklärt, was Artikel 16(l) konkret verlangt, auf welche Gesetze er verweist, warum Barrierefreiheit zur Sicherheits- und Haftungsfrage wird und was Anbieter und Betreiber jetzt beachten sollten.

Was Artikel 16(l) verlangt

Der Wortlaut ist knapp. Anbieter von Hochrisiko-KI-Systemen müssen sicherstellen, dass ihre Systeme den Barrierefreiheitsanforderungen gemäß zwei EU-Richtlinien entsprechen:

Entscheidend ist die Konstruktion: Der AI Act definiert selbst keine technischen Barrierefreiheitsstandards. Stattdessen verweist er auf bestehendes EU-Recht. Das ist kein bloßer Querverweis, sondern eine echte Integration. Anbieter müssen sicherstellen, dass die Vorgaben des EAA und der Web Accessibility Directive im Design und in der Entwicklung ihrer Hochrisiko-KI-Systeme tatsächlich abgebildet sind.

Der Zusammenhang mit dem European Accessibility Act

Der EAA ist die praktisch wichtigste der beiden referenzierten Richtlinien, weil er einen breiten Kreis privatwirtschaftlicher Anbieter erfasst. Er betrifft unter anderem Computer und Betriebssysteme, Geldautomaten und Zahlungsterminals, E-Books, E-Commerce-Dienste, Bankdienstleistungen für Verbraucher und elektronische Kommunikationsdienste.

Sobald eine Hochrisiko-KI in einem dieser Produkte oder Dienste steckt und für Verbraucher zugänglich ist, greifen die EAA-Anforderungen über Artikel 16(l) auch im Rahmen des AI Act. Für die rund 87 Millionen Menschen mit Behinderung in der EU geht es dabei um echten Zugang: Können sie ein KI-gestütztes Bankportal nutzen? Verstehen sie die Ausgaben eines KI-Systems? Können sie mit einer Benutzeroberfläche interagieren, die auf KI basiert?

Ein Detail, das KMU kennen sollten: Mikrounternehmen mit weniger als 10 Mitarbeitern und einem Jahresumsatz oder einer Bilanzsumme von höchstens 2 Millionen Euro sind von den EAA-Dienstleistungsanforderungen vollständig befreit. Diese Ausnahme entbindet aber nicht automatisch von anderen Pflichten des AI Act, sie betrifft nur die Barrierefreiheitsanforderungen für Dienstleistungen.

Wenn Barrierefreiheit zur Sicherheitsfrage wird

Der vielleicht wichtigste Punkt: Barrierefreiheitsmängel bleiben nicht auf die Nutzbarkeit beschränkt. In bestimmten Konstellationen werden sie zu einem Produktsicherheits- und Haftungsthema.

Der Hintergrund liegt in der Logik des EU-Produktrechts. Die Sicherheit eines Produkts wird anhand der „vernünftigerweise vorhersehbaren Verwendungsbedingungen" beurteilt. Dazu gehört ausdrücklich auch die Nutzung durch einen vielfältigen Kreis von Nutzern, einschließlich Menschen mit Behinderung.

Daraus folgt: Wenn eine Barrierefreiheitsbarriere dazu führt, dass bestimmte Nutzer die Ausgaben eines KI-Systems nicht richtig verstehen oder nicht angemessen mit dem System interagieren können, kann das über eine reine Usability-Frage hinausgehen. Es kann relevant werden für die Produktsicherheit und damit für die Haftung, wenn daraus ein Schaden entsteht.

Verstärkt wird das durch die Entwicklungen im Produkthaftungsrecht. Die revidierte EU-Produkthaftungsrichtlinie hat den Produktbegriff modernisiert und erfasst nun ausdrücklich Software, einschließlich KI-Systemen. Damit rückt die Frage, ob ein KI-System für alle vorhersehbaren Nutzer sicher nutzbar ist, näher an die Haftungsfrage heran.

Auch unterhalb von Hochrisiko relevant: Artikel 5(1)(b)

Artikel 16(l) gilt nur für Hochrisiko-Systeme. Aber es gibt eine Barrierefreiheits-Dimension, die für alle KI-Systeme gilt, unabhängig von der Risikoklasse.

Artikel 5(1)(b) verbietet KI-Systeme, die die Vulnerabilität von Personen aufgrund von Alter, Behinderung oder einer spezifischen sozialen oder wirtschaftlichen Situation ausnutzen, wenn dadurch ein erheblicher Schaden verursacht werden kann. Diese Vorschrift gehört zu den verbotenen Praktiken und gilt bereits seit dem 2. Februar 2025.

Für Unternehmen heißt das: Selbst ein Chatbot oder ein automatisiertes Entscheidungssystem, das nicht als Hochrisiko eingestuft ist, darf die Behinderung eines Nutzers nicht in schädigender Weise ausnutzen. Barrierefreiheit und der Schutz vulnerabler Gruppen sind damit auf zwei Ebenen im AI Act verankert: als positive Gestaltungspflicht für Hochrisiko-Systeme (Art. 16(l)) und als Verbot ausbeuterischer Praktiken für alle Systeme (Art. 5(1)(b)).

Was Anbieter jetzt tun sollten

Für Anbieter von Hochrisiko-KI-Systemen ergibt sich aus Artikel 16(l) eine konkrete To-do-Liste.

Was Betreiber beachten sollten

Artikel 16(l) ist eine Anbieterpflicht. Aber auch Betreiber haben ein Interesse an der Barrierefreiheit der von ihnen eingesetzten Systeme.

Wer ein Hochrisiko-KI-System einsetzt, sollte bei der Anbieterauswahl gezielt nach der Barrierefreiheit fragen. Erfüllt das System die Anforderungen des EAA? Gibt es einen Nachweis? Ist die Benutzeroberfläche mit assistiven Technologien kompatibel? Ein Anbieter, der diese Fragen nicht beantworten kann, liefert ein Compliance-Risiko mit.

Hinzu kommt: Betreiber, die das System ihren eigenen Kunden, Mitarbeitenden oder Bürgern zugänglich machen, können selbst unter Barrierefreiheitspflichten fallen, etwa wenn sie öffentliche Stellen sind oder Dienstleistungen anbieten, die vom EAA erfasst werden. Die Anbieterpflicht nach Artikel 16(l) und die eigenen Pflichten des Betreibers greifen dann ineinander.

Zusammenfassung

Barrierefreiheit ist eine der am häufigsten übersehenen Anforderungen des EU AI Act. Artikel 16(l) verpflichtet Anbieter von Hochrisiko-KI-Systemen, die Vorgaben des European Accessibility Act und der Web Accessibility Directive einzuhalten. Der AI Act definiert dabei keine eigenen Standards, sondern integriert bestehendes Barrierefreiheitsrecht in den Konformitätsrahmen.

Der entscheidende Perspektivwechsel: Barrierefreiheit ist nicht nur eine Frage der Inklusion, sondern wird in bestimmten Konstellationen zur Produktsicherheits- und Haftungsfrage. Wer Barrierefreiheit von Anfang an mitdenkt, erfüllt nicht nur eine rechtliche Pflicht, sondern reduziert auch das Risiko von Schäden und der damit verbundenen Haftung.

Für Anbieter heißt das: Barrierefreiheit gehört in das Design, in die technische Dokumentation und in das Risikomanagement. Für Betreiber heißt es: bei der Anbieterauswahl gezielt nachfragen und die eigenen Pflichten im Blick behalten.

Dieser Beitrag dient der allgemeinen Information und stellt keine Rechtsberatung dar. Die konkreten Barrierefreiheitsanforderungen hängen vom Einzelfall und vom anwendbaren Sektorrecht ab. Bei Unsicherheiten empfehlen wir eine rechtliche Prüfung. Stand: Mai 2026.

Über SimpleAct: SimpleAct ist eine deutsche Compliance-Plattform, die Unternehmen bei der strukturierten Dokumentation ihrer KI-Systeme nach EU AI Act unterstützt. Von der Erfassung über die Risikobewertung bis zum exportfähigen Audit-Nachweis. Alles an einem Ort.

Mehr erfahren →