Hochrisiko-KI-Systeme: Einstufung nach Art. 6 und Anhang III

Die Verordnung stuft nicht nach Technik ein, sondern nach Verwendung. Dasselbe Sprachmodell kann in der Textproduktion unreguliert sein und in der Bewerbervorauswahl ein Hochrisiko-System. Artikel 6 beschreibt zwei voneinander unabhängige Wege in diese Klasse.

Erster Weg: Sicherheitsbauteil eines Produkts (Absatz 1)

Ein KI-System gilt als hochriskant, wenn zwei Bedingungen zugleich erfüllt sind. Es soll als Sicherheitsbauteil eines Produkts verwendet werden, das unter die in Anhang I aufgeführten Harmonisierungsrechtsvorschriften der Union fällt, oder es ist selbst ein solches Produkt. Und dieses Produkt muss nach eben diesen Vorschriften einer Konformitätsbewertung durch Dritte unterzogen werden. Anhang I nennt die Produktvorschriften der Union, unter anderem für Spielzeug, Aufzüge, Funkanlagen, persönliche Schutzausrüstung, Medizinprodukte, Maschinen und Fahrzeuge.

Die Änderungsverordnung (EU) 2026/1744 hat diesen Weg zum 27. Juli 2026 an drei Stellen präzisiert:

• Absatz 1a: KI-Systeme, die ausschließlich für nicht sicherheitsrelevante Aspekte der Nutzerunterstützung, Leistungsoptimierung, Leistungseffizienz, Automatisierung, Benutzerfreundlichkeit oder Qualitätskontrolle verwendet werden, gelten nicht als Sicherheitsbauteile.
• Absatz 1b: KI-Systeme, deren Ausfall oder Fehlfunktion Gesundheit und Sicherheit gefährden würde, gelten dagegen als Sicherheitsbauteile.
• Absatz 1c: Ein Produkt, das ausschließlich wegen anderer Risiken als solcher für Gesundheit und Sicherheit einer Drittbewertung unterliegt, etwa wegen Funkfrequenzen oder elektromagnetischer Interferenzen, erfüllt die zweite Bedingung nicht.

Für einen Betrieb, der KI nur einsetzt, ist dieser erste Weg selten einschlägig. Er betrifft vor allem Hersteller, die KI in eigene Produkte einbauen.

Zweiter Weg: Anwendungsfall des Anhangs III (Absatz 2)

Zusätzlich gelten die in Anhang III genannten KI-Systeme als hochriskant. Anhang III ist eine abschließende Liste von Anwendungsfällen in acht Bereichen, die die Kommission nach Artikel 7 durch delegierte Rechtsakte ändern kann. Auf diesem Weg landen Betreiber im Mittelstand in der Hochrisiko-Klasse, meist über Personalsoftware.

Anhang III gliedert die Anwendungsfälle in acht nummerierte Bereiche. Bis auf Nummer 2 sind sie in Buchstaben unterteilt, und erst der Buchstabe beschreibt den konkreten Anwendungsfall. Die Bereiche lauten im amtlichen deutschen Text:

1. Biometrie, soweit nach Unionsrecht oder nationalem Recht zugelassen: biometrische Fernidentifizierung, biometrische Kategorisierung nach sensiblen Merkmalen, Emotionserkennung. Die bloße Verifizierung, dass eine Person die ist, für die sie sich ausgibt, gehört nicht dazu.
2. Kritische Infrastruktur: Sicherheitsbauteile in Verwaltung und Betrieb kritischer digitaler Infrastruktur, des Straßenverkehrs oder der Wasser-, Gas-, Wärme- oder Stromversorgung.
3. Allgemeine und berufliche Bildung: Zugang und Zulassung, Bewertung von Lernergebnissen, Bewertung des Bildungsniveaus, Überwachung von Prüfungen.
4. Beschäftigung, Personalmanagement und Zugang zur Selbstständigkeit: Einstellung und Auswahl (Buchstabe a) sowie Entscheidungen über Arbeitsbedingungen, Beförderung und Kündigung, die Zuweisung von Aufgaben und die Beobachtung und Bewertung von Leistung und Verhalten (Buchstabe b).
5. Zugänglichkeit und Inanspruchnahme grundlegender privater und grundlegender öffentlicher Dienste und Leistungen: Anspruch auf öffentliche Unterstützungsleistungen, Kreditwürdigkeitsprüfung und Bonitätsbewertung natürlicher Personen (ohne Aufdeckung von Finanzbetrug), Risikobewertung und Preisbildung in Lebens- und Krankenversicherungen, Bewertung von Notrufen und Triage.
6. Strafverfolgung, soweit zugelassen, durch oder für Strafverfolgungsbehörden.
7. Migration, Asyl und Grenzkontrolle, soweit zugelassen, durch oder für die zuständigen Behörden.
8. Rechtspflege und demokratische Prozesse: Unterstützung von Justizbehörden und der alternativen Streitbeilegung sowie Beeinflussung von Wahlen und Referenden.

Die Nummern 6 bis 8 richten sich weitgehend an Behörden. Für einen mittelständischen Betrieb sind vor allem drei Anwendungsfälle praktisch relevant:

• Nummer 4 Buchstabe a: Systeme, die Stellenanzeigen gezielt ausspielen, Bewerbungen sichten oder filtern oder Bewerber bewerten.
• Nummer 4 Buchstabe b: Systeme, die Aufgaben nach individuellem Verhalten oder persönlichen Merkmalen zuweisen oder Leistung und Verhalten von Beschäftigten beobachten und bewerten.
• Nummer 5 Buchstabe b: Systeme zur Kreditwürdigkeitsprüfung und Bonitätsbewertung natürlicher Personen, etwa wenn Sie Privatkunden mit einem KI-System auf ihre Bonität prüfen, bevor Sie auf Rechnung liefern oder finanzieren.

Nicht jedes System, das in einem Bereich des Anhangs III arbeitet, gilt als hochriskant. Abweichend von Absatz 2 gilt es nicht als hochriskant, wenn es kein erhebliches Risiko der Beeinträchtigung von Gesundheit, Sicherheit oder Grundrechten natürlicher Personen birgt, unter anderem weil es das Ergebnis der Entscheidungsfindung nicht wesentlich beeinflusst. Das ist der Fall, wenn eine der folgenden Bedingungen erfüllt ist:

1. Das System ist dazu bestimmt, eine eng gefasste Verfahrensaufgabe durchzuführen (Buchstabe a).
2. Es ist dazu bestimmt, das Ergebnis einer zuvor abgeschlossenen menschlichen Tätigkeit zu verbessern (Buchstabe b).
3. Es ist dazu bestimmt, Entscheidungsmuster oder Abweichungen von früheren Entscheidungsmustern zu erkennen, und ist nicht dazu gedacht, die zuvor abgeschlossene menschliche Bewertung ohne angemessene menschliche Überprüfung zu ersetzen oder zu beeinflussen (Buchstabe c).
4. Es ist dazu bestimmt, eine vorbereitende Aufgabe für eine Bewertung durchzuführen, die für die Anwendungsfälle des Anhangs III relevant ist (Buchstabe d).

Ein System, das Bewerbungsunterlagen nur in ein einheitliches Format überführt, kann etwa unter Buchstabe a fallen. Bei einem System, das Bewerbungen nach Eignung sortiert, trägt diese Ausnahme kaum: Es prägt die Auswahl selbst vor, und meist liegt zugleich ein Profiling vor.

Prüfen Sie die Rückausnahme je Anwendungsfall und nicht je Bereich. Dasselbe Werkzeug kann in einer Abteilung nur Termine koordinieren und in einer anderen Bewerber vorsortieren. Wo die Einordnung offen bleibt, halten Sie das im KI-Inventar ausdrücklich fest, samt Ihrer Erwägungen.

Die Kommission soll nach Artikel 6 Absatz 5 Leitlinien mit praktischen Beispielen für hochriskante und nicht hochriskante Anwendungsfälle bereitstellen. Veröffentlicht hat sie am 19. Mai 2026 einen Entwurf zur Konsultation; eine Endfassung lag am 22. Oktober 2026 nicht vor. Wenn Sie sich auf die Beispiele stützen, vermerken Sie den Entwurfsstand.

Die Einstufung beantwortet, ob ein System hochriskant ist. Welche Pflichten daraus folgen, hängt an Ihrer Rolle. Die meisten mittelständischen Betriebe kaufen KI ein und setzen sie ein; sie sind Betreiber. Die umfangreichen Anforderungen an Risikomanagement, Daten, technische Dokumentation und Konformitätsbewertung treffen den Anbieter, also den, der das System entwickelt und unter eigenem Namen in Verkehr bringt.

Was Betreiber eines Hochrisiko-Systems tun müssen

Artikel 26 verlangt vom Betreiber unter anderem, das System entsprechend der Betriebsanleitung zu verwenden, die menschliche Aufsicht Personen mit der nötigen Kompetenz, Ausbildung und Befugnis zu übertragen und den Betrieb zu überwachen. Eine Grundrechte-Folgenabschätzung nach Artikel 27 trifft im privaten Bereich vor allem Betreiber von Systemen nach Anhang III Nummer 5 Buchstaben b und c, also Bonitätsbewertung sowie Lebens- und Krankenversicherung; daneben öffentliche Einrichtungen und private Einrichtungen, die öffentliche Dienste erbringen.

Wann aus dem Betreiber ein Anbieter wird

Nach Artikel 25 gilt als Anbieter eines Hochrisiko-Systems, wer ein solches System mit seinem Namen oder seiner Handelsmarke versieht, es wesentlich verändert oder die Zweckbestimmung eines bisher nicht hochriskanten Systems so ändert, dass es hochriskant wird. Der letzte Fall ist der unauffälligste: Ein allgemeiner KI-Assistent, den ein Betrieb gezielt zur Vorauswahl von Bewerbungen einrichtet, kann damit zum Hochrisiko-System werden, und der Betrieb trägt dann die Anbieterpflichten. Wie Anhang IV die technische Dokumentation dann ausbuchstabiert, steht auf der Seite zur technischen Dokumentation nach Artikel 11.

Die Einstufung selbst ist heute schon möglich und sinnvoll; die daran geknüpften Anforderungen gelten später. Die Änderungsverordnung (EU) 2026/1744 hat Kapitel III Abschnitte 1 bis 3 verschoben: auf den 2. Dezember 2027 für Systeme nach Anhang III und auf den 2. August 2028 für Systeme nach Anhang I. Für Hochrisiko-Systeme, die vor diesen Stichtagen in Verkehr gebracht oder in Betrieb genommen wurden, gelten die Übergangsregeln des Artikels 111. Alle Stichtage samt der Verschiebung stehen auf der Seite zu den Fristen der KI-Verordnung.