Welche KI-Systeme gelten als Hochrisiko?

Als Hochrisiko gelten KI-Systeme, die in sensiblen Bereichen wie Recruiting, Bildung, Kreditwürdigkeit, kritischer Infrastruktur oder Strafverfolgung eingesetzt werden (Anhang III), sowie KI als Sicherheitskomponente regulierter Produkte. Sie unterliegen strengen Pflichten zu Risikomanagement, Dokumentation, Datenqualität und menschlicher Aufsicht.

Wie definiert der AI Act Hochrisiko-KI?

Der AI Act kennt zwei Wege, über die ein System als hochriskant eingestuft wird. Erstens, wenn die KI als Sicherheitskomponente eines Produkts dient, das bereits einer EU-Sicherheitsprüfung unterliegt (etwa Maschinen oder Medizinprodukte). Zweitens, wenn das System in einem der in Anhang III genannten sensiblen Bereiche eingesetzt wird.

Welche Bereiche nennt Anhang III?

Anhang III listet konkrete Anwendungsfelder, in denen KI typischerweise als hochriskant gilt:

  • Beschäftigung: KI für Recruiting, Bewerberauswahl oder Mitarbeiterbewertung.
  • Bildung: Systeme, die über Zugang, Bewertung oder Prüfungsergebnisse mitentscheiden.
  • Kreditwesen: Bewertung der Kreditwürdigkeit natürlicher Personen.
  • Kritische Infrastruktur: Steuerung von Wasser-, Gas-, Strom- oder Verkehrssystemen.
  • Strafverfolgung, Migration und Justiz: Systeme mit erheblichem Einfluss auf Grundrechte.
  • Biometrie: bestimmte Systeme zur biometrischen Identifizierung und Kategorisierung.

Welche Pflichten gelten für Hochrisiko-KI?

Anbieter von Hochrisiko-KI müssen unter anderem ein Risikomanagementsystem einrichten, eine umfassende technische Dokumentation führen, hohe Anforderungen an Datenqualität erfüllen, menschliche Aufsicht ermöglichen sowie eine Konformitätsbewertung durchführen. Betreiber müssen die Systeme bestimmungsgemäß einsetzen und die menschliche Aufsicht sicherstellen.

Gibt es Ausnahmen?

Ja. Ein System, das zwar in einem Anhang-III-Bereich liegt, aber kein erhebliches Risiko für Gesundheit, Sicherheit oder Grundrechte darstellt – etwa weil es nur eine eng begrenzte Hilfsaufgabe erfüllt – kann unter bestimmten Voraussetzungen von der Hochrisiko-Einstufung ausgenommen sein. Die Einschätzung muss jedoch dokumentiert werden.

Verschiebt der Digital Omnibus die Hochrisiko-Fristen?

Ja. Der formal angenommene „Digital Omnibus“ (EP 16. Juni 2026, Rat 29. Juni 2026, unterzeichnet am 8. Juli 2026) verschiebt die Pflichten für Hochrisiko-KI nach Anhang III vom 2. August 2026 auf den 2. Dezember 2027 und für KI in regulierten Produkten (Anhang I) auf den 2. August 2028. In Kraft tritt er mit der Veröffentlichung im EU-Amtsblatt (erwartet Juli 2026).

Einen Überblick über alle Termine geben die EU-AI-Act-Fristen. Wer Hochrisiko-KI einsetzt, sollte die zusätzliche Zeit zur Vorbereitung nutzen – etwa für Risikomanagement, Dokumentation und die menschliche Aufsicht.

Häufige Fragen

Ist jede KI im Personalbereich automatisch Hochrisiko?

Viele Recruiting- und Bewertungssysteme fallen unter Anhang III und gelten als hochriskant. Es kommt jedoch auf den konkreten Einsatz an; rein unterstützende Funktionen ohne erheblichen Einfluss können ausgenommen sein – das muss aber begründet und dokumentiert werden.

Sind ChatGPT oder Copilot Hochrisiko-Systeme?

Allgemeine Assistenzsysteme sind in der Regel kein Hochrisiko per se. Entscheidend ist der Einsatzkontext: Wird ein solches Tool in einem Anhang-III-Bereich für maßgebliche Entscheidungen genutzt, kann eine strengere Einstufung greifen.

Ab wann gelten die Hochrisiko-Pflichten?

Für Anhang-III-Systeme ab dem 2. Dezember 2027, für KI in regulierten Produkten (Anhang I) ab dem 2. August 2028 – so der formal angenommene Digital Omnibus, der mit der Veröffentlichung im EU-Amtsblatt in Kraft tritt.

Was gilt bei Hochrisiko-KI?

Für Hochrisiko-KI (Anhang III) gelten strenge Pflichten: Risikomanagement, Daten-Governance, technische Dokumentation, Protokollierung, Transparenz, menschliche Aufsicht sowie Genauigkeit und Sicherheit. Betreiber müssen das System bestimmungsgemäß einsetzen, überwachen und ihre Mitarbeitenden entsprechend schulen.