Was sind verbotene KI-Praktiken? (Art. 5 EU AI Act)

Was bedeutet „inakzeptables Risiko“?

Der EU AI Act stuft eine kleine Gruppe von KI-Anwendungen als so schädlich für Grundrechte, Sicherheit und Demokratie ein, dass sie gar nicht erst eingesetzt werden dürfen. Diese Praktiken bilden die oberste Stufe des risikobasierten Ansatzes – oberhalb von Hochrisiko-KI. Für sie gibt es keine Compliance-Maßnahmen, mit denen man sie zulässig machen könnte: Sie sind schlicht verboten.

Die Verbote gelten seit dem 2. Februar 2025 und damit als erste Stufe des AI Acts überhaupt. Sie richten sich an Anbieter und Betreiber gleichermaßen.

Welche acht Praktiken sind konkret verboten?

Artikel 5 listet die untersagten Anwendungen abschließend auf:

• Manipulative oder täuschende KI, die das Verhalten von Menschen unterschwellig so beeinflusst, dass ihnen erheblicher Schaden entstehen kann.
• Ausnutzen von Schutzbedürftigkeit aufgrund von Alter, Behinderung oder sozialer/wirtschaftlicher Lage.
• Social Scoring: Bewertung oder Klassifizierung von Personen anhand ihres Sozialverhaltens, die zu Benachteiligung führt.
• Vorhersage von Straftaten allein auf Basis von Profiling oder Persönlichkeitsmerkmalen (Predictive Policing).
• Ungezieltes Auslesen (Scraping) von Gesichtsbildern aus dem Internet oder von Überwachungskameras zum Aufbau von Gesichtsdatenbanken.
• Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen (außer aus medizinischen oder Sicherheitsgründen).
• Biometrische Kategorisierung, die sensible Merkmale wie ethnische Herkunft, politische Meinung oder sexuelle Orientierung ableitet.
• Biometrische Echtzeit-Fernidentifizierung im öffentlichen Raum zu Strafverfolgungszwecken – mit eng begrenzten Ausnahmen.

Betrifft das auch normale Unternehmen?

Die meisten verbotenen Praktiken zielen auf Behörden oder sehr spezielle Anwendungen ab. Für ein durchschnittliches Unternehmen sind dennoch zwei Verbote praxisrelevant: die Emotionserkennung von Mitarbeitenden am Arbeitsplatz und manipulative Systeme. Wer etwa KI einsetzt, um die Stimmung oder Aufmerksamkeit von Beschäftigten zu überwachen, bewegt sich im verbotenen Bereich.

Wichtig ist daher, bei der Bestandsaufnahme der eigenen KI-Systeme nicht nur Hochrisiko-Anwendungen, sondern auch mögliche verbotene Praktiken zu prüfen.

Welche Strafen drohen bei Verstößen?

Verstöße gegen Artikel 5 lösen die höchste Bußgeldstufe des AI Acts aus: bis zu 35 Mio. € oder 7 % des weltweiten Jahresumsatzes – je nachdem, welcher Betrag höher ist. Damit sind verbotene Praktiken deutlich härter sanktioniert als Verstöße gegen sonstige Pflichten (bis zu 15 Mio. € oder 3 %).

Ändert der Digital Omnibus etwas an den Verboten?

Nein. Die Verbote nach Artikel 5 gelten seit dem 2. Februar 2025 und sind von der geplanten Verschiebung durch den Digital Omnibus nicht erfasst – dieser betrifft vor allem die Hochrisiko-Pflichten. Ergänzend ist ein neues Verbot für bestimmte missbräuchliche KI-Inhalte ab dem 2. Dezember 2026 vorgesehen.

Häufige Fragen

Seit wann gelten die KI-Verbote?

Seit dem 2. Februar 2025. Die Verbote nach Artikel 5 waren die erste Stufe des EU AI Act, die wirksam wurde – noch vor den meisten anderen Pflichten.

Ist Emotionserkennung von Mitarbeitenden verboten?

Ja. KI zur Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen ist nach Artikel 5 grundsätzlich verboten. Ausnahmen gelten nur aus medizinischen oder Sicherheitsgründen.

Was ist Social Scoring im Sinne des AI Acts?

Die Bewertung oder Einstufung von Personen anhand ihres Sozialverhaltens oder persönlicher Merkmale, die zu ungerechtfertigter oder unverhältnismäßiger Benachteiligung führt. Solche Systeme sind nach Artikel 5 verboten.

Welches Bußgeld droht bei verbotenen KI-Praktiken?

Bis zu 35 Mio. € oder 7 % des weltweiten Jahresumsatzes – je nachdem, welcher Betrag höher ist. Das ist die höchste Sanktionsstufe des EU AI Act (Art. 99).

Sind die KI-Verbote durch den Digital Omnibus verschoben?

Nein. Die Verbote nach Artikel 5 gelten unverändert seit dem 2. Februar 2025. Der Digital Omnibus betrifft im Wesentlichen die Hochrisiko-Fristen, nicht die Verbote.