Verbotene KI-Praktiken (Art. 5)

Welche KI-Praktiken sind komplett verboten?

Art. 5 listet KI-Anwendungen auf, die die EU als unvereinbar mit ihren Grundwerten betrachtet. Diese Verbote gelten bereits seit dem 2. Februar 2025.

1. Manipulation und Täuschung

KI, die unterschwellige oder manipulative Techniken einsetzt, um Menschen zu beeinflussen und ihnen damit zu schaden. Stell dir eine KI vor, die gezielt psychologische Tricks nutzt, um dich zum Kauf zu drängen.

2. Ausnutzung von Schwächen

KI, die gezielt Schwächen von Personen ausnutzt — etwa aufgrund von Alter, Behinderung oder wirtschaftlicher Lage.

3. Social Scoring

KI zur Bewertung von Menschen auf Basis ihres Sozialverhaltens, wenn das zu ungerechtfertigter Benachteiligung führt. Ähnlich dem chinesischen Sozialkreditsystem.

4. Vorhersage von Straftaten

KI zur Risikobewertung, ob jemand Straftaten begehen könnte — basierend nur auf Profiling oder Persönlichkeitsmerkmalen, nicht auf objektiven Fakten.

5. Gesichtserkennung aus dem Internet

KI-Systeme, die Gesichtserkennungsdatenbanken durch ungezieltes Scraping von Bildern aus dem Internet oder Videoüberwachung aufbauen.

6. Emotionserkennung am Arbeitsplatz

KI zur Erkennung von Emotionen am Arbeitsplatz und in Bildungseinrichtungen. Ausnahme: medizinische oder sicherheitsrelevante Zwecke.

7. Biometrische Kategorisierung

KI, die Menschen nach sensiblen Merkmalen kategorisiert: Ethnie, politische Meinung, Gewerkschaftszugehörigkeit, Religion oder sexuelle Orientierung.

8. Echtzeit-Gesichtserkennung in öffentlichen Räumen

Echtzeit-Gesichtserkennung im öffentlichen Raum durch Strafverfolgungsbehörden. Es gibt nur eng gefasste Ausnahmen, z.B. bei vermissten Personen oder Terrorabwehr.

Was droht bei Verstößen?

Verstöße gegen Art. 5 treffen am härtesten: bis zu 35 Mio. Euro oder 7% des weltweiten Jahresumsatzes — je nachdem, welcher Betrag höher ist.