Hochrisiko-KI: Annex III im Detail
Welche KI-Systeme gelten als Hochrisiko? Alle 8 Kategorien aus Annex III des EU AI Act erklärt.
In welchen Bereichen gilt KI als Hochrisiko?
Annex III des EU AI Act listet acht Bereiche auf, in denen KI-Systeme als Hochrisiko gelten. Hier die Übersicht mit konkreten Beispielen aus der Praxis:
1. Biometrie
KI zur biometrischen Identifikation von Personen. Ausgenommen ist die reine Verifizierung (1:1-Abgleich mit Einwilligung).
Beispiel: Gesichtserkennung in Menschenmengen oder biometrische Kategorisierung nach Ethnie.
2. Kritische Infrastruktur
KI als Sicherheitskomponente in Verkehr, Wasser-, Gas-, Strom- oder Wärmeversorgung.
Beispiel: KI-gesteuerte Verkehrsleitsysteme oder automatisierte Netzsteuerung im Energiebereich.
3. Bildung und Berufsausbildung
KI, die über Zugang zu Bildung oder die Bewertung von Lernergebnissen entscheidet.
Beispiel: Automatisierte Prüfungsbewertung, KI-gestützte Hochschulzulassung, Proctoring-Software.
4. Beschäftigung und Personalmanagement
KI für Einstellung, Beförderung, Kündigung oder Aufgabenverteilung.
Beispiel: KI-Screening von Bewerbungen oder automatisierte Leistungsbewertung.
5. Zugang zu wesentlichen Dienstleistungen
KI, die über Kreditwürdigkeit, Versicherungsprämien, Sozialleistungen oder Notrufe entscheidet.
Beispiel: Kreditscoring-Algorithmen oder KI-Triage bei Notrufen.
6. Strafverfolgung
KI zur Risikobewertung, als Lügendetektor, für Beweiswürdigung oder Profiling.
Beispiel: Predictive Policing oder KI-gestützte Beweisanalyse.
7. Migration, Asyl und Grenzkontrolle
KI bei Visumanträgen, Asylverfahren oder Grenzüberwachung.
Beispiel: Automatisierte Visum-Vorprüfung oder Risikobewertung bei der Grenzkontrolle.
8. Rechtspflege und demokratische Prozesse
KI bei Gerichtsentscheidungen oder zur Beeinflussung von Wahlen.
Beispiel: KI-Empfehlungen für Strafmaß oder automatisierte Präzedenzfall-Recherche mit Entscheidungseinfluss.
Was heißt "Hochrisiko" konkret?
Hochrisiko-KI-Systeme müssen die Anforderungen der Art. 8-15 erfüllen: Risikomanagementsystem, technische Dokumentation, menschliche Aufsicht und Konformitätsbewertung. Der Stichtag ist der 2. August 2026.