Verbotene KI-Systeme
Bestimmte Anwendungen sind seit Februar 2025 vollständig verboten, darunter KI-Systeme zur sozialen Bewertung von Personen durch Behörden und Echtzeit-Biometrische Fernidentifikation in öffentlichen Räumen. Für die meisten mittelständischen Industrieunternehmen spielen verbotene Systeme keine Rolle.
Hochrisiko-KI: Pflichten, die Sie kennen müssen
Relevant für den Mittelstand sind insbesondere Systeme in folgenden Bereichen:
- Personalwesen: KI-gestützte Bewerberauswahl, Leistungsbewertung, Kündigung
- Kritische Infrastruktur: Steuerung von Energie-, Wasser- oder Verkehrssystemen
- Sicherheitskomponenten: KI in Maschinen oder Produkten mit Sicherheitsrelevanz
Wer Hochrisiko-KI einsetzt, muss technische Dokumentation führen, ein Risikomanagementsystem betreiben und menschliche Aufsicht sicherstellen. Verstöße können mit Bußgeldern bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes geahndet werden.
Minimales Risiko: Die meisten Mittelständler fallen hier
Die überwiegende Mehrheit der KI-Anwendungen, die mittelständische Unternehmen heute nutzen — Textzusammenfassungen, E-Mail-Entwürfe, Meeting-Protokolle, interne Chatbots — fällt in die Kategorie minimales Risiko. Hier gibt es keine zwingenden Pflichten aus dem EU AI Act. Allerdings bleibt die DSGVO in vollem Umfang anwendbar.