Am 02. Februar 2025 traten Kapitel I und II der KI-Verordnung in Kraft. Neben Artikel 4, der Anbieter und Betreiber von KI-Systemen zur Sicherstellung der KI-Kompetenz verpflichtet, gilt damit auch Artikel 5 der KI-Verordnung, der verbotenen Praktiken im KI-Bereich bezeichnet und definiert.
Als unannehmbares Risiko wird eine sehr eng begrenzte Zahl besonders schädlicher KI-Anwendungen, die gegen die EU-Werte verstoßen. Dabei handelt es sich um folgende Systeme:
- Ausnutzung der Schutzbedürftigkeit von Personen, Manipulation und Einsatz von Techniken zur unterschwelligen Beeinflussung;
- Bewertung des sozialen Verhaltens (Social Scoring) für öffentliche und private Zwecke;
- individuelle vorausschauende polizeiliche Überwachung, die ausschließlich auf der Erstellung von Personenprofilen beruht;
- ungezielte Auswertung von Gesichtsbildern aus dem Internet oder von Überwachungsaufnahmen, um Datenbanken aufzubauen oder zu erweitern;
- Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen, außer zu medizinischen oder sicherheitstechnischen Zwecken (z. B. Überwachung der Müdigkeit eines Piloten);
- biometrische Kategorisierung natürlicher Personen, um daraus die ethnische Herkunft, politische Auffassungen, die Zugehörigkeit zu einer Gewerkschaft, religiöse oder weltanschauliche Überzeugungen oder die sexuelle Orientierung abzuleiten. Eine Kennzeichnung oder Filterung von Datensätzen und die Kategorisierung von Daten im Bereich der Strafverfolgung sind aber weiterhin möglich;
- biometrische Echtzeit-Fernidentifizierung im öffentlich zugänglichen Raum durch Strafverfolgungsbehörden, mit eng abgesteckten Ausnahmen.
Begleitend zum Inkrafttreten erarbeitet die Europäischen Kommission Leitlinien für die praktische Umsetzung der KI-Verordnung. Entsprechende Leitlinien sind zwar nicht verbindlich, stellen aber eine wichtige Auslegungs- und Anwendungshilfe dar.
Die Leitlinien zu verbotenen Praktiken der KI im Sinne der KI-Verordnung wurden am 04. Februar 2025 veröffentlicht. Die Europäische Kommission hat den Entwurf der Leitlinien gebilligt, aber noch nicht förmlich angenommen. Der Entwurf der Leitlinien sowie ein kurzes Statement der Europäischen Kommission ist hier abrufbar.