Der Artikel 5 des EU-Gesetzes über künstliche Intelligenz (EU-AI-Act) legt eine Reihe von verbotenen KI-Praktiken fest, die als zu riskant oder schädlich für die Grundrechte und die Sicherheit der Bürger erachtet werden. Diese Verbote gelten ab 2. Februar 2025 und umfassen:

1) Manipulative und schädliche KI-Systeme:
• KI-Systeme, die unterschwellige Techniken oder manipulative Methoden verwenden, um das Verhalten von Personen wesentlich zu beeinflussen und ihnen Schaden zuzufügen.
• KI-Systeme, die Schwächen aufgrund von Alter, Behinderung oder sozialer/wirtschaftlicher Situation ausnutzen.

2) Soziale Bewertungssysteme:
• KI-Systeme zur Bewertung oder Klassifizierung von Personen basierend auf ihrem Sozialverhalten oder persönlichen Merkmalen, die zu ungerechtfertigter Benachteiligung führen.

3) Risikovorhersage und biometrische Identifizierung
• KI-Systeme zur Vorhersage krimineller Aktivitäten ausschließlich auf Basis von Persönlichkeitsprofilen
• Die Erstellung von Gesichtserkennungsdatenbanken durch ungezieltes Sammeln von Bildern aus dem Internet oder Überwachungsaufnahmen.

4) Emotionserkennung und biometrische Kategorisierung
• KI-Systeme zur Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen, außer aus medizinischen oder sicherheitstechnischen Gründen.
• Biometrische Kategorisierungssysteme, die Rückschlüsse auf sensible persönliche Merkmale ziehen.

5) Biometrische Echtzeit-Fernidentifizierung
• Die Verwendung biometrischer Echtzeit-Fernidentifizierungssysteme in öffentlichen Räumen für Strafverfolgungszwecke ist grundsätzlich verboten.
• Ausnahmen sind die Suche nach Opfern oder vermissten Personen und die Abwehr konkreter Gefahren.
• Auch die Identifizierung von Verdächtigen bestimmter schwerer Straftaten ist möglich.