algoritmisk diskrimination

Algorithmische Diskriminierung bezeichnet die ungerechtfertigte oder unsachgemäße Ungleichbehandlung von Personen oder Gruppen durch algorithmenbasierte Systeme, insbesondere wenn diese in der Strafrechtspflege, bei polizeilichen Ermittlungen oder zur Unterstützung gerichtlicher Entscheidungen verwendet werden. Das Phänomen entsteht typischerweise durch verzerrte Trainingsdaten, problematische Proxy-Variablen oder Designentscheidungen, die bestimmte Bevölkerungsgruppen unverhältnismäßig belasten.

Im strafrechtlichen Kontext betrifft algorithmische Diskriminierung vor allem den Einsatz von Predictive Policing, Risikoeinschätzungsinstrumenten bei Haftentscheidungen oder algorithmischen Analysewerkzeugen bei der Strafzumessung. Die rechtliche Problematik liegt darin, dass solche Systeme fundamentale Verfahrensrechte wie das Recht auf Gleichbehandlung, den Anspruch auf ein fair es Verfahren und datenschutzrechtliche Garantien beeinträchtigen können. In der europäischen Rechtsdebatte wird besonders hervorgehoben, dass KI-Systeme in der Strafverfolgung transparent, überprüfbar und grundrechtskonform sein müssen.

In den USA existiert keine spezifische bundesstrafrechtliche Bestimmung, die algorithmische Diskriminierung als eigenständigen Tatbestand definiert. Die rechtliche Beurteilung erfolgt vielmehr über allgemeine Diskriminierungsverbote wie Title 42 U.S.C. § 2000e-2, der unrechtmäßige Diskriminierung im Beschäftigungsbereich verbietet. Im internationalen Strafrecht ist nicht der Algorithmus selbst kriminalisiert, sondern dessen Einsatz kann systematische Diskriminierung erzeugen und dadurch die Rechtssicherheit untergraben.

Die zentrale rechtliche Anforderung besteht darin, dass algorithmische Entscheidungshilfen die menschliche richterliche Entscheidungsfindung nicht ersetzen dürfen. Vielmehr müssen sie als unterstützende Werkzeuge transparent gestaltet sein, ihre Funktionsweise muss nachvollziehbar bleiben, und ihre Ergebnisse müssen einer kritischen menschlichen Überprüfung zugänglich sein. Die Verantwortung für strafrechtliche Entscheidungen muss letztlich bei menschlichen Entscheidungsträgern verbleiben, die die Kontextfaktoren und individuellen Umstände des Einzelfalls berücksichtigen können.