Des Kaisers neue Algorithmen

Das Big-Data-Programm ist nicht besser als eine Zufallsgruppe von Menschen, die aus dem Bauch heraus entscheiden

Eine Studie stellt Programme bzw. Algorithmen in Frage, die Vorhersagen über künftiges Verhalten von Menschen machen (preditive analytics). In den USA wird das Programm Correctional Offender Management Profiling for Alternative Sanctions (COMPAS), das mittlerweile equivant heißt, vielfach auch von Gerichten eingesetzt, um das Risiko abzuschätzen, ob Straftäter wieder rückfällig werden. Solche Beurteilungen haben Folgen für die Betroffenen und können beispielsweise das Strafmaß beeinflussen. Aber das Programm, das angeblich neutral viele Parameter in die Vorhersage einbezieht, arbeitet nicht besser als Menschen, die keine Ahnung von der Rechtsprechung haben.

Predictive Analytics oder Vorhersageprogramme, die mit großen Datenmengen (Big Data) und Maschinenlernen arbeiten, werden für viele Zwecke eingesetzt oder entwickelt. So will man damit das Risiko von Erkrankungen oder die Wahrscheinlichkeit des Begehens von Straftaten in der Zukunft berechnen, um präventiv handeln zu können. Sagt das Programm, dass etwa in einem Stadtviertel zu einer bestimmten Zeit vermehrt Einbrüche oder Gewaltverbrechen zu erwarten sind, werden dort verstärkt Polizeikontrollen durchgeführt. Mit Prädiktiven Algorithmen kann auch die Kreditfähigkeit, die Jobeignung oder die beste Möglichkeit errechnet werden, wann und wo Werbung geschaltet oder Angebote gemacht werden sollen.

Die Wissenschaftler des Dartmouth College haben mit COMPAS bzw. equivant eines der Programme untersucht, die Entscheidungen mit nachhaltigen Folgen beeinflussen. Das Programm kam 1998 auf den Markt, seit 2000 wurden eine Million Angeklagte beurteilt, mit welcher Wahrscheinlichkeit sie innerhalb von zwei Jahren wieder rückfällig werden können. Dafür werden 137 Eigenschaften der geprüften Person ausgewertet. Untersuchungen stellten bereits heraus, dass das Programm nicht zuverlässig ist und rassistische Vorurteile pflegt. Es bezieht zwar nicht direkt die ethnische Herkunft der Personen ein, die aber durch verschiedene Merkmale einfließt. Zwar ist die Genauigkeit der Vorhersage bei Weißen und Schwarzen in etwa gleich hoch, aber es werden doppelt so viele Schwarze falsch beurteilt als Weiße. Rückfälligkeit wird danach beurteilt, ob Menschen erneut in Haft kommen. Allein das verzerrt bereits das Bild, weil Schwarze beispielsweise wegen Drogen viermal so häufig wie Weiße inhaftiert werden.
mehr:
- Algorithmus zur Vorhersage der Rückfälligkeit von Straftätern: Blendwerk an Komplexität (Florian Rötzer, Telepolis, 19.01.2018)

mein Kommentar:
Wie lange wird es dauern, bis mir eine Flugreise mit der Begründung verwehrt wird, daß jemand, der so aussieht wie ich in der Stadt XY heute einen Bombenanschlag ausführen wird?