PUB - Publikationen an der Universität Bielefeld

Algorithmen werden in Gerichten eingesetzt, z. B. zur Rückfälligkeitsvorhersage. Dies ruft Assoziationen zum Subsumtionsautomaten des 19. Jahrhunderts hervor und fügt sich nahtlos in die Kritik des Solutionismus ein, soziale Probleme würden zunehmend technisch gelöst. Die Untersuchung von zwei vielfach verwendeten und diskutierten Beispielen (COMPAS, PSA) zeigt allerdings, dass an entscheidenden Stellen gerade nicht auf Technik gesetzt wird. Um den Algorithmus fair zu gestalten, werden nicht technische Schnittstellen, sondern Beteiligungsformate gefordert. Nicht nur hierfür, sondern an vielen Stellen der Entwicklung von Algorithmen im Recht wird auf soziologisches Wissen zurückgegriffen. Entgegen der Kritik, Soziologie müsse praxisrelevanter werden, lässt sich hieran zeigen, dass in der Praxis Soziologie längst eingesetzt wird, allerdings nicht als kritische Beobachterin.

---

Algorithms have entered courts, e. g. via scores assessing recidivism. The 19th century topos “subsumtion automat” as well as the recent notion of solutionism seem to coincide in warning of social problems getting increasingly fixed technologically. Analyzing two of the most prominent examples for legal algorithms (COMPAS, PSA) shows that crucial problems are not (only) tackled by technical means. To design a fair algorithm, for instance, stakeholder procedures should precede technical tweaks. Diffusion of these algorithms is triggered with the help of sociological knowledge. Against lines of criticism calling for a more applicable sociology, such developments rather show that practice makes use of sociology long since, yet not in terms of critical observation.