Buchtipp: Vorhersagen kritisch prüfen, wenn es um Menschen geht
In ihrem Buch «Ein Algorithmus hat kein Taktgefühl» zeigt die Autorin Katharina Zweig, wie Algorithmen funktionieren. Und weshalb es nicht ratsam ist, sich auf sie zu verlassen.
Inhalt
saldo 13/2023
29.08.2023
Mirjam Fonti
Netflix schlägt den Abonnenten aufgrund ihrer bisherigen Vorlieben Filme und Serien vor, die zu ihnen passen könnten. Und im Internet erhalten die Surfer Werbung von Produkten, die sie gestützt auf ihr Surfverhalten interessieren sollte. Wenn solche programmierten Algorithmen fehlerhaft sind, ist das nicht weiter schlimm. Anders sieht es aus, wenn Programme entscheiden, ob jemand kreditwürdig ist. Oder wenn Algorithmen berechnen, wie wahrscheinlich es ist, d...
Netflix schlägt den Abonnenten aufgrund ihrer bisherigen Vorlieben Filme und Serien vor, die zu ihnen passen könnten. Und im Internet erhalten die Surfer Werbung von Produkten, die sie gestützt auf ihr Surfverhalten interessieren sollte. Wenn solche programmierten Algorithmen fehlerhaft sind, ist das nicht weiter schlimm. Anders sieht es aus, wenn Programme entscheiden, ob jemand kreditwürdig ist. Oder wenn Algorithmen berechnen, wie wahrscheinlich es ist, dass ein Straftäter rückfällig wird.
Katharina Zweig beschreibt ein solches Beispiel aus den USA: Die Fehlerquote der Vorhersage lag bei schweren Gewalttaten bei 75 Prozent. Von allen Entlassenen, die der Algorithmus in eine Hochrisikogruppe für Rückfälligkeit einteilte, beging nur jeder vierte tatsächlich später eine schwere Straftat. Dass die Vorhersage so ungenau war, lag laut Zweig auch an den gewählten Kriterien: So wurde zum Beispiel gewichtet, ob sich die Eltern früh scheiden liessen. Anhand dieses und weiterer Beispiele zeigt die Autorin, dass der Mensch entscheidet, wie Algorithmen arbeiten und wie sie eingesetzt werden.
Zu Verzerrungen kann es auch kommen, indem die Programme in der Gesellschaft vorhandene Diskriminierungen übernehmen und in der Folge selbst anwenden. Deshalb fordert die Autorin dazu auf, Algorithmen kritisch zu prüfen, wenn es um die Bewertung von Menschen geht.
Das Buch bietet technisch Interessierten spannende Einblicke in den Aufbau und die Funktionalität von Algorithmen.
Katharina Zweig, «Ein Algorithmus hat kein Taktgefühl», Heyne, München 2019, 320 Seiten, ca. 25 Franken
