Ende des 19. Jahrhunderts zog ein Pferd namens Hans Jahrmarktbesucher in den Bann. Es beantwortete Fragen mit dem Klopfen eines Hufs und löste so Rechenaufgaben oder gab die Zeit an. Später stellte sich heraus, dass Hans gar nicht so klug war, sondern nur auf die Körpersprache seines Besitzers reagierte.

Die Geschichte des «Klugen Hans» versinnbildliche einen verbreiteten Mythos, schreibt die australische IT-Forscherin Kate Crawford. Nämlich den Irrglauben, «dass nichtmenschliche Systeme – seien es Computer oder Pferde – dem menschlichen Geist ähnlich seien».

Besonders wirkmächtig sei dieser Mythos auf dem Feld der IT. Dort herrsche die Meinung, dass Intelligenz maschinell hergestellt werden könne – «ohne dabei die grundlegende Tatsache zu berücksichtigen, dass Menschen körperliche und soziale Wesen sind, die in grössere Zusammenhänge eingebettet sind».

Crawford zählt zu den schärfsten Kritikerinnen der sogenannten künstlichen Intelligenz (KI). Diese sei «weder künstlich noch intelligent», sondern reproduziere nur bestehendes Wissen. Schönfärberische Begriffe wie «Cloud» («Wolke») oder «maschinelles Lernen» gäben zwar vor, dass es sich um eine saubere Technologie handle. Tatsächlich sei der grösste Raubbau im Gang, den die Menschheit je erlebt habe.

Crawford führt die Leser zu den Orten, an denen die Rohstoffe für die neue Technologie geschürft werden – trostlose, vergiftete Landstriche. Sie führt in Datenfabriken, in denen digitale Tagelöhner für Hungerlöhne Computer mit Informationen füttern. Und sie zeigt auf, wie Menschen von Maschinen vermessen und kategorisiert werden und dunkelste Wissenschaftszweige der Vergangenheit wie «Rassen- und Schädelkunde» eine Renaissance erleben.

Das «planetare Netzwerk der KI» sei eine riesige Gefahr, so die Autorin: Es zerstöre die Umwelt, verschärfe die Ungleichheit und bedrohe die Demokratie.

Kate Crawford, «Atlas der KI», C.H. Beck, München 2024, 336 Seiten, ca. 44 Franken