Schnelles Denken, langsames Denken (German Edition)

Mensch mit einer Maschine konkurriert – ob es der legendäre John Henry war, der beim Stollenbau mit seinem mechanischen Hammer gegen einen dampfbetriebenen Hammer antrat, oder das Schachgenie Garri Kasparow, der gegen den Computer Deep Blue antrat –, gelten unsere Sympathien unserem Mitmenschen. Die Abneigung gegen Entscheidungen von Algorithmen, die sich auf Menschen auswirken, wurzelt in der starken Präferenz vieler Menschen für das Natürliche im Gegensatz zum Künstlichen. Gefragt, ob sie lieber einen Bio-Apfel oder einen Apfel aus herkömmlichem Anbau essen würden, ziehen die meisten Menschen den »natürlichen« Apfel vor. Selbst wenn man sie darüber informiert hat, dass die beiden Äpfel genau gleich schmecken, den gleichen Nährwert haben und gleich gesundheitsfördernd sind, zieht eine Mehrheit weiterhin den Bio-Apfel vor. 12 Selbst Bierproduzenten haben festgestellt, dass sie ihren Absatz steigern können, wenn sie »naturbelassen« oder »ohne Zusatz von Konservierungsstoffen« auf das Etikett schreiben.
    Der tiefe Widerstand gegen die Entzauberung des Expertentums zeigt sich in der Reaktion der europäischen Weinliebhaber auf Ashenfelters Formel für die Vorhersage des Preises von Bordeauxweinen. Ashenfelters Formel war ein
Geschenk des Himmels: Daher hätte man erwarten sollen, dass ihm Weinliebhaber überall dankbar dafür wären, nachweislich ihre Fähigkeit verbessert zu haben, jene Weine zu identifizieren, die später einmal von vorzüglicher Qualität wären. Weit gefehlt. Die Reaktion in französischen Weinkreisen, schrieb die New York Times , »bewegte sich zwischen Empörung und Hysterie«. Ashenfelter berichtet, ein Weinkenner habe seine Ergebnisse als »haarsträubend und absurd« bezeichnet. Ein anderer spottete: »Es ist so, als würde man Kinofilme beurteilen, ohne sie gesehen zu haben.«
    Das Vorurteil gegen Algorithmen verstärkt sich, wenn die Entscheidungen folgenreich sind. Meehl bemerkte: »Ich weiß nicht, wie ich das Entsetzen lindern kann, das einige Kliniker überkommt, wenn sie sich vorstellen, dass einem behandelbaren Fall nur deshalb die Behandlung vorenthalten wird, weil ihn eine ›blinde, mechanische‹ Gleichung falsch klassifiziert.« Dagegen haben Meehl und andere Verfechter des Einsatzes von Algorithmen sehr entschieden behauptet, es sei unethisch, sich bei wichtigen Entscheidungen auf intuitive Urteile zu verlassen, wenn ein Algorithmus verfügbar ist, der weniger Fehler macht. Ihre rationale Argumentation ist schlüssig, aber sie widerspricht einer hartnäckigen psychologischen Tatsache: Für die meisten Menschen ist die Ursache eines Fehlers von Bedeutung. Die Geschichte eines Kindes, das gestorben ist, weil ein Algorithmus einen Fehler gemacht hat, ist ergreifender als die Geschichte derselben Tragödie, die auf einen menschlichen Fehler zurückzuführen ist, und die unterschiedliche emotionale Intensität wird bereitwillig in eine moralische Präferenz übersetzt.
    Glücklicherweise wird die Ablehnung von Algorithmen vermutlich in dem Maße zurückgehen, wie sie im Alltagsleben eine immer größere Rolle spielen werden. Auf der Suche nach Büchern oder Musik, die wir mögen, schätzen wir die von Software generierten Empfehlungen. Wir nehmen es als selbstverständlich hin, dass menschliche Urteilskraft keinen direkten Einfluss mehr auf Entscheidungen über Kreditlinien ausübt. Wir sind in zunehmendem Maße Richtlinien ausgesetzt, die die Form einfacher Algorithmen haben, wie etwa das Verhältnis von »gutem« und »schlechtem« Cholesterin, nach dem wir streben sollten. Die Bevölkerung ist sich mittlerweile durchaus der Tatsache bewusst, dass bei einigen kritischen Entscheidungen in der Welt des Sports Formeln leistungsfähiger sind als Menschen: Wie viel sollte ein Profiteam für bestimmte Nachwuchsspieler zahlen, oder wann sollte man beim American Football beim vierten Versuch einen sogenannten Punt-Spielzug versuchen? Die stetig länger werdende Liste von Aufgaben, mit denen Algorithmen betraut werden, sollte
langfristig das Unbehagen vermindern, das die meisten Menschen empfinden, wenn sie zum ersten Mal dem Muster der Ergebnisse begegnen, das Meehl in seinem verstörenden kleinen Buch beschrieben hat.

Von Paul Meehl lernen
    Als 21-jähriger Leutnant in der israelischen Armee sollte ich 1955 ein Interviewsystem für die gesamte Armee entwickeln. Falls Sie sich fragen sollten, wieso einem so jungen Offizier eine so verantwortungsvolle Aufgabe