Schöpfung außer Kontrolle: Wie die Technik uns benutzt

ist, wie viele Elektromotoren in unserer unmittelbaren Umgebung vor sich hin surren. Diese Welt wird vermutlich nicht besser oder schlechter sein als die heutige, aber um mehrere Größenordnungen komplexer. Und sie wird uns vor neue Herausforderungen stellen.
    »Lassen Sie uns annehmen, es gelingt den Computerwissenschaftlern, intelligente Maschinen zu entwickeln, die alle Dinge besser erledigen als Menschen. In diesem Fall wird vermutlich alle Arbeit von riesigen, hochkomplexen Maschinensystemen erledigt, ohne dass menschlicher Aufwand notwendig ist. Wenn dies geschieht, gibt es zwei Möglichkeiten: Entweder die Maschinen entscheiden vollkommen autonom, oder es bleibt eine gewisse Kontrolle der Menschen über die Maschinen erhalten.
    Wenn die Maschinen alle Entscheidungen allein treffen, lässt sich nicht Vorhersagen, was das Ergebnis wäre, denn wir können unmöglich wissen, wie diese Maschinen sich verhalten würden. Wir wollen nur darauf hinweisen, dass die Menschheit dann der Gnade der Maschinen ausgeliefert wäre.
    Man könnte argumentieren, dass die Menschen niemals dumm genug wären, alle Macht den Maschinen zu geben. Aber wir unterstellen auch weder, dass die Menschen die Macht freiwillig abgeben, noch, dass die Maschinen aktiv nach der Macht greifen werden. Was wir nahelegen, ist, dass die Menschheit sich leicht in eine solche Abhängigkeit von der Technik manövrieren könnte, dass ihr praktisch keine andere Wahl bliebe, als alle Entscheidungen der Maschinen zu akzeptieren.
    In dem Maße, wie die Gesellschaft und die Probleme, die sie betreffen, komplexer werden und die Intelligenz der Maschinen zunimmt, werden Menschen den Maschinen immer mehr Entscheidungen übertragen, einfach weil die Entscheidungen der Maschinen bessere Ergebnisse produzieren als die von Menschen getroffenen. Irgendwann könnte dann eine Situation eintreten, in der die notwendigen Entscheidungen so komplex sind, dass Menschen sie gar nicht mehr sinnvoll treffen können. Dann werden die Menschen die Maschinen nicht einfach abschalten können, weil sie so abhängig von ihnen sein werden, dass deren Abschaltung einem Selbstmord gleichkäme.«
    Die vorstehenden Zeilen stammen von Theodore Ka-czynski, dem sogenannten »Una-Bomber«, der in den achtziger Jahren mehrere Attentate auf wissenschaftliche Einrichtungen verübte und drei Menschen tötete. (Das Zitat stammt aus dem Buch »The Age of Spiritual Machines« von Ray Kurzweil, die sinngemäße Übersetzung von mir.)
    Kaczynskis Taten sind durch nichts zu rechtfertigen, aber seine obige Aussage hat eine beklemmende Logik. Tatsächlich gibt es schon heute viele Bereiche, in denen wir Maschinen die Entscheidungen treffen lassen, beispielsweise, weil Menschen nicht schnell genug reagieren können. Moderne Autos verfügen über elektronische Stabilitätssysteme, die in Grenzsituationen die Kontrolle über das Gefährt übernehmen. An der Börse werden inzwischen viele Kauf- und Verkaufsentscheidungen von Computern getroffen, die viel schneller auf Trends und Schwankungen reagieren können als Menschen, was einen Teil der immer heftigeren Kursausschläge erklärt. Sofern diese Entscheidungen im Durchschnitt besser sind als die von Menschen, gibt es wenig Grund, daran etwas zu ändern - im Gegenteil wird die Menge der Bereiche, in denen wir Maschinen die Entscheidung überlassen, mit Sicherheit zunehmen.
    Dies kann natürlich im Einzelfall auch negative Konsequenzen haben. Als im März 2008 ein Airbus beim Landeanflug auf den Flughafen Hamburg mit einer Tragfläche die Landebahn streifte und es beinahe eine Katastrophe gegeben hätte, hatte ein Computer die »Hand im Spiel«. Die Pilotin hatte versucht, eine plötzlich aufgekommene Seitenwind-Bö durch entsprechende Leitwerkssteuerung auszugleichen. Der Computer jedoch entschied anders: Da eines der Räder des Airbuses bereits auf der Landebahn aufgesetzt hatte, war er in den Bodensteuerungs-Modus gesprungen und hatte die Steuerbewegungen der Pilotin künstlich begrenzt.
    Dieses Ereignis heizte eine Diskussion über die Frage an, was Piloten im Cockpit eigentlich noch dürfen - böse Zungen bezeichnen sie bereits als »bestbezahlte Passagiere«. Der Hersteller Airbus argumentierte allerdings nicht zu Unrecht, dass die Bordelektronik insgesamt wesentlich mehr Unfälle aufgrund menschlicher Fehler verhindert habe, als durch Fehlfunktion entstanden seien. So oder so wird die Konsequenz aus diesem Ereignis am Ende kaum sein, dass die