Gödel, Escher, Bach - ein Endloses Geflochtenes Band

Menschen fühlen, wie sie auf das reagieren, was wir sagen oder tun usw. Kurz gesagt: Wir opfern bei der Verwendung von geballten Modellen hoher Stufe den Determinismus der Einfachheit.
    Auch wenn wir nicht sicher sind, wie die Menschen auf einen Witz reagieren werden, werden wir ihn in der Erwartung erzählen, daß sie etwas tun werden wie lachen, oder nicht lachen — anstatt, sagen wir, die nächste Fahnenstange hinaufzuklettern. (Zenmeister könnten sehr wohl das letztere tun!) Ein geballtes Modell definiert einen „Raum“, in den das Verhalten fallen sollte, und gibt Wahrscheinlichkeitswerte dafür an, in welchen Teil dieses Raums es fällt.
„Computer können nur das tun, was wir ihnen
zu befehlen wissen“
    Diese Gedanken können nun sowohl auf Computerprogramme wie auf zusammengesetzte physikalische Systeme angewandt werden. Eine alte Binsenweisheit sagt: „Computer können nur das tun, was man ihnen aufträgt.“ Das stimmt in einem gewissen Sinn, aber das Wesentliche trifft es nicht. Man kennt die Folgen des Befehls an den Computer nicht; deshalb kann sein Verhalten verblüffend und überraschend und unvorhersagbar sein, wie das eines Menschen. Man weiß gewöhnlich im voraus, in welchen Raum der Output fallen wird, aber die Einzelheiten der Stelle, auf die er fällt, kennt man nicht. Man könnte zum Beispiel ein Programm schreiben, das π auf eine Million Stellen berechnet. Das Programm speit sie viel schneller aus, als der Mensch es kann; aber an der Tatsache, daß der Computer den Programmierer hinter sich läßt, ist nichts Paradoxes. Man kennt von vornherein den Bereich, in den der Output zu liegen kommen wird, nämlich den Bereich der Ziffern zwischen 0 und 9, und das bedeutet, daß man es mit einem geballten Verhaltensmodell des Programms zu tun hat; hätte man aber den Rest gekannt, so hätte man das Programm nicht geschrieben.
    Noch in einem anderen Sinn ist die oben genannte Weisheit etwas in die Binsen gegangen. Das hängt mit der Tatsache zusammen, daß man in dem Maße, in dem man in Sprachen immer höherer Stufe programmiert, immer weniger genau weiß, was man dem Computer befohlen hat! Schichten um Schichten von Übersetzungen können das „vordere Ende“ eines komplexen Systems von den tatsächlichen Befehlen in der Maschinensprache trennen. Auf der Stufe, auf der man denkt und programmiert, ähneln die Aufgaben vielleicht eher Erklärungen und Vorschlägen als Befehlen oder Vorschriften. Und das ganze innere Grollen, das durch den Input einer Aussage auf hoher Stufe ausgelöst wird, ist im allgemeinen unsichtbar, genau so wie einem beim Genuß eines Butterbrots das Bewußtsein des Verdauungsprozesses, den es auslöst, erspart bleibt.
    Auf jeden Fall: diese Vorstellung, ein Computer könne nur das tun, was „wir ihm zu befehlen wissen“, die zum ersten Mal Lady Lovelace in ihrer berühmten Denkschrift formuliert hat, ist so weit verbreitet, und so eng mit der Vorstellung „Computer können nicht denken“ verknüpft, daß wir in einem späteren Kapitel, wenn unser Geist für solche Dinge geschärft ist, darauf zurückkommen werden.
Zweierlei Systeme
    Es gibt zwei Typen von aus vielen Teilen zusammengesetzten Systemen, die sich in bedeutender Hinsicht unterscheiden. Da sind einerseits die Systeme, bei denen das Verhalten gewisser Teile dahin tendiert, das Verhalten anderer Teile aufzuheben. Daraus ergibt sich, daß es nicht allzu wichtig ist, was auf den tieferen Stufen geschieht, weil auf höherer Stufe fast alles sich ähnlich verhält. Ein Beispiel für ein System dieser Art ist ein mit Gas gefülltes Gefäß, in dem alle Moleküle auf sehr komplizierte mikroskopische Weise gegeneinander stoßen und prallen, aber insgesamt, vom makroskopischenStandpunkt aus gesehen, ist dies ein sehr ruhiges, „stabiles“ System mit einer gewissen Temperatur, einem gewissen Volumen und einem gewissen Druck. Sodann gibt es Systeme, in denen die Wirkung eines einzigen Ereignisses auf tiefer Stufe sich zu enormen Konsequenzen auf hoher Stufe vergrößert. Ein solches System ist ein Flipper, bei dem der genaue Winkel, unter dem eine Kugel jeden „Bumper“ trifft, für die Bestimmung ihres weiteren Wegs nach unten entscheidend ist.
    Ein Computer ist eine ausgeklügelte Kombination dieser zwei Systemtypen. Er enthält Bestandteile wie zum Beispiel Drähte, deren Verhalten mit großer Sicherheit vorausgesagt werden kann: Sie leiten Elektrizität gemäß dem Ohmschen Gesetz, einem sehr genauen,