Gödel, Escher, Bach - ein Endloses Geflochtenes Band

Entscheidung beeinflussen. Nun haben wir hier ein Beispiel für ein Programm, das ganz nach physikalischen Gesetzen abläuft und das viel näher an das Wesen des Wählens herankommt als die vorhergehenden Beispiele. Wenn die geballte Vorstellung von sich selbst, die der Roboter besitzt, die Szene betritt, beginnen wir uns mit dem Roboter zu identifizieren, denn was er tut, sieht aus wie Dinge, die auch wir tun. Es ist nicht mehr wie bei der Berechnung der Quadratwurzel von 2, wo anscheinend keine Symbole die gefällten Entscheidungen überwachen. Gewiß, wenn wir das Programm des Roboters auf einer sehr lokalen Ebene betrachteten, sähe es genau wie das Quadratwurzel-Programm aus. Ein Schritt nach dem anderen wird ausgeführt, und am Ende ist der Output „Links“ oder „Rechts“. Auf einer höheren Stufe jedoch können wir erkennen, daß Symbole verwendet werden, um ein Modell der Situation zu geben und die Entscheidung zu treffen. Das beeinflußt die Art, wie wir über das Programm denken, radikal. In dieser Phase ist die Bedeutung auf den Plan getreten — die gleiche Art von Bedeutung wie die, mit der wir in unserem Geist umgehen.
Ein Gödel-Strudel, in dem alle Ebenen sich überschneiden
    Wenn nun ein Außenstehender dem Roboter als nächste Wahl „L“ vorschlägt, nimmt dieser den Vorschlag auf und leitet ihn in die wirbelnde Masse interagierender Symbole. Dort wird es unvermeidlicherweise in die Wechselwirkung mit dem Selbst-Symbol hineingesaugt, wie ein Ruderboot in einen Wasserstrudel hineingezogen wird. Das ist der Strudel des Systems, in dem alle Ebenen sich überschneiden. Hier stößt das „L“ auf eine Verwickelte Hierarchie von Symbolen und wird von der einen Stufe zur anderen, hinauf und hinunter geschoben. Das Selbst-Symbol ist unfähig, alle Vorgänge in seinem Inneren zu überwachen, und wenn dann die tatsächliche Entscheidung auftaucht — „L“, „R“ oder etwas außerhalb des Systems —, kann das System nicht sagen, woher sie stammt. Im Gegensatz zu einem gewöhnlichen Schachprogramm, dassich selbst nicht überwacht und infolgedessen keine Vorstellung davon hat, woher seine Züge kommen, überwacht sich dieses Programm selbst und hat Ideen über seine eigenen Ideen, kann aber seine eigenen Prozesse nicht bis ins letzte Detail überwachen und hat deshalb eine Art intuitives Gefühl für seine Funktionen, aber kein volles Verständnis. Aus dem Gleichgewicht zwischen Kenntnis und Unkenntnis seiner selbst erwächst das Gefühl des freien Willens.
    Man denke etwa an einen Schriftsteller, der versucht, gewisse Ideen zu vermitteln, die für ihn in mentalen Bildern enthalten sind. Darüber, wie diese Bilder in seinem Geist zusammenpassen, ist er nicht ganz sicher, und so probiert er herum, drückt die Dinge erst auf eine Weise und dann wieder auf eine andere aus, und entscheidet sich schließlich für eine der Varianten. Weiß er aber, woher das alles kam? Nur ganz vage. Vieles vom Ursprung ist wie bei einem Eisberg unsichtbar unter Wasser, und das weiß er. Oder man denke an ein Programm für musikalische Kompositionen, etwas, was wir früher besprochen haben. Wir fragten uns, wann wir damit einverstanden wären, es als Komponisten und nicht als Werkzeug eines Komponisten zu bezeichnen. Wir wären wohl einverstanden, wenn Selbsterkenntnis in Symbolen innerhalb des Programms vorhanden ist, und wenn das Programm diese delikate Ausgewogenheit zwischen Kenntnis und Unkenntnis seiner selbst besitzt. Ob das System deterministisch abläuft, ist ohne Belang; wir lassen gelten, daß es „frei wählt“, weil wir uns mit einer Beschreibung auf hoher Stufe desjenigen Prozesses, der beim Ablauf des Programms stattfindet, identieren können. Auf einer tieferen Stufe (Maschinensprache) sieht das Programm wie jedes andere aus: auf einer hohen (geballten) können Dinge wie „Wille“, „Intuition“, „Kreativität“ und „Bewußtsein“ auftauchen.
    Dabei ist wichtig, daß dieser Selbst-„Strudel“ an der Verwickeltheit, der „Gödelität“ der mentalen Prozesse schuld ist. Man hat mir gelegentlich schon gesagt: „Diese Geschichten mit Selbstbezüglichkeit usw. sind ja ganz hübsch und amüsant, aber glauben Sie tatsächlich, daß irgend etwas daran ernst zu nehmen sei?“ Ganz gewiß tue ich das! Ich glaube, daß es sich schließlich als Grundprinzip der AI erweisen wird und als Brennpunkt aller Versuche, das Funktionieren des menschlichen Geistes zu erklären. Und das ist der Grund, warum