Gödel, Escher, Bach - ein Endloses Geflochtenes Band

rational. Gleichermaßen sind die symbolischen Vorgänge auf hoher Stufe, die im Gehirn die Erfahrung der Schönheit schaffen, auf der unteren Ebene, wo das fehlerfreie Funktionieren stattfindet, durchaus rational; jede etwaige Irrationalität liegt auf einer höheren Ebene und ist ein Epiphänomen — eine Folgeerscheinung — der Vorgänge auf der tieferen Stufe.
    Um es noch mit anderen Worten zu sagen: nehmen wir an, es falle jemandem schwer zu entscheiden, ob er seinen Hamburger mit Käse oder mit Ananas bestellen soll. Heißt das, daß seine Neuronen ebenfalls zögern und bei der Entscheidung, ob sie sich erregen lassen sollen oder nicht, Schwierigkeiten haben? Natürlich nicht. Die Unentschlossenheit bei der Wahl des Hamburgers ist ein Zustand hoher Stufe, der vollständig von der Erregung von Tausenden von Neuronen in äußerst straff organisierter Art und Weise abhängt. Das ist ein bißchen ironisch, denkt man aber darüber nach, so liegt es auf der Hand. Dennoch ist es wahrscheinlich fair zu sagen, daß fast alle Verwirrung über Gehirne und Computer ihren Ursprung in eben solch elementaren Verwirrungen zwischen verschiedenen Ebenen hat.
    Es besteht kein Grund zu der Annahme, daß fehlerfrei funktionierende Hardware ein solches Verhalten nicht tragen könne, das so komplizierte Zustände wie Verwirrung, Vergessen und Erfahrung von Schönheit repräsentieren würde. Man müßte umfangreiche Teilsysteme voraussetzen, die nach einer komplexen „Logik“ miteinander interagieren. Das zutage liegende Verhalten könnte entweder rational oder irrational erscheinen, aber darunter läge die Leistung zuverlässiger logischer Hardware.
Noch einmal: Haut den Lucas!
    Übrigens liefert uns diese Art von Unterscheidung zwischen verschiedenen Stufen neue Munition in unserer Auseinandersetzung mit Lucas. Sein Argument beruht auf der Vorstellung, daß Gödels Satz definitionsgemäß auf Maschinen anwendbar ist. Das betont Lucas mit großem Nachdruck:
    Gödels Satz muß für kybernetische Maschinen gelten, weil es zum Wesen der Maschine gehört, daß sie ein konkretes Beispiel eines formalen Systems ist. 9
    Wie wir gesehen haben, trifft das auf der Hardware-Stufe zu; da es aber noch höhere Stufen geben kann, ist das nicht das letzte Wort zu diesem Thema. Nun erweckt Lucas den Eindruck, daß es in jenen den Geist imitierenden Maschinen, von denen erspricht, nur eine Stufe gibt, auf der die Manipulation von Symbolen stattfindet. Zum Beispiel könnte die Abtrennungsregel (die er in seinem Artikel „Modus ponens“ nennt) in der Hardware verdrahtet sein und wäre dann eine unabänderliche Eigenschaft einer solchen Maschine. Er geht noch weiter und gibt zu verstehen: Wenn der Modus ponens kein unabdingbarer Pfeiler des Systems der Maschine wäre, sondern sie sich gelegentlich darüber hinwegsetzen könne, hätte
    ... das System ... aufgehört, ein formal logisches System zu sein, und die Maschine kann kaum als Modell des Geistes genommen werden. 10
    Nun haben viele AI-Forschungsprogramme mit Programmen mit feststehenden Folgerungsregeln und feststehenden Mengen von Axiomen zur Erzeugung von allgemeinen zahlentheoretischen Wahrheiten sehr wenig zu tun. Und doch sind sie gewiß als „Modell des Geistes“ gedacht. Auf ihrer obersten, der „informalen“ Stufe, kann die Manipulation von Bildern, die Formulierung von Analogien, das Vergessen von Gedanken, die Verwirrung von Begriffen, das Verwischen von Unterschieden usw. stattfinden. Das jedoch widerspricht der Tatsache nicht, daß sie ebenso auf dem korrekten Funktionieren der zugrundeliegenden Hardware beruhen, wie das Gehirn von der richtigen Funktion seiner Neuronen abhängt. AI-Programme sind also noch immer „konkrete Beispiele formaler Systeme“ — aber Maschinen, auf die Lucas' Ummodelung von Gödels Beweis anzuwenden wäre, sind sie nicht. Lucas' Argument gilt nur für die unterste Stufe, und die Intelligenz, so groß oder klein sie sein mag, liegt nicht dort.
    Lucas verrät seine allzu sehr vereinfachte Vorstellung davon, wie Gehirnprozesse in Computerprogrammen darzustellen wären, noch auf andere Weise. In seiner Erörterung der Widerspruchsfreiheit schreibt er:
    Wären wir tatsächlich widerspruchsvolle Maschinen, sollten wir uns mit unseren Widersprüchen abfinden, und wieder ganz glücklich beide Hälften einer widersprüchlichen Behauptung bejahen. Zudem wären wir bereit, absolut alles zu sagen und das sind wir nicht. Man kann leicht beweisen, daß sich in