Gödel, Escher, Bach - ein Endloses Geflochtenes Band

„mechanische Automaten“, d. h. Computer, unerreichbar ist. Lucas beginnt seinen Artikel „Minds, Machines and Gödel“ mit den folgenden Worten:
    Gödels Satz scheint mir zu beweisen, daß die mechanistische Auffassung falsch ist, d. h., daß der Geist nicht als Maschine zu erklären ist. 1
    Er fährt darauf mit einem Argument fort, das etwa wie folgt formuliert werden kann: Damit man einen Computer als so intelligent wie einen Menschen betrachten kann, muß er jede intellektuelle Aufgabe ausführen können, die ein Mensch ausführen kann. Nun behauptet Lucas, daß kein Computer eine „Gödelisierung“ (einer seiner amüsant-respektlosen Ausdrücke) so durchführen kann, wie Menschen das können. Warum nicht? Nun, man nehme ein beliebiges formales System wie TNT, oder TNT+G, oder sogar TNT+G ω. Man kann ohne große Schwierigkeiten ein Computerprogramm entwerfen, das systematisch S ÄTZE jenes Systems erzeugt, und zwar auf solche Weise, daß schließlich jeder vorher ausgewählte S ATZ ausgedruckt wird. Das bedeutet, daß das S ÄTZE erzeugende Programm keinen Teil des „Raums“ aller S ÄTZE ausläßt. Ein solches Programm wäre aus zwei Hauptteilen zusammengesetzt: 1) ein Unterprogramm, das Axiome gemäß den » Formen“ der Axiomenschemata prägt (falls solche vorhanden sind) und 2) ein Unterprogramm, das bekannte S ÄTZE nimmt (natürlich einschließlich der Axiome) und Folgerungsregeln anwendet, um neue S ÄTZE zu erzeugen. Das Programm wird abwechselnd erst das eine und dann das andere dieser Unterprogramme laufen lassen.
    Wir können vom anthropomorphen Standpunkt sagen, daß dieses Programm gewisse Tatsachen der Zahlentheorie „weiß“ — nämlich die Tatsachen, die es ausdruckt. Wenn es eine wahre Tatsache der Zahlentheorie nicht ausdruckt, dann „weiß“es natürlich diese Tatsache nicht. Deshalb wird ein Computerprogramm menschlichem Denken unterlegen sein, wenn es sich zeigen läßt, daß Menschen etwas wissen, was das Programm nicht wissen kann. Und hier beginnt Lucas zu rotieren. Er sagt, daß wir Gödels Trick auf jedes formale System anwenden können, das so leistungsfähig ist wie TNT — und daher mehr wissen als jedes formale System, welcher Art es auch immer sei. Nun klingt dies wie ein bloß auf formale Systeme bezogenes Argument, aber es kann etwas modifiziert werden, so daß es zu einem anscheinend unwiderlegbaren Argument dagegen wird, daß Artifizielle Intelligenz jemals das Niveau menschlicher Intelligenz wird erreichen können. Dies ist der Kern der Sache:
    Rigide interne Codes erleuchten regelrecht Computer, auch Roboter; ergo ...
    Sind Computer formalen Systemen isomorph. Nun ...
    Muß jeder Computer, der so gescheit sein will wie wir, die Zahlentheorie so gut beherrschen wie wir, somit ...
    Muß er unter anderem die primitiv-rekursive Arithmetik beherrschen. Aber aus eben diesem Grund ...
    Ist er durch den Gödelschen „Haken“ verwundbar, und das impliziert, daß ...
    Wir, mit unserer menschlichen Intelligenz, eine gewisse zahlentheoretische Aussage zusammenbrauen können, die wahr ist; der Computer jedoch ist der Wahrheit der Aussage gegenüber blind (d. h. er wird sie niemals ausdrucken) — eben wegen des Gödelschen Bumerangarguments.
    Das impliziert, daß es etwas gibt, das zu tun die Computer einfach nicht programmiert werden können, uns aber sehr wohl möglich ist. Wir sind also die Gescheiteren.
    Erfreuen wir uns also mit Lucas eines kurzen Augenblicks anthropozentrischer Herrlichkeit:
    So kompliziert eine von uns konstruierte Maschine auch sein mag, wird sie, wenn sie eine Maschine ist, einem formalen System entsprechen, das seinerseits gegenüber Gödels Verfahren zur Auffindung einer in diesem System unbeweisbaren Formel verwundbar ist. Die Maschine wird nicht fähig sein, diese Formel als wahr auszuweisen, während der menschliche Geist sehen kann, daß sie wahr ist. Und deshalb wird die Maschine noch immer kein zureichendes Modell des menschlichen Geistes sein. Wir versuchen, ein Modell des Geistes herzustellen, das mechanisch seiner Natur nach „tot“ — ist, aber der Geist, der ja „lebendig“ ist, ist jedem formalen, verhärteten, toten System immer einen Schritt voraus. Dank Gödels Satz hat der Geist immer das letzte Wort. 2
    Auf den ersten Blick und sogar vielleicht nach eingehender Prüfung klingt Lucas' Argument zwingend. Es ruft im allgemeinen ziemlich entgegengesetzte Reaktionen hervor. Die einen greifen es begierig auf als einen beinahe