Gödel, Escher, Bach - ein Endloses Geflochtenes Band

repräsentieren wäre äußerst komplex und würde die gemeinsame Aktivierung der Begriffe „Mensch“, „Flugzeug“, „Tod“, „Fallschirm“, „Fall“ usw. bedingen.
Intelligenz und Gefühl
    Oder man betrachte diese winzige, aber ergreifende Geschichte:
    Margie hielt die Schnur ihres schönen neuen Ballons ganz fest. Plötzlich erfaßte ihn ein Windstoß. Der Wind trug ihn in einen Baum. Der Ballon stieß an einen Ast und zerplatzte. Margie weinte und weinte. 4
    Um diese Geschichte zu verstehen, muß man viele Dinge zwischen den Zeilen lesen. Zum Beispiel: Margie ist ein kleines Mädchen. Es handelt sich um einen Spielzeugballon mit einer Schnur, an der das Kind ihn halten kann. Für einen Erwachsenen ist er vielleicht nicht schön, wohl aber im Auge eines Kindes. Das „ihn“, das der Wind erfaßte, war der Ballon. Der Wind zog Margie nicht mit dem Ballon fort. Margie ließ los. Ballone können platzen, wenn sie mit etwas Spitzem in Berührung kommen. Wenn sie einmal zerplatzt sind, sind sie für immer zerstört. Kleine Kinder lieben Ballone, und können bitter enttäuscht sein, wenn sie zerplatzen. Margie sah, daß der Ballon zerplatzt war. Kinder weinen, wenn sie traurig sind. „Weinen und weinen“ heißt, sehr lange und sehr stark weinen. Margie weinte und weinte, weil sie über das Zerplatzen ihres Ballons traurig war.
    Dies ist wahrscheinlich nur ein kleiner Bruchteil von dem, was auf der Oberfläche fehlt. Ein Programm muß all dieses Wissen haben, um zu begreifen, was geschieht. Man könnte einwenden, daß das Programm, sogar wenn es in irgendeinem intellektuellen Sinn „versteht“, was gesagt wurde, nie wirklich verstehen wird, bis es auch geweint und geweint hat. Und wann wird ein Computer das tun? Mit humanistischen Überlegungen dieser Art beschäftigt sich Joseph Weizenbaum in seinem Buch Die Macht der Computer und die Ohnmacht der Vernunft, und ich halte dies für ein wichtiges Problem, ein außerordentlich tiefgreifendes Problem. Leider sind im Augenblick viele AI-Forscher aus verschiedenen Gründen nicht bereit, Fragen dieser Art ernst zu nehmen. In einem gewissen Sinn jedoch haben die AI-Forscher recht: Es ist etwas verfrüht, an weinende Computer zu denken, zuerst müssen wir uns Regeln ausdenken, die mit Sprache — und anderem — zu tun haben. Mit der Zeit werden wir uns dann diesen tiefergreifenden Fragen gegenübersehen.
AI hat einen langen Weg vor sich
    Manchmal scheint beim Menschen ein so völliger Mangel an regelgesteuertem Verhalten vorzuliegen, daß er einfach nicht regelgesteuert ist. Das aber ist eine Illusion — es ist ein bißchen so, als glaube man, daß Kristalle und Metalle auf einem Fundament von starren Gesetzen entstehen, daß aber Flüssigkeiten oder Blumen das nicht tun. Auf diese Frage kommen wir im nächsten Kapitel zurück.
    Der logische Prozeß selbst, der im Gehirn vor sich geht, ist vielleicht mehr einer Folge von Operationen mit symbolischen Bildern analog, eine abstrakte Entsprechung zum chinesischen Alphabet oder eine Beschreibung von Ereignissen durch die Mayas — nur daß die verwendeten Elemente nicht einfach Wörter sind, sondern eher wie Sätze oder ganze Geschichten mit Verbindungen dazwischen und eine Art Meta- oder Superlogik mit ihren eigenen Regeln bilden. 5
    Für die meisten Spezialisten ist es schwierig, anschaulich auszudrücken, ja vielleicht sich überhaupt zu erinnern, was sie ursprünglich dazu veranlaßte, dieses Gebiet zu betreten. Umgekehrt kann vielleicht ein Außenstehender die spezielle Romantik eines Fachs verstehen und imstande sein, sie präzis zu artikulieren. Das ist, meine ich, der Grund, warum das Zitat von Ulam mich anspricht: weil es in poetischer Weise die Seltsamkeit von AI enthüllt und dennoch Glauben daran zeigt. Und an diesem Punkt muß man auf den Glauben bauen — man hat ja noch einen so langen Weg vor sich.
Zehn Fragen und Spekulationen
    Zum Abschluß dieses Kapitels möchte ich zehn „Fragen und Spekulationen“ über AI vorlegen. Ich möchte nicht so vermessen sein, sie Antworten zu nennen; es handelt sich um meine persönliche Meinung. Sie kann sich sehr wohl ändern, wenn ich mehr lerne und AI sich weiter entwickelt. (Im folgenden bedeutet der Ausdruck „AI-Programm“ ein Programm, das den heutigen weit voraus ist; er bedeutet „Absolut Intelligentes“-Programm. Außerdem haben die Wörter „Programm“ und „Computer“ wohl etwas zu ausgeprägt mechanistische Nebenbedeutungen; behalten wir sie