Gödel, Escher, Bach - ein Endloses Geflochtenes Band

Warum verstehen Sie meine Beweggründe nicht?
    Parry: Sollte ich das nicht sein?
    Doctor: Warum haben Sie das soeben gesagt?
    Parry: So ist es eben.
    Doctor: Angenommen, es ist eben nicht so.
    Party: Was dann?
    Doctor: Ich bin nicht sicher, ob ich Sie vollständig verstehe.
    Party: Sie reiten zu sehr auf der gleichen Frage herum.
    Doctor: Was sagt Ihnen diese Ähnlichkeit?
    Party: Ich verstehe Sie nicht.
    Doctor: Hätten Sie gerne, daß Sie in Wirklichkeit ich wären?
    Party: Es wäre allmählich an der Zeit, daß Sie etwas Interesse für meine Gefühle zeigten.
    Doctor: Oh? Ich zeigte Interesse für Ihre Gefühle?
    Diese Programme wurden natürlich entworfen, um mit Menschen zu sprechen, und deshalb machen sie hier, wo sie einander antworten, einen ziemlich dürftigen Eindruck. Zum größten Teil verlassen sie sich auf gewitzte Vermutungen über das Wesen des Inputs (den sie ganz oberflächlich analysieren) und geben konfektionierte Antworten, die sorgfältig aus einem großen Vorrat ausgewählt werden. Die Antwort kann nur „halbkonfektioniert“ sein, zum Beispiel wenn es sich um eine Schablone handelt, bei der Leerstellen ausgefüllt werden. Angenommen wird, daß Ihre menschlichen Partnerviel mehr in sie hineinlesen als tatsächlich zugrunde liegt. Und tatsächlich ist — nachzulesen in Weizenbaums Buch Die Macht der Computer und die Ohnmacht der Vernunft— genau das der Fall. Weizenbaum schreibt:
    ELIZA [das Programm, aus dem „Doctor“ gemacht wurde] schuf in den Köpfen vieler Leute, die mit ihr ein Gespräch führten, die höchst bemerkenswerte Illusion, es sei mit Verständnis begabt ... Es kam oft vor, daß Leute um die Erlaubnis baten, sich mit dem System unbeobachtet unterhalten zu dürfen, und trotz meiner Erklärungen bestanden sie nach der Unterhaltung darauf, die Maschine habe sie wirklich verstanden. 10
    Das kann man angesichts des oben wiedergegebenen Auszugs kaum glauben, und doch ist es wahr. Weizenbaum hat eine Erklärung:
    Die meisten Menschen verstehen nicht das Geringste von Computern. Wenn sie also nicht gerade über einen ausgeprägten Skeptizismus verfügen (etwa von der Art, wie man ihn einem Varieté-Zauberer entgegenbringt), so können sie die intellektuellen Leistungen der Computer dadurch erklären, daß sie die einzige Analogie heranziehen, die ihnen zu Gebote steht, nämlich das Modell ihrer eigenen Denkfähigkeit. Dann nimmt es nicht wunder, daß sie übers Ziel hinausschießen; es ist ja schlechterdings unmöglich, sich einen Menschen vorzustellen, der beispielsweise ELIZA imitieren, gleichzeitig jedoch nicht die Grenze überschreiten wird, die ihm von ELIZAs Sprachfähigkeit gesetzt würde. 11
    Was auf das Eingeständnis hinausläuft, daß ein Programm dieser Art aus einer schlauen Mischung von Prahlerei und Bluff besteht und aus der menschlichen Leichtgläubigkeit Vorteile zieht.
    Angesichts des seltsamen „ELIZA-Effekts“ hat man gesagt, daß der Turing-Test einer Überholung bedürfe, da man die Menschen anscheinend durch ganz primitive Tricks hinters Licht führen kann. Man hat vorgeschlagen, der Fragesteller solle ein Nobelpreisträger sein. Es wäre wohl ratsamer, den Turing-Test auf den Kopf zu stellen und darauf zu bestehen, daß der Fragesteller ein anderer Computer sein solle. Oder vielleicht sollten zwei Fragesteller da sein, ein Mensch und ein Computer, und ein Zeuge, und die beiden Befragten hätten herauszufinden, ob der Zeuge ein Mensch oder ein Computer ist.
    Aber im Ernst: Ich persönlich halte den Turing-Test in seiner ursprünglichen Fassung für ganz vernünftig. Was die Leute betrifft, die sich laut Weizenbaum von ELIZA vereinnahmen lassen, so wurden sie nicht ermahnt, skeptisch zu sein und alle ihre Verstandeskräfte aufzubieten, um festzustellen, ob die „Person“, die die Antwort tippte, ein Mensch war oder nicht. Ich bin der Ansicht, daß Turings Verständnis dieses Problems richtig war und daß der Turing-Test, im wesentlichen unverändert, überleben wird.
Eine kurze Geschichte der Al
    Auf den folgenden Seiten möchte ich — vielleicht von einem unorthodoxen Standpunkt aus — ein bißchen erzählen, wie man sich um die Enthüllung der Algorithmen hinter der Intelligenz bemüht hat; dabei gab es Mißerfolge — und wird es sie weiterhin geben. Dennoch lernen wir sehr viel, und es ist eine aufregende Epoche.
    Seit Pascal und Leibniz haben die Menschen von Maschinen geträumt, die intellektuelle Leistungen vollbringen könnten. Im 19. Jahrhundert