Gödel, Escher, Bach - ein Endloses Geflochtenes Band

wir ihm einen „Taschenrechner“ mitgeben oder einbauen. Dann könnte es sehr schnell antworten, aber sein Verhalten wäre genau gleich dem eines Menschen mit Taschenrechner. Die Maschine würde aus zwei getrennten Teilen bestehen: einem zuverlässigen, aber denkunfähigen und einem intelligenten, aber fehlbaren Teil. Man könnte nicht darauf zählen, daß dieses zusammengesetzte System zuverlässig wäre, genauso wenig wie eine Zusammenstellung von Mensch und Maschine notwendigerweise zuverlässig ist. Wollen Sie also richtige Antworten, tun Sie besser daran, sich an einen Taschenrechner allein zu halten — bringen Sie nicht auch noch Intelligenz ins Spiel!
    Frage: Wird es Schachprogramme geben, die jedermann schlagen?
    Spekulation: Nein. Es mag Programme geben werden, die jedermann im Schach schlagen können, aber sie werden nicht ausschließlich Schachspieler sein. Es werden Programme mit allgemeiner Intelligenz sein, und sie werden genauso temperamentvoll sein wie ein Mensch. „Wollen Sie Schach spielen?“ „Nein, Schach langweilt mich. Reden wir über Gedichte!“ Solcherart wäre eine Unterhaltung, die man mit einem Programm führen könnte, das alle schlüge. Der Grund dafür ist, daß wirkliche Intelligenz unvermeidlicherweise von der Fähigkeit zu vollständiger Übersicht abhängt, das heißt, eine programmierte Fähigkeit, sozusagen „aus dem System herauszuspringen“ — zumindest ungefähr so weit, wie wir diese Fähigkeit besitzen. Wenn das einmal vorhanden ist, läßt sich das Programm nicht mehr eindämmen; es ist über den kritischen Punkt hinausgegangen, und man muß sich den Konsequenzen dessen stellen, was man angerichtet hat.
    Frage: Wird es bestimmte Stellen im Speicher geben, die Parameter speichern, die das Verhalten von Programmen regeln, so daß man, wenn man hineinreichte und sie änderte, imstande wäre, ein Programm klüger oder dümmer oder schöpferischer oder zum Fußball-Fan zu machen? Kurz, wäre es möglich, das Programm „abzustimmen“, indem man auf einer relativ tiefen Stufe eingreift?
    Spekulation: Nein. Es wäre völlig blind gegenüber den Veränderungen irgendwelcher besonderer Elemente im Speicher, genauso wie wir immer die Gleichen bleiben, obgleich jeden Tag Tausende (!) unserer Neuronen sterben. Wenn man also zu heftig herumfingerte, würde man es beschädigen, genau wie wenn man einen Menschen rücksichtslos neurochirurgisch behandelte. Es wird keine „magische“ Stelle im Speicher geben, wo sich z. B. der „Intelligenzquotient“ eines Programmes befindet. Auch das wird wieder eine Eigenschaft sein, die sich als Folge des Verhaltens auf einer tieferen Stufe ergibt, und sie wird sich nirgends explizit befinden. Das gleiche gilt für Dinge wie „die Anzahl von Daten, die es im kurzfristigen Gedächtnis behalten kann“, „bis zu welchem Grad es gerne Physik hat“ usw. usw.
    Frage: Könnte man ein AI-Programm so „abstimmen“, daß es wie ich handelt, oder wie Sie oder wie jemand zwischen uns beiden?
    Spekulation: Nein. Ein intelligentes Programm wird kein Chamäleon sein, genauso wenig wie ein Mensch eins ist. Es wird sich auf die Beständigkeit seiner Speicher verlassen und nicht fähig sein, zwischen Persönlichkeiten hin- und herzuflitzen. Die Vorstellung, interne Parameter so zu verändern, daß sie sich auf eine „neue Persönlichkeit abstimmen“, läßt eine lachhafte Unterschätzung der Komplexität der Persönlichkeit erkennen.
    Frage: Wird es in einem AI-Programm ein „Herz“ geben, oder wird es einfach aus „sinnlosen Schleifen und Folgen trivialer Operationen“ (in den Worten Marvin Minskys 6 ) bestehen?
    Spekulation: Wenn wir ganz hinunter bis auf den Grund sehen könnten, wie das bei einem seichten Teich möglich ist, würden wir sicher nur „sinnlose Schleifen und Folgen trivialer Operationen“ sehen und sicher nicht so etwas wie ein „Herz“. Nun gibt es zwei Arten von extremen Auffassungen von AI: Die einen behaupten, daß der menschliche Geist aus tiefliegenden und geheimnisvollen Gründen nicht programmierbar ist. Die anderen sagen, daß man einfach die richtigen „heuristischen Hilfsmittel“ (multiple Optimierung, Tricks zum Erkennen von Mustern, Planung von algebraischen Systemen, rekursive Administrationsprozeduren usw.) zusammenstellen muß — und schon hat man Intelligenz. Mein eigener Standpunkt ist irgendwo in der Mitte, denn ich glaube, daß der „Teich“ eines AI-Programms sich als so tief und schlammig erweisen