Gödel, Escher, Bach - ein Endloses Geflochtenes Band

kann, daß wir gar nicht auf den Grund blicken können. Wenn wir ihn von oben betrachten, werden die Schleifen unsichtbar, genauso wie die stromtragenden Elektronen für die meisten Programmierer unsichtbar sind. Wenn wir ein Programm entwerfen, das den Turing-Test besteht, werden wir ein „Herz“ sehen, obgleich wir wissen, daß es keines gibt.
    Frage: Werden AI-Programme jemals „superintelligent“ sein?
    Spekulation: Ich weiß nicht. Es ist nicht klar, ob wir in der Lage wären, „Superintelligenz“ zu verstehen oder mit ihr in Verbindung zu treten, oder ob der Begriff überhaupt sinnlos ist. Zum Beispiel hängt unsere Intelligenz mit der Geschwindigkeit unseres Denkens zusammen. Wenn unsere Reflexe zehnmal schneller oder langsamer wären, hätten wir vielleicht ein ganz anderes Bündel von Begriffen zurBeschreibung der Welt entwickelt. Ein Wesen mit einer radikal andersartigen Weltauffassung hat vielleicht ganz einfach nicht sehr viele Berührungspunkte mit uns. Ich habe mich z. B. oft gefragt, ob es Musikstücke geben könnte, die sich zu Bach verhalten wie Bach zum Volkslied: sozusagen Bach im Quadrat. Und wäre ich fähig, sie zu verstehen? Vielleicht ist eine solche Musik bereits rings um mich herum, und ich habe sie einfach nicht erkannt, geradeso wie ein Hund unsere Sprache nicht versteht. Die Vorstellung von „Superintelligenz“ ist sehr seltsam. Auf jeden Fall halte ich sie nicht für das Ziel der AI-Forschung, obgleich Superintelligenz, wenn wir jemals die Stufe menschlicher Intelligenz erreichen werden, sicher das nächste Ziel sein wird — nicht nur für uns, sondern auch für die Kollegen AI-Programme, die ebenso neugierig auf AI und Superintelligenz sind. Es ist sehr wahrscheinlich, daß AI-Programme — verständlicherweise — äußerst neugierig auf AI als solche sein werden.
    Frage: Sie wollen also sagen, daß AI-Programme praktisch identisch mit Menschen sein werden. Gäbe es da gar keinen Unterschied?
    Spekulation: Wahrscheinlich werden die Unterschiede zwischen AI-Programmen und Menschen größer sein als die Unterschiede zwischen den meisten Menschen. Die Vorstellung, daß der „Körper“, dem ein AI-Programm innewohnt, es nicht entscheidend beeinflußt, ist beinahe unmöglich. Wenn es also nicht eine erstaunlich getreue Wiedergabe des menschlichen Körpers besäße (und warum sollte es?), hätte es wahrscheinlich völlig andere Ansichten, was wichtig, was interessant ist usw. Wittgenstein machte einmal die amüsante Bemerkung: „Wenn ein Löwe sprechen könnte, würden wir ihn nicht verstehen.“ Das erinnert mich an Rousseaus Gemälde mit dem sanften Löwen und der schlafenden Zigeunerin in der vom Mond beschienenen Wüste. Aber woher wußte Wittgenstein das? Ich glaube, daß jedes AI-Programm — wenn überhaupt verständlich — uns recht fremdartig vorkäme. Aus diesem Grunde wird es uns sehr schwerfallen, zu entscheiden, wann und ob wir es tatsächlich mit einem AI-Programm zu tun haben, oder einfach mit einem „ungewöhnlichen“ Programm.
    Frage: Werden wir verstehen, was Intelligenz und Bewußtsein und freier Wille und „Ich“ sind, wenn wir ein intelligentes Programm geschaffen haben?
    Spekulation: Irgendwie schon. Es kommt ganz darauf an, was man mit „Verstehen“ meint. Spontan hat jeder von uns wahrscheinlich ein so gutes Verständnis, als man eben bei solchen Dingen haben kann. Es ist wie beim Anhören von Musik. Versteht man Bach wirklich, wenn man ihn auseinandergenommen hat, oder hat man ihn damals verstanden, als wir ein solches Gefühl der Heiterkeit in jedem Nerv unseres Körpers verspürten? Verstehen wir, warum die Lichtgeschwindigkeit in jedem Bezugsrahmen konstant ist? Wir können die dazugehörigen mathematischen Berechnungen ausführen, aber eine wirklich relativistische Intuition hat niemand auf der ganzen Welt. Und wahrscheinlich wird niemand jemals die Geheimnisse der Intelligenz und des Bewußtseins intuitiv verstehen. Jeder von uns kann Menschen verstehen, und sehr viel weiter wird man wohl mit diesem Problem nicht kommen.

Ai-Kanon
    Diesmal finden wir Achilles und Theo Schildkröte auf Besuch bei ihrem neuen Freund Sebastian Ai.
    Achilles: Soll ich Ihnen von meinem ulkigen Wettrennen mit Herrn S. erzählen?
    Ai: Bitte.
    Achilles: Es ist hierzulande recht berühmt geworden. Ich glaube, Zeno hat es sogar beschrieben.
    Ai: Klingt sehr gut.
    Achilles: War es auch. Schauen Sie, Theo S. war mir weit voraus. Er hatte einen solchen Riesenvorsprung —