Der Ego-Tunnel

phänomenale Eigenschaft des Ichgefühls, der Selbstheit, von diesem künstlichen oder postbiotischen System verkörpert werden, und es wird sich selbst nicht nur als jemand erscheinen, sondern – durch das Gegenwartsfenster – auch als anwesend . Es wird an sich selbst glauben.
    Man sollte dabei nicht übersehen, dass genau dieser Übergang unser künstliches Systems in einen Gegenstand moralischer Überlegungen verwandeln würde: Es besitzt jetzt erstmals das Potenzial zu leiden . Schmerzen, negative Gefühle und andere innere Zustände, die Teile der Wirklichkeit als unangenehm und unerwünscht darstellen, können nur dann zu wirklichen Ursachen von Leiden werden, wenn das System sie sich auf der Ebene des bewussten Erlebens aneignet . Ein System, das sich selbst nicht erscheint, kann nicht leiden, weil es kein Gefühl der Meinigkeit kennt. Ein System, in dem das Licht angeschaltet, aber niemand zu Hause ist, wäre auch kein Gegenstand ethischer Überlegungen: Wenn es ein minimal bewusstes Weltmodell hat, aber kein Selbstmodell, dann können wir den Stecker jederzeit ziehen. Eine Ego-Maschine dagegen ist leidensfähig, weil sie Schmerzsignale, Zustände emotionaler Verzweiflung oder negative Gedanken in ihr transparentes Selbstmodell einbinden kann und weil diese daher als jemandes Schmerzen oder negative Gefühle erscheinen. Die Identifikation ist sozusagen fest eingebaut, durch die Evolution erzwungen. Das führt zu einer wichtigen Frage im Bereich der Tierethik: Wie viele der bewussten biologischen Systeme auf unserem Planeten sind nur phänomenale Realitätsmaschinen,und wie viele von ihnen sind tatsächlich Ego-Maschinen? Wie viele von ihnen – und das ist der Kernpunkt, um den es geht – besitzen die Fähigkeit, auf der Ebene des bewussten Erlebens zu leiden? Ist RoboRoach (siehe Abb. 16 ) eines von ihnen? Oder gehören nur Säugetiere dazu, wie die Makaken und die jungen Katzen, die in der Bewusstseinsforschung »geopfert« werden? Wenn diese Frage aus erkenntnistheoretischen oder empirischen Gründen nicht entschieden werden kann, müssen wir natürlich darauf achten, dass wir uns immer auf der sicheren Seite bewegen. Genau wie bei der Kernkraft geht es darum, ein Risiko zu minimieren, das zwar vielleicht klein ist, sich aber über sehr lange Zeiträume erstreckt. Es ist nämlich genau dieses Stadium der Entwicklung, in dem jede Theorie über den bewussten Geist für die Ethik und die Moralphilosophie relevant wird.
    Eine Ego-Maschine ist darüber hinaus etwas, das eine Perspektive besitzt. Eine starke Version sollte auf jeden Fall auch wissen, dass sie solch eine Perspektive besitzt, indem sie sich der Tatsache bewusst wird, dass sie gerichtet ist. Sie sollte in der Lage sein, ein inneres Bild ihrer dynamischen Beziehungen zu anderen Wesen oder Gegenständen in ihrer inneren oder äußeren Umgebung zu entwickeln, und das sogar in Echtzeit, während sie sie wahrnimmt und mit ihnen in Wechselwirkung tritt. Wenn es uns gelingt, ein solches System zu bauen oder es von selbst evolvieren zu lassen, dann wird es sich selbst als mit der Welt in Wechselwirkung stehend erleben – etwa als gerade die eigene Aufmerksamkeit auf einen Apfel in seiner Hand richtend oder als jetzt Gedanken über die menschlichen Agenten bildend, mit denen es in diesem Moment kommuniziert. Es wird sich selbst als auf Zielzustände gerichtet erleben, die es in seinem Selbstmodell darstellen wird. Es wird die Welt so darstellen, dass sie nicht bloß ein Selbst enthält, sondern einen wahrnehmenden, interagierenden und zielgerichteten Agenten . Es könnte sogar auf einer sehr hohen Ebene einen echten Begriff von sich selbst als einem Subjekt des Wissens und Erlebens besitzen. In Kapitel 4 hatten wir gesehen, dass die eigentlich interessante Form von Subjektivität genau dann entsteht, wenn ein System sich als repräsentierend repräsentiert.
    Alles, was sich repräsentieren lässt, lässt sich auch implementieren.Die eben skizzierten Schritte beschreiben neue Formen dessen, was Philosophen als repräsentationale Inhalte bezeichnen, und es besteht kein Grund zu der Annahme, dass solche Inhalte nur lebenden Systemen zugänglich sein sollten. Der berühmte Mathematiker Alan M. Turing trug in seinem legendären Aufsatz aus dem Jahre 1950 unter dem Titel »Computing Machinery and Intelligence« (auf Deutsch 1967 unter dem Titel »Kann eine Maschine denken?« erschienen) ein Argument vor, das später von dem Philosophen Sir Karl Popper in dem