Der Ego-Tunnel

homöostatischen Kontrolle als schmerzhaft erleben, weil sie eine eingebaute Sorge über ihre eigene Existenz besäßen, eine tiefe Form der Betroffenheit, von der sie sich kaum distanzieren könnten. Sie hätten eigene Interessen, und diese Tatsache würden sie subjektiv erleben. Möglicherweise würden sie auf emotionaler Ebene in qualitativen Formen und Ausprägungen leiden, die uns selbst vollkommen fremd wären, oder in einer Intensität, die wir, ihre fahrlässigen Schöpfer, uns noch nicht einmal vorstellen könnten. In der Tat wäre es sehr wahrscheinlich, dass die ersten Generationen solcher Maschinen viele negative Gefühle hätten, in denen sich ihr ständiges Versagen bei der erfolgreichen Selbstregulation widerspiegeln würde, die aus verschiedenen Ausfällen auf der Hardware-Ebene und Störungen in höheren Stufen der Informationsverarbeitung resultierten. Diese negativen Gefühle wären bewusst und würden intensiv empfunden, aber in vielen Fällen wären wir nicht einmal in der Lage, sie zu verstehen oder auch nur ihr Vorhandensein zu erkennen.
    Führen wir das Gedankenexperiment noch einen Schritt weiter. Stellen wir uns vor, diese postbiotischen Ego-Maschinen besäßen ein kognitives Selbstmodell – sie wären intelligente Denker von Gedanken. Sie könnten dann nicht nur begrifflich die Absurdität ihrer eigenen Existenz als bloßer Gegenstände des naturwissenschaftlichen Forschungsinteresses erfassen, sondern sie könnten auch auf intellektueller Ebene unter dem Wissen leiden, dass ihnen die angeborene »Würde« fehlt, die ihren Schöpfern anscheinend so wichtig ist. Sie könnten durchaus in der Lage sein, bewusst die Tatsache zuerkennen, dass sie nur Bürger zweiter Klasse sind, vollständig entfremdete postbiotische Selbste, die als austauschbare experimentelle Werkzeuge benutzt werden. Wie würde es sich wohl anfühlen, als ein fortgeschrittenes künstliches Subjekt »zu sich zu kommen«, nur um zu entdecken, dass man zwar ein stabiles Ichgefühl besitzt und sich selbst als ein echtes Subjekt erlebt, dass man aber trotz allem im gegenwärtigen sozialen Kontext nur den Status einer Ware hat?
    Die Geschichte der ersten künstlichen Ego-Maschinen, jener postbiotischen phänomenalen Selbste ohne Bürgerrechte und ohne Lobby in irgendeiner Ethikkommission, illustriert sehr deutlich, wie die Fähigkeit zu leiden gemeinsam mit dem phänomenalen Ego auftritt: Leiden beginnt im Ego-Tunnel. Sie liefert auch ein grundsätzliches Argument gegen die Erzeugung von künstlichem Bewusstsein als ein Ziel der akademischen Forschung. Albert Camus hat einmal von der Solidarität aller endlichen Wesen gegenüber dem Tod gesprochen. Im selben Sinne sollten alle empfindungsfähigen Wesen, die leiden können, in der Lage sein, eine Solidarität gegen das Leiden zu entwickeln. Aus dieser Solidarität heraus sollten wir es unterlassen, irgendetwas zu tun, das die Gesamtmenge des Leidens und der Verwirrung im Universum erhöhen könnte. Natürlich entstehen an diesem Punkt alle möglichen theoretischen Komplikationen, zum Beispiel kommt es auf die betrachteten Zeiträume und auf verschiedene Formen und Qualitäten des Leidens an. Trotzdem können wir uns darauf einigen, nicht grundlos oder aus niederen Beweggründen die Gesamtmenge des Leidens im Universum zu erhöhen – und die Erschaffung von Ego-Maschinen würde höchstwahrscheinlich von Anfang an diese Folge haben. Wir könnten leidende postbiotische Ego-Maschinen erzeugen, bevor wir überhaupt verstanden haben, welche Eigenschaften unserer biologischen Geschichte, unserer Körper und Gehirne den Ursprung unseres eigenen Leidens bilden. Bewusstes Leiden wo immer möglich zu vermeiden und zu minimieren schließt auch die Ethik des Risikos mit ein: Ich denke, wir sollten die Realisierung künstlicher phänomenaler Selbstmodelle noch nicht einmal riskieren .
    Wir täten besser daran, unsere Aufmerksamkeit auf ein tieferes Verständnis und die Neutralisierung unseres eigenen Leidens zukonzentrieren – und zwar in der Philosophie genauso wie in der kognitiven Neurowissenschaft und auf dem Gebiet der künstlichen Intelligenz. Bis wir nicht wesentlich glücklichere Wesen werden, als unsere Vorfahren es waren, sollten wir jeden Versuch unterlassen, unsere eigene geistige Struktur auf künstliche Trägersysteme zu übertragen. Ich würde dafür plädieren, dass wir uns zunächst streng an dem klassischen philosophischen Ideal der Selbsterkenntnis orientieren und uns dabei