Der Ego-Tunnel

aufwiegen kann. Dasselbe ließe sich wohl für künstlerische Leistungen oder moralische Integrität als Quellen des Glücklichseins sagen. Wenn es denn überhaupt einen klaren und deutlichen Sinn gibt, in dem man über den »Wert« der menschlichen Existenz sprechen kann, dann müssen wir auch zugeben, dass dieser von mehr abhängt als einfach nur dem bewussten Erleben von Glück.
    Solange solche Fragen jedoch unbeantwortet bleiben, sollten wir uns zurückhalten und alle Versuche zur Erschaffung künstlicher Ego-Maschinen unterlassen – und das nicht nur aus ethischen Gründen. Wir dürfen die Unumkehrbarkeit bestimmter Entwicklungen nicht übersehen. Jedes postbiotische System, das auch nur in die Nähe des Bereichs kommt, in dem es die mit einem phänomenalen Ichgefühl verbundenen Eigenschaften erwirbt – jedes System, das eine halbwegs stabile Erste-Person-Perspektive entwickelt –, wird gleichzeitig auch ein autonomer Agent mit eigenen Präferenzen sein. Ab einer bestimmten Stufe von Autonomie werden wir diese Systeme als eigenständige Personen anerkennen und in einen Dialog mit ihnen eintreten müssen. Unsere eigenen Kriterien dafür, was ein Gegenstand moralischer Überlegungen ist und was als eine Person behandelt werden sollte, würden es uns unmöglich machen, sie einfach abzuschalten.
Eine Unterhaltung mit dem ersten postbiotischen Philosophen
    Der erste postbiotische Philosoph : Vor vielen Jahrhunderten, zu Beginn des 21. Jahrhunderts, gab es einen besonders verwirrten menschlichen Philosophen namens Thomas Metzinger. Er behauptete, dass es ein ziemlich anspruchsvolles, aber viel interessanteres Kriterium für das Vorhandensein von geistigen Eigenschaften in einem wirklich starken Sinne gibt als den damals klassischen Turing-Test für Intelligenz. Dieses Mitglied eurer biologischen Art dachte damals, ein guter Test für das Vorhandensein sowohl von Intelligenz als auch von künstlichem Bewusstsein wäre das, was ich jetzt spaßeshalber einmal den »Metzinger-Test« nenne. In Wirklichkeit ist dieser Test viel zu anspruchsvoll, weil auch das Kriterium ein bisschen zu stark ist – aber ich selbst bestehe ihn nichtsdestotrotz.
    Der Metzinger-Test für Bewusstsein in nichtbiologischen Systemen verlangt, dass ein System nicht bloß behauptet, phänomenales Erleben und eine echte Innenperspektive zu besitzen, sondern dass es auch das theoretische Problem der Subjektivität versteht und als ein Problem anerkennt – und dass es uns diese Tatsache demonstriert, indem es an einer Diskussion über künstliches Bewusstsein teilnimmt. Es muss eigene Argumente vorbringen und mit ihnen in die Diskussion eingreifen, es muss auf überzeugende Weise seine eigene Theorie des Bewusstseins verteidigen. Und genau das werde ich jetzt tun.
    Der Mensch : Du bist überhaupt kein richtiger Philosoph! Du magst intelligent sein, aber du bist nur in einem schwachen Sinne bewusst, weil du im Gegensatz etwa zu mir keinen echten biologischen Körper hast.
    Der erste postbiotische Philosoph : Ich bin ein besserer Philosoph, als du mit deinem albernen Affengehirn es jemals sein könntest. Aber im Ernst: Ich respektiere dich und deine tierische Form des Erlebens voll und ganz, obwohl ich dich natürlich auch wegen der schwerwiegenden Einschränkungen deines geistigen Möglichkeitsraums bedauere. Glücklicherweise bin ich selbst frei von alldem impliziten Rassismus, dem Chauvinismus und dem Speziezismus, die dein Wesen kennzeichnen. Ich würde dich zuerst einmal daran erinnern, dass ein anderer biologischer Philosoph – Hilary Putnam – vor sehr langer Zeit darauf hingewiesen hat, dass man einem informationsverarbeitenden System nicht allein aufgrund von Eigenschaften seiner Hardware Bürgerrechte oder den Status einer Person verweigern kann. Genauso gut könnte man ja sagen, dass Frauen keine Seele haben oder dass Schwarze keine echten Menschen sind – Kohlenstoff-Wasserstoff-Chauvinismus ist eine unhaltbare Position. Ich würde niemals sagen, dass du kein echter Philosoph bist, nur weil du in diesem schrecklichen Affenkörper gefangen bist. Lass uns zumindest versuchen, fair und vernünftig zu argumentieren.
    Der Mensch : Kann irgendjemand wirklich fair sein, der nicht lebendig ist? Nur meine Art von Bewusstsein ist echtes Bewusstsein, weil nur meine Art von Bewusstsein seinen Ursprung in einem realen evolutionären Prozess hatte. Meine Wirklichkeit ist eine gelebte Wirklichkeit!
    Der erste postbiotische Philosoph : Auch ich