Der Ego-Tunnel

gemeinsam mit dem Nobelpreisträger Sir John Eccles herausgebrachten Buch Das Ich und sein Gehirn zusammengefasst wurde. Dort schrieb Popper: »Turing (1950) sagte es einmal ungefähr so: Gib genau an, worin deiner Meinung nach ein Mensch einem Computer überlegen sein soll, und ich werde dir einen Computer bauen, der deinen Glauben widerlegt. Wir sollten Turings Herausforderung nicht annehmen, denn jede hinreichend genaue Bestimmung könnte prinzipiell zur Programmierung eines Computers verwendet werden.« 6
    Natürlich ist es nicht das Selbst, das das Gehirn benutzt (wie Karl Popper dachte) – das Gehirn benutzt das Selbstmodell. Was aber Popper klar gesehen hat, ist die Dialektik der künstlichen Ego-Maschine: Entweder es lässt sich nicht klar und deutlich benennen, was genau vom menschlichen Bewusstsein und seiner Subjektivität nicht in einem künstlichen System realisiert werden könnte, oder, wenn wir es doch sagen können, es geht bloß darum, einen Algorithmus zu schreiben, der dann in Software implementiert werden kann. Im Jahre 1922 schrieb Ludwig Wittgenstein im Vorwort zu seinem Tractatus logico-philosophicus : »Was sich überhaupt sagen läßt, läßt sich klar sagen.« Wenn man über eine präzise Definition von Bewusstsein und Subjektivität in kausalen Begriffen verfügt, hat man das, was Philosophen eine funktionale Analyse nennen. An diesem Punkt verflüchtigt sich das Mysterium, und künstliche Ego-Maschinen werden – zumindest im Prinzip – technologisch machbar. Aber sollten wir wirklich alles tun, wozu wir in der Lage sind?
    Im Folgenden ein weiteres Gedankenexperiment, bei dem es jedoch nicht um Erkenntnistheorie geht, sondern um Ethik. Stellen Siesich vor, Sie seien Mitglied einer Ethikkommission, die Anträge auf wissenschaftliche Fördergelder prüft. In einem Antrag steht sinngemäß das Folgende:
Wir wollen gentechnologische Verfahren einsetzen, um geistig behinderte menschliche Säuglinge zu züchten. Aus dringenden wissenschaftlichen Gründen müssen wir menschliche Babys erzeugen, die ganz bestimmte kognitive, emotionale und wahrnehmungsmäßige Ausfälle aufweisen. Es handelt sich dabei um eine innovative und äußerst bedeutende Forschungsstrategie, und sie erfordert die kontrollierbare und wiederholbare Untersuchung der psychologischen Entwicklung dieser geistig behinderten Babys nach der Geburt. Das ist nicht nur für ein tieferes Verständnis unseres eigenen Geistes wichtig, sondern besitzt ein großes Potenzial für die zukünftige Heilung psychiatrischer Erkrankungen. Deshalb benötigen wir dringend eine umfassende finanzielle Förderung.
    Zweifellos würden Sie sofort entscheiden, dass diese Idee nicht nur absurd und geschmacklos ist, sondern auch gefährlich. Man kann sich kaum vorstellen, dass ein derartiger Antrag von irgendeiner Ethikkommission in der demokratischen Welt genehmigt würde. Der Zweck dieses Gedankenexperiments ist es jedoch, Ihre Aufmerksamkeit darauf zu lenken, dass die ungeborenen postbiotischen Ego-Maschinen der Zukunft keinerlei Interessenvertreter in irgendeiner der heutigen Ethikkommissionen hätten. Die ersten Maschinen, die eine minimal hinreichende Menge von Bedingungen für bewusstes Erleben und ein echtes Ichgefühl erfüllen würden, befänden sich in einer Situation, die jener der gentechnisch manipulierten und geistig behinderten menschlichen Säuglinge ähnlich wäre. Genau wie sie hätten diese Maschinen alle möglichen funktionalen und repräsentationalen Ausfälle – verschiedene Behinderungen infolge von Fehlleistungen der menschlichen Ingenieure. Man kann mit Sicherheit annehmen, dass ihre Wahrnehmungssysteme – ihre künstlichen Augen, Ohren und so weiter – in der Anfangsphase nicht gut funktionieren würden. Wahrscheinlich wären sie halb taub, halb blind und hättenalle möglichen Schwierigkeiten, die Welt und sich selbst in ihr wahrzunehmen – und wenn sie echte künstliche Ego-Maschinen wären, dann wären sie, ex hypothesi , auch in der Lage, darunter zu leiden.
    Wenn sie ein stabiles körperliches Selbstmodell besäßen, könnten sie sensorisch wahrnehmbare Schmerzen als ihre eigenen Schmerzen erleben. Wenn ihr postbiotisches Selbstmodell direkt in den tieferen, selbstregulierenden Mechanismen ihrer Hardware verankert wäre – genauso wie unser eigenes emotionales Selbstmodell im oberen Hirnstamm und im Hypothalamus verankert ist –, dann wären sie bewusst fühlende Selbste. Sie würden jeden Verlust der