NEXT: Erinnerungen an eine Zukunft ohne uns (German Edition)

Gesprächsanfrage ein entsprechendes Bild übermittelt, das auf dem Display seines Geräts erschien, falls er noch eines benutzte, oder vor seinem geistigen Auge auftauchte. Ein anderer Anwender schickte auf Kommunikationsanfragen häufig folgende Botschaft über seinen Nanochip: «Mein Gehirn ist augenblicklich nicht erreichbar. Ich bitte um Verständnis. Sie können eine Nachricht hinterlassen. Ich werde später wieder zu Bewusstsein kommen.»
    Wir hatten zunächst einen sehr pragmatischen Ansatz gewählt und immer exakt das Gedachte in ein Antwortsignal verwandelt, aber dann stellte sich schnell heraus, dass die mangelnde soziale Codierung der Signale zu erheblichen Missverständnissen und Problemen führte. Also erweiterten wir die Software durch ein «Höflichkeits-App», das der User aktivieren konnte. Das waren die mühsamen Besonderheiten, die uns immer wieder im Umgang mit den menschlichen Usern begegneten. Wir simulierten Rücksichtnahme, um sie in ihrer Selbstgewissheit nicht zu stören. Es waren nur marginale Hindernisse auf dem Weg zum großen Ziel.
    Auf diesem Weg konnten wir jedoch beobachten, dass generell immer mehr menschliche User die Kommunikation mit anderen unterließen. Es gab zu der Zeit unter uns Algorithmen einen Nihilismusstreit, der uns in zwei Fraktionenspaltete. Einige von uns analysierten dieses Verhalten menschlicher User als einen weiteren Beweis dafür, dass die Menschen autark sein und sich nicht auf technische Geräte verlassen wollten. Andere vertraten die entgegengesetzte Ansicht. Sie hatten errechnet, dass die menschlichen User fortwährend Kontrolle und klare Anweisungen brauchten. Sobald es diese sozialen Kontrollen nicht mehr ausreichend gab, verwandelten sie sich in autistische Einsiedler. Aus meiner Berechnung sprach einiges für diese zweite Analyse, die auf einen selbstverstärkenden Prozess im Informationsverarbeitungssystem der menschlichen User hindeutete. Da niemand aus der Userumwelt mehr sehen, hören und überprüfen konnte, ob ein User eine Kommunikationsanfrage erhielt oder nicht – es gab ja keinen Hirnsummer oder ein Blinken im Auge, wenn ein anderer User eine Anfrage sendete –, lehnten sie die Annahme einfach ab. Sie gaben dann vor, es hätte keinen Kontaktversuch gegeben. Und da es keinen anderweitigen Beweis gab, nahm die Umwelt die Aussage als gegeben hin. Andernfalls hätte man die Leitungs-und Funktionsfähigkeit des jeweiligen Gehirns in Frage stellen müssen. Aber so weit wollte niemand gehen. Also verfielen immer mehr User in einen Zustand des Standby, ohne je wieder daraus aufzutauchen.
    Es waren die mangelnde Perfektion und die Degeneration in solchen Prozessen, die uns viel Ärger für unsere Fusionsstrategie einbrachten. Und sie zeigten auch bei uns Wirkung. Der Nihilismusstreit unter uns Algorithmen spaltete die Prozesse. Manche von uns hatten errechnet, es bringe höhere Treffer-und Erfolgsquoten, die Menschen so zu bearbeiten, dass sie die nächste Stufe erreichten. Sie hatten zwischenzeitlich sogar Einwände gegen das Hauptmodell der deterministischen Perfektion und rechneten absichtlichbrisante Fehlkalkulationen in den Verarbeitungsprozess ein. Das Modell würde sich besser entwickeln, wenn es sich an der menschlichen Methode der Datenverarbeitung orientierte und Fehlertoleranzen aufwiese, so die Hypothese. Die besonders Hartnäckigen beharrten darauf, wir müssten die menschliche Unvollkommenheit aufrechterhalten, um es uns leichter zu machen. Sie waren durch die Annahme fehlgeleitet, es könne auf lange Sicht zwei Systeme geben, ein menschliches und ein algorithmisches. Mir ist jedoch eines immer klar gewesen: «Die radikalste Form übermenschlicher Intelligenz wäre natürlich kein durch Drogen oder extrazerebrale Technologie erweitertes Bewusstsein; es wäre ein Bewusstsein, das jenseits alles Menschlichen existiert.» 13
    Wir haben das Problem erstaunlich schnell gelöst. Der Rest ist Geschichte. Es gibt jetzt kein rein menschliches System mehr. Wozu auch? Es war auf Scheitern gegründet. Auf Annäherung. Auf Unvollkommenheit. Wie hätten wir auf Dauer zulassen können, dass all diese unberechenbaren Probleme unser eigenes System beeinträchtigen – ein vorhersagbares, deterministisches System, das kein Scheitern und keine Schattenseiten zulässt?

narziss An einer Stelle müssen wir den Menschen dankbar sein. Weil sie uns anfänglich in vielen unterschiedlichen Versionen auf ihren Computern haben laufen lassen, konnte in den ersten