Heyne - Das Science Fiction Jahr 2012

perfekten Überwachungsszenario
würde. Eine Entwicklung, die im Endeffekt gegen den Nutzer gerichtet wäre. Sehen Sie dieses Risiko ebenfalls oder sagen Sie: halb so schlimm?
    A: Also ich sehe weniger Orwells Überwachungsstaat. Das kann in einzelnen Bereichen passieren, aber ich sehe das nicht global. Und zwar, weil diese Systeme so komplex sind, dass sie nicht zentral gesteuert werden können. Einige vermuten ja immer noch irgendwo böse Konzerne – Google wird oft genannt –, welche die ganze Welt beherrschen. Aber wer steckt hinter Google? Die Vorstellung, dass irgendwo eine böse Person sitzt, stammt eher aus Horrorfilmen. Es handelt sich vielmehr um ein System, das für uns böse Auswirkungen haben kann. Oder literarisch ausgedrückt: Das ist eher Kafka. Eine kafkaeske Welt. Nicht der einzelne Diktator, sondern etwas viel Raffinierteres – das von Kafka bewundernswerterweise bereits zu seiner Zeit erkannt wurde. Strukturen, die uns dann tatsächlich auch beobachten oder aus dem Ruder laufen könnten. Konkrete Beispiele: Deutschland hat im Moment die Energiewende, und das große Thema bei uns ist, dass wir Kommunikationstechnologien wie das Internet mit der Energieversorgung verbinden. Wir können heute schon realisieren, dass wir uns über Internet informieren, wann in unserem Haushalt welches Gerät gerade am günstigsten mit Strom versorgt werden könnte. Der nächste Schritt werden Programme sein, intelligente Agenten, die blitzschnell Strompreise für die Abnahme ausrechnen und aushandeln, und ich bekomme dann genau die Energielieferung, die ich brauche. Umgekehrt werde ich selbst auch zum Energielieferanten, wenn mein Haus Strom produziert. Dieses Netzwerk wären dann die sogenannten »smart grids«. Wo wir diese automatischen Abläufe ebenfalls schon beobachteten, sind Agentenprogramme in Finanzsystemen …

    F:  … welche die Finanzkrise 2008 noch verschärften, weil sie in Sekundenbruchteilen irrsinnige Käufe und Verkäufe produzierten, die von Menschen nicht mehr überschaut werden konnten.
    A: Ja, weil die nichtlinearen Nebenwirkungen dieser Programme global nicht beachtet wurden. Hier haben wir schon reale Szenarien, die zeigen, wie eine zunehmend autonomer werdende Technologie auch Gefahrenpotenziale hat, Risiken, die zu einer zentralen Herausforderung führen: Einerseits wird die Technologie intelligenter und autonomer werden müssen, um mit den Aufgaben unserer modernen Welt Schritt zu halten. Die Komplexität nimmt schlicht und ergreifend deshalb zu, weil wir immer mehr Menschen sind, weil die Versorgungsaufgaben immer komplexer werden. Heute haben wir in Europa und den USA, aber auch in Teilen Asiens und Südamerikas hochzivilisierte Zentren, zukünftig wird es global noch weitere geben. Die dafür notwendige Organisationstechnologie können einzelne Menschen nicht mehr durchschauen. Wir sind auf eine autonomer werdende Technik wegen der ansteigenden Zivilisationskomplexität angewiesen. Die andere Sache ist die Kontrolle: Wir haben bisher immer Maschinen und Geräte entwickelt, die auch kontrollierbar sind. Diese Schere geht jetzt leider auseinander und wird zur großen Herausforderung. Ein Blick auf die Evolution zeigt übrigens, dass dort immer eine ähnliche Rivalität der Prinzipien bestand: auf der einen Seite diese Selbstorganisation, auf der anderen Kontrolle. Eine Krebsgeschwulst ist ebenfalls ein selbstorganisierender Organismus, der eigene Interessen entwickelt und sozusagen um sein Überleben kämpft, aber nicht überblickt, dass sein eigener Wirtsorganismus daran zugrunde geht. Ich brauche also Kontrollmechanismen, um diese Balance zu finden, das erleben wir jetzt überall: in den Finanzmärkten,
in der Politik und so weiter. Dieses komplexe Zusammenwirken wird wiederum durch Technologien ermöglicht. Das heißt, der angesprochene Superorganismus ist längst realisiert, wächst und ist mit großen Möglichkeiten, aber auch Gefahrenpotenzialen verbunden.
    F: Um in der Sprache der Biologie zu bleiben: Der Superorganismus hat inhärente, kleine, autonome, immer intelligenter werdende Systeme, Teilorganismen, von denen wir prima vista nicht wissen, ob sie für uns »gut« oder »böse« sind – bräuchte es dann nicht dringend das technologische Äquivalent eines Immunsystems im Superorganismus?
    A: Ja, im Grunde sind wir natürlich auch dabei, diese Immunsysteme zu entwickeln. Wenn man die letzten Finanzkrisen anschaut, sind es ja genau solche Kontrollsysteme, die jetzt