Arbeitsfrei: Eine Entdeckungsreise zu den Maschinen, die uns ersetzen (German Edition)

im Prinzip ein Roboter sind, der die Macht hat, Menschen mit Kriegswaffen zu töten, werden die Probleme nochmals eine Größenordnung schwieriger. Die ethisch heikelste Frage ist zweifellos, ob es sein darf, daß ein Algorithmus im Inneren des bewaffneten Roboters die letztgültige Entscheidung fällen kann, mit Hilfe seiner Bewaffnung jemanden zu töten.
    Aus Sicht der Militärs gäbe es etliche Gründe, die Entscheidung über Ziele und Zeitpunkt der Waffenanwendung den Algorithmen zu überlassen. Das wichtigste Argument neben den schon erwähnten Limitationen von Bandbreite und menschlicher Aufmerksamkeit ist dabei die Geschwindigkeit. Schon heute gibt es einige Systeme, bei denen der Mensch entscheidet, ab wann sie scharfgeschaltet sind, die eigentliche Entscheidung über Zielerfassung und Vernichtung trifft jedoch der Computer. Ein typisches Beispiel dafür sind die sogenannten Nahfeld-Verteidigungssysteme von Kriegsschiffen.
    Schon seit Jahrzehnten sind die Raketen, mit denen sich moderne Kriegsschiffe überwiegend bekämpfen, so schnell und aufgrund ihres Fluges dicht über der Wasseroberfläche so spät vom Radar zu erkennen, daß sie nur noch mit vollautomatischen Schnellfeuerkanonen abgewehrt werden können. Wenn eine entsprechende Gefahrensituation angenommen wird, wird das System am Schiff scharfgeschaltet und schießt ab diesem Zeitpunkt vollautomatisch auf alle im Radar auftauchenden Ziele im programmierten Sektor. Die Arbeit des zuständigen Soldaten ist nicht mehr, die Maschinenkanone auf das Ziel zu richten und auszulösen, sondern vielmehr, der selbständigen Waffe Aufgaben zuzuweisen, das technische System insgesamt funktionierend zu halten und es an- und auszuschalten. Auch beim Militär hat der technische Fortschritt also schon den Personalbedarf reduziert.
    Was nun aber, wenn man die Logik solcher automatisierten Verteidigungssysteme auf tödliche autonome Drohnen überträgt? Die Szenarien, mit denen die Verfechter bewaffneter autonomer Systeme argumentieren, lesen sich etwa so: Wenn ein Angreifer, der sich bei seinen militärischen Operationen keinen ethischen Beschränkungen unterworfen sieht, extrem schnelle und wendige autonome Drohnen verwendet, deren Geschwindigkeit einen menschlichen Operator überfordert, wäre es dann nicht angemessen, ebenfalls eigene autonome Drohnen zu bauen, die vollautomatisch unter Waffeneinsatz diese gegnerischen Drohnen bekämpfen können?
    Beispiele für die drastischen Folgen dieser militärischen Logik gibt es einige. Im kalten Krieg bauten beide Seiten Computersysteme, die einen gegnerischen Nuklearschlag erkennen und ohne Zeitverzug den atomaren Gegenschlag auslösen sollten. Die künstlerische Verarbeitung dieser Ideen und ihrer offensichtlichen Risiken spiegelte sich unter anderem im Film »War Games«, in dem ein Supercomputer mit beschränkter künstlicher Intelligenz die Mannschaften in den Abschußsilos der Interkontinentalraketen ersetzt hatte und aus spieltheoretischen Erwägungen den Atomkrieg zu beginnen drohte.
    Erst nach dem Ende des kalten Krieges wurde bekannt, daß neben dem US-amerikanischen, von IBM gelieferten SAGE-Computer auch die Sowjetunion tatsächlich ein System entwickelt und scharfgeschaltet hatte, das im Falle eines amerikanischen Angriffs vollautomatisch den atomaren Gegenschlag auslösen sollte. Aus noch nicht ganz geklärten Gründen hatte die Sowjetunion die USA davon nicht in Kenntnis gesetzt. Durch eine Fehlinterpretation von Sensordaten und andere Fehlfunktionen hätte das »Tote Hand« getaufte System beinah von sich aus den Start der sowjetischen Interkontinentalraketen mit Atomsprengköpfen Richtung USA ausgelöst. Einzig dem diensthabenden Offizier, der trotz der Sensordaten auf den Bildschirmen der Computer in seinem Kommandobunker zu der Erkenntnis gelangte, daß ein unprovozierter amerikanischer Atomschlag extrem unwahrscheinlich war, und den automatischen Ablauf des »Gegenschlags« unterbrach, ist es zu verdanken, daß es nicht zur atomaren Katastrophe kam und wir alle heute noch leben. Dieser einzelne Mensch hatte durch das komplexe Computer- und Steuerungssystem unter seinem Kommando buchstäblich die Macht, das enorme Atomwaffenarsenal seines Landes zu befehligen und damit indirekt über das Fortbestehen der Menschheit zu entscheiden.
    Die Lehre aus ähnlichen Vorfällen kann nur sein, tödliche autonome Systeme mittels Verzicht, internationaler Abkommen und weltweiter Ächtung zu verhindern. Derzeit ist es