Digitaler Wandel und Ethik

Die Geister, die ich rief!

Manche sprechen von einem neuen Zeitalter: dem Zeitalter der Digitalisierung. Digitalisierung bricht mit einer ähnlichen Wucht über die Gesellschaft herein wie einst die Industrialisierung. Sie durchdringt alle Lebensbereiche des Menschen und legt dabei grundlegende ethische Fragen offen. Was ist eigentlich der Mensch – vor dem Hintergrund Künstlicher Intelligenz? Was ist Verantwortung und wer kann Verantwortung tragen – vor dem Hintergrund möglicher autonomer Waffensysteme? Was ist Wahrheit – vor dem Hintergrund einer digitalisierten Welt? Diesen Fragen widmeten sich im Dezember an der Führungsakademie der Bundeswehr in Hamburg Expertinnen und Experten aus Bundeswehr, Wissenschaft und Kirche.

Oberst Prof. Dr. Matthias Rogg ist Vorstand des GIDS und Historiker. Die Diskussionen führten immer wieder zurück zu einer Sortierung der Begrifflichkeiten.

„Ethische Herausforderungen digitalen Wandels in bewaffneten Konflikten“ – das war das Thema, mit dem sich Theologen, Philosophen, Rechtswissenschaftler, Politologen, Militärs und Naturwissenschaftler während des Experten-Workshops des German Institute for Defence and Strategic Studies (GIDS) an der Führungsakademie der Bundeswehr in Hamburg beschäftigten. Der Workshop, der unter Chatham-House-Rules stattfand, versuchte sich durch zahlreiche Vorträge zunächst einmal an den fundamentalen Fragen: Über welche Begrifflichkeiten sprechen wir und was bedeuten sie? Und vor allen Dingen: Brauchen wir eine neue Ethik für den digitalen Wandel in bewaffneten Konflikten?

Der Begriff Digitalisierung umfasst zunächst die ganze weite Welt des Internets und seine zahlreichen Verästelungen, die bis in unseren Alltag hineinwirken. Das Internet wurde ursprünglich in den 1960er Jahren vom US-amerikanischen Militär entwickelt, rasch der zivilen Nutzung zur Verfügung gestellt und weiter erforscht. „Die Geister, die ich rief, werde ich nicht mehr los“, sagte einer der Teilnehmer mit Blick auf Goethes Zauberlehrling. Was er meinte: Ein Zurück in eine Zeit vor der Digitalisierung gibt es nicht mehr. „Jetzt kommt es darauf an, wie wir damit umgehen.“ In den 1960er Jahren ahnte sicherlich noch niemand, welche neue Welt, welche neue Dimension geschaffen werden würde. Der Cyberraum ist heute überall Realität und gilt als neue Dimension – auch bei der Bundeswehr. Er ist ein künstlicher Raum, vom Menschen geschaffen und allein daraus ergeben sich eine Fülle neuer Fragen und Herausforderungen. Die Verknüpfung dieser neuen Dimension in viele Endpunkte des Alltags erfasst grundlegende Fragen des gesellschaftlichen Zusammenlebens. Eng verschmolzen mit der Digitalisierung entwickelt sich die Künstliche Intelligenz. Die Fortschritte hier wälzen ebenso viele Bereiche des menschlichen Zusammenlebens um. Ein Bereich, bei dem Künstliche Intelligenz helfen soll: Sie sortiert die unermessliche Fülle an Daten, die im Cyberraum mittlerweile schwirren. Künstliche Intelligenz hilft dem Menschen, die neue Dimension, die er geschaffen hat, zu beherrschen. Aber das ist aber nur ein Aspekt. Mit Künstlicher Intelligenz werden Roboter bestückt, Haushalte geführt und natürlich auch Waffensysteme aufgestockt. Wie überall gilt auch beim Militär: „Künstliche Intelligenz ist ein game changer.“

Begriffe einer neuen Dimension

Welche ethischen Herausforderungen stecken in der Digitalisierung bewaffneter Konflikte – das fragten sich Expertinnen und Experten beim Workshop des GIDS

Die Experten verfolgten zwei wesentliche Ziele während des zweitägigen Workshops: Zum einen wandte man sich der Aufgabe zu, die Begrifflichkeiten zu sortieren. Zum anderen suchte man aus den unterschiedlichen Disziplinen herauskommend einen Status Quo zu definieren – und zwar immer mit dem Blick auf bewaffnete Konflikte und deren möglicher Veränderungen. Digitalisierung umfasst zahlreiche Begrifflichkeiten und Phänomene: Cyberraum, Cyberabwehr, Cyberforensik, Cyberkrieg, Cyberdiplomatie, aber auch Künstliche Intelligenz, autonome und automatisierte Waffensysteme. Die Ingenieure und Naturwissenschaftler betonten die Relevanz von Künstlicher Intelligenz bei der Beherrschung von Big Data. Damit fungiere Künstliche Intelligenz für den Menschen als kognitive Assistenz, das heißt, Künstliche Intelligenz erfasst für den Nutzer eine Datenmenge und sortiert diese in greifbare Pakete, auf deren Grundlage eine Handlung oder Wirkung hervorgerufen werden kann. Sie stellten heraus, dass Künstliche Intelligenz nicht per se intelligent sei. Sie sei vielmehr ein Werkzeug, um intelligent handeln und eine bestimmte Wirkung erzeugen zu können. Dabei wurde sehr deutlich, dass die unterschiedlichen Disziplinen einen gemeinsamen Zeichenvorrat brauchen. Wenn ein Mathematiker von Künstlicher Intelligenz spreche, dann liege der Fokus in der Regel auf einem vollkommen anderen Bereich als bei einem Theologen oder Soldaten. Und gerade deshalb müssten die unterschiedlichen Disziplinen mehr zusammenarbeiten: „Die Brücke zwischen Algorithmenwelt und der Menschheit ist Verantwortung.“

Ein weiteres Feld, mit dem sich die Experten beschäftigten, waren die neuen Möglichkeiten bewaffneter Konflikte durch die Digitalisierung. Gerade hier sei es wichtig zu differenzieren: Kann man die Parameter, mit denen wir heute Kriege und Konflikte beschreiben auf den Szenarien im Cyberraum übertragen? Krieg sei beispielsweise definitorisch an physische Zerstörung und den Verlust von Menschenleben gebunden. Im Cyberraum könne man aber auf niedriger Schwelle bereits erheblichen Einfluss üben und Zerstörungen hervorrufen, ohne unmittelbar Menschenleben zu gefährden. Hier waren sich indes alle Experten einig: Einen Cyberkrieg hat es noch nicht gegeben und er sei auch in naher Zukunft nicht zu erwarten. Vielmehr müsse man davon ausgehen, dass Cyberoperationen in allen Konflikten auf unterschiedlichen Ebenen eine immer wichtigere und mehr und mehr selbstverständliche Rolle spielen. Dabei dürfe man nicht aus den Augen verlieren, dass der Cyberraum Intransparenz und Unzurechenbarkeit fördere, was ein Teilnehmer kritisch mit dem Hinweis kommentierte „haben wir das für unser strategisches Denken im Kalkül?“ Bringt die Digitalisierung am Ende eine neue Qualität von Konflikten? Welche rechtlichen Konsequenzen Cyber-Operationen haben und welche Schwellen überschritten werden müssen, wurde von den Rechtswissenschaftlern anhand des geltenden Völkerrechts erläutert. Hier war beispielsweise die Attribution, also die Adressierbarkeit eines Cyberangriffs ein wichtiger Aspekt.

Cyberraum und Wahrheit

Politisch müsse man sich die Frage stellen, in wie fern die Struktur des internationalen Systems durch die Digitalisierung und entsprechend auch die Digitalisierung bewaffneter Konflikte in seinem Machtgefüge gestört wird. Was passiert, wenn neue Formen niederschwelliger, gezielter Gewalt möglich sind? Wirken sie eher abschreckend oder ermuntern sie zur Eskalation? Suggerieren die Möglichkeiten im digitalisierten Raum einen „sauberen Krieg“? Welche ethischen Normen könnten andererseits für Vertrauen und Stabilität sorgen? Wie verfahren wir im Bereich der Digitalisierung beim Thema Rüstungskontrolle oder Abrüstung? Und schließlich wurde die nicht nur philosophische Frage gestellt: Was ist Wirklichkeit und was ist Fiktion? Wie gehen wir mit Begriffen um, deren Wahrheitskern nur schwer zu fassen ist? Und welche normative Ordnung kann man im Cyberraum oder bei einem tatsächlichen Cyberkrieg voraussetzen. Gerade weil der Cyberraum eine vom Menschen künstlich geschaffene Sphäre umreißt, ist die Frage von herausragender Bedeutung, welche Rolle Informationen und Desinformationen spielen, was Wirklichkeit und Wahrheit von Botschaften und Nachrichten bedeuten und welche Konsequenzen das für menschliches Handeln hat – gerade in Grenzsituationen. Die Militärwissenschaftler beschäftigte die Frage nach dem Selbstverständnis des Soldaten, der im Cyberraum nur noch Bits und Bytes verwalten dürfe. Derzeit sei das Operieren im Cyberraum für Soldaten ein Mittel wie jedes andere auch – und Digitalisierung sei in vielen Bereichen ein unverzichtbares Hilfsmittel, beispielsweise in der Logistik oder in der Krisenfrüherkennung. Die rechtlichen Grundlagen für das Operieren im Cyberraum seien klar umrissen. Man agiere im Cyberraum zunächst wie in jeder anderen Dimension auch und einmal mehr werde deutlich, wie wichtig klar definierte Rules of Engagement seien. Eine neue Ethik für Auseinandersetzungen im Cyberraum brauche es nicht, da waren sich alle Teilnehmer des Workshops einig. Allerdings sei es notwendig, die Begrifflichkeiten klar zu benennen und zu sortieren und die ethischen Grundsätze an ihnen neu ausrichten. Einmal mehr wurde dabei deutlich, dass die ethischen Herausforderungen des digitalen Wandels in bewaffneten Konflikten ein strategisches Thema sind, an dem weitergearbeitet werden muss.

Das GIDS plant, schon im Februar 2020 die Ergebnisse des Workshops mit den Kurzvorträgen und Kommentaren der Referenten zu veröffentlichen und das wichtige Thema in weiteren Formaten zu vertiefen.

Drei Fragen an den Kommandeur des Zentrums Cyber-Operationen der Bundeswehr Oberst Christian Pawlik:

Porträtbild von Oberst Christian Pawlik in Luftwaffen Uniform
Oberst Christian Pawlik

1. Aus der militärischen Perspektive: Wie definieren Sie eigentlich den Begriff „Cyberraum“? Was ist das?

Formal definiert die Bundeswehr den Cyberraum als virtuellen Raum aller auf Datenebene vernetzten IT-Systeme im globalen Maßstab, dem als universelles und öffentlich zugängliches Verbindungs- und Transportnetz das Internet zugrunde liegt und das durch beliebige andere Datennetze, auch solche IT-Systeme, die über Datenschnittstellen verfügen, ansonsten aber von öffentlich zugänglichen Netzen und dem Internet separiert sind, ergänzt und erweitert werden kann. Für das Zentrum Cyber-Operationen stellt der Cyber-Raum das Operationsgebiet zur Durchführung von Cyber-Operationen dar.

2. An welchem Punkt kommen bei Cyber-Operationen ethische Aspekte zum Tragen? Stellen sich überhaupt ethische Fragen für einen Operateur?

Wie für jeden Soldaten im Einsatz kann es jederzeit zu ethischen Fragestellungen in der Erfüllung seines Auftrages kommen. Dabei haben bei Cyber-Operationen im virtuellen Raum aus meiner Sicht exakt die gleichen Maßstäbe und ethischen Grundlagen Gültigkeit, die auch in den klassischen Dimensionen Land, Luft, See und Weltraum gelten.

3. Wo sehen Sie im Bereich der Digitalisierung – auch von bewaffneten – Konflikten die größten Herausforderungen der Zukunft?

Mit zunehmender eigener Digitalisierung vergrößern wir die Angriffsfläche für andere, benötigen aber gleichzeitig eine fortschreitende Digitalisierung, um der wachsenden Komplexität heutiger militärischer Herausforderungen gewachsen zu sein. Die Auflösung dieses Spannungsfeld erfordert viel qualifiziertes Personal sowohl im Bereich der Cyber-Sicherheit als auch im Bereich der Cyber-Operationen und ist rar gesät.

Autorin: Victoria Eicker

Fotos: Bundeswehr

Themen

Strategie/militärische Strategie Big Data, Cyber, Digitalisierung und KI Wirtschaft Nato Health Klimawandel Hybride Bedrohungen Russland EU Konflikt Landes-/Bündnisverteidigung Coronavirus Ethik Militärische Ausbildung KRITIS Digitalisierung und Künstliche Intelligenz (KI) Kultur Identität Terrorismus Gamification