Das Scheitern der VN-Expertengespräche zu Autonomen Waffensystemen

Inhaltliche Verwerfungslinien innerhalb der GGE

Inhaltliche Verwerfungen in der Expertengruppe zeichneten sich bereits vor dem russischen Angriffskrieg ab; sie machten eine baldige inhaltliche Einigung schon damals unwahrscheinlich.

Zum einen hat die GGE bislang keine gemeinsame Definition von AWS gefunden. Die meisten Staaten bevorzugen den Vor­schlag des Internationalen Komitees vom Roten Kreuz (IKRK), wonach ein AWS ein Waffensystem ist, das sowohl die Ziel­auswahl als auch den Angriff ohne mensch­liches Handeln vornehmen kann. Doch nicht alle Staaten unterstützen diesen Vor­schlag. China versteht unter AWS nur sol­che Systeme, die imstande sind, eine strate­gische Mission selbstständig abzu­ändern oder zu ergänzen. Andere Staaten wieder­um halten es nicht für erforderlich, AWS überhaupt zu definieren. Viel wich­tiger sei es, die notwendige Mensch-Maschine-Inter­aktion ins Zentrum zu stellen.

Frankreich hat 2021 die Initiative ergriffen und eine eigene Definition von AWS in der GGE präsentiert, die auch Deutschland unterstützt. Die beiden Länder unter­scheiden zwischen vollautonomen (Fully Autono­mous Lethal Weapon Systems, LAWS) und teilautonomen (Partially Autono­mous Lethal Weapon Systems, PLAWS) Waffensystemen. Vollautonome Waffensysteme seien solche, die ohne menschliches Zutun im­stande sind, die Zielauswahl und die Ent­scheidung zum Angriff vorzunehmen. Ferner seien sie in der Lage, die strategische Mis­sion ab­zuändern. Diese Art Waffensysteme sollten nach Ansicht Deutschlands und Frankreichs gänzlich verboten werden. Teil­autonome Waffensysteme seien hin­gegen solche, die innerhalb eines durch den Men­schen vor­gegebenen Handlungsrahmens Ziele selbst­ständig auswählen und attackie­ren können, aber keinesfalls dar­über hin­ausgehende, eigenständige Entscheidungen treffen können. Derartige Waffensysteme müssten entsprechend reguliert werden, um zu gewährleisten, dass sie im Einklang mit rechtlichen und ethischen Prinzipien ein­gesetzt würden. Unter ande­rem Japan hat bereits Interesse gezeigt, die Diskussion über diesen Defini­tionsvorschlag zu ver­tiefen.

Zum anderen herrscht keine Einigkeit dar­über, welcher Begriff geeignet ist, das not­wendige Ausmaß menschlicher Steue­rungs­kompetenz über Maschinen zu bezeich­nen. Während ein signifikanter Anteil an Staa­ten innerhalb der GGE den Begriff der »menschlichen Kontrolle« (human control) bevorzugt, ziehen zum Beispiel die USA das Konzept der »angemessenen menschlichen Beurteilung« (human judgment) vor. Die USA ver­stehen das Kon­zept der menschlichen Kont­rolle als direk­ten, manuellen Eingriff in ein Waf­fen­system; jedoch wollen sie in erster Linie die Effekte von AWS kontrollieren und weniger das Waffensystem selbst. Ver­fechter des Konzepts der menschlichen Kont­rolle da­gegen wollen ein Waffensystem und nicht nur dessen Effekte kontrollieren.

Eine weitere Verwerfungslinie ist der Rüstungs­wettlauf zwischen den USA, Russ­land und China, der sich insbesondere auf dem Gebiet der neuen Tech­nologien abzeich­net. Vor allem China hat die Modernisierung seiner Landesverteidigung durch einen mas­siven Anstieg seiner Militärausgaben in den Fokus gerückt und verkündet, bis spä­testens 2030 die weltweite Supermacht im Bereich der künstlichen Intelligenz (KI, engl. AI) sein zu wollen. Zwar spricht sich China für eine Regulierung von AWS in der GGE aus, doch die enge chine­sische Defi­ni­tion von AWS lässt befürchten, dass China – womöglich aufgrund seiner macht­politi­schen Bestrebun­gen – diese nicht wirklich einer Regu­lierung unterwerfen möchte.

Die momentan wohl stärksten Spannungen bestehen allerdings zwischen den USA (beziehungsweise den Nato-Staa­ten) und Russland. Wenngleich Russ­land einen aus­reichenden menschlichen Einfluss über AWS für unverzichtbar erklärt hat, ist es gegen eine weiterführende völkerrechtliche Regu­lierung, die über den existierenden Rechts­rahmen hinausgeht. An diesem Standpunkt hält Russland vehement fest, sodass eine Eini­gung in der GGE nur schwer vorstellbar ist. Deswegen wird schon jetzt überlegt, ob nicht andere Foren geeigneter wären, die Diskussion voranzubringen. Deutschland sollte sich auf solche Szenarien vor­bereiten. Zum Beispiel könnte das Bun­des­ministe­rium der Ver­teidigung feder­füh­rend im Zusam­menspiel mit dem Aus­wär­tigen Amt eine nationale Positionierung zu AWS ver­abschieden.

Nationale Positionierung Deutschlands zu AWS

Anders als Frankreich hat Deutschland bis­lang keine nationale Positionierung zu AWS vorgelegt. Die KI-Strategie der Bun­des­regierung von 2018 befasst sich nur unzu­reichend mit der militärischen Nut­zung von KI. Daher bleibt es lediglich bei der Äuße­rung im Koalitionsvertrag, die Äch­tung letaler autonomer Waffensysteme, »die vollständig der Verfügung des Men­schen entzogen sind«, aktiv voran­zu­treiben. Grund für die feh­lende nationale Positionsbestimmung könnten einerseits unter­schied­liche Auf­fassungen zwischen Außen- und Verteidigungsministerium zu AWS sein. Andererseits möchte man nicht ohne vor­herige Abstimmung mit Bünd­nis­part­nern wie den USA, Frankreich und den Niederlanden agieren. Zwar haben sowohl die USA als auch Frankreich bereits natio­nale Positionierungen zu AWS ver­abschie­det; doch es scheint, dass Deutschland die kom­menden Monate und insbesondere die wei­tere Entwicklung des Krie­ges in der Ukraine abwarten möchte.

Eine nationale Positionierung könnte unter anderem die im Rahmen der Genfer Verhandlungen 2021 von Frankreich und Deutschland getroffene Unterscheidung zwischen voll- und teilautonomen Waffen­systemen enthalten. Allerdings ist kritisch anzumerken, dass sowohl Frankreich als auch Deutschland nach wie vor lediglich von »letalen« Waffensystemen sprechen. Diese Eingrenzung ist aus zweierlei Grün­den problematisch: Erstens können auch nichttödliche Waffen großes Leid für feind­liche Kombattanten und die Zivil­bevöl­ke­rung verursachen. Zweitens ist eine klare Abgrenzung zwischen tödlichen und nicht­tödlichen Waffen schwierig.

Eine nationale Positionierung sollte außer­dem darlegen, anhand welcher Para­meter der Einsatz teilautonomer Waf­fen­systeme gestattet werden soll. Sie muss sich deshalb auch mit dem notwendigen Aus­maß der Mensch-Maschine-Interaktion bezie­hungs­weise mit dem Konzept der mensch­lichen Kontrolle befassen. Die Vor­arbeiten des Inter­national Panel on the Regulation of Autonomous Weapons (iPRAW), in dem die Autorinnen federführend mitarbeiten, könn­ten diesbezüglich wertvolle Anhaltspunkte liefern: iPRAW versteht unter menschlicher Kontrolle die Fähigkeit des Menschen, über ausreichendes Situationsverständnis (situa­tional aware­ness) und ent­sprechende Ein­griffsmöglichkeiten (options for intervention) zu verfügen. Beide Elemente müssen einer­seits durch das Design des Waffensystems gewährleistet werden (control by design), ande­rerseits während dessen Nutzung im­ple­mentierbar sein (control in use). Das kon­krete Ausmaß menschlicher Kontrolle hängt aber vom jeweiligen Einsatzkontext ab.

Das heißt, eine natio­nale Positionierung sollte die verschiedenen möglichen Szena­rien, in denen AWS eingesetzt werden könn­ten, aufgreifen und entsprechende rote Linien identifizieren. Der Einsatz von AWS in einem urba­nen Umfeld könnte beispiels­weise stren­geren Anforderungen unter­liegen als in einem rein militärischen Um­feld. In städti­schen Gebieten könnte der Mensch ver­pflichtet werden, den Einsatz eines AWS zu überwachen und gegebenenfalls in die Operation einzugreifen. Beim Einsatz autonomer U‑Boote wäre eine Inter­vention durch den Menschen indes weniger relevant.

In Anbetracht der aktuellen weltpolitischen Entwicklungen sollte sich Deutschland aber auch offen gegenüber technolo­gi­scher Innovation zeigen und die militärischen Vorteile von Autonomie in Waffen­systemen in seiner nationalen Posi­tions­bestim­mung berücksichtigen. Schnelligkeit, Zielgenauigkeit und der Schutz eigener Soldaten und Soldatinnen sind einige Bei­spiele, die mitunter für den Einsatz von AWS sprechen.

Die »Zeitenwende« und ihr Ein­fluss auf die nationale Positio­nierung zu AWS

Die Forderung nach einer nationalen Posi­tionierung Deutschlands muss auch im Kontext der »Zeiten­wende« gesehen werden: Bun­deskanzler Olaf Scholz verkündete in seiner Regierungserklärung vom 27. Feb­ruar 2022, man werde »von nun an Jahr für Jahr mehr als zwei Prozent des Brutto­inlandsprodukts« für Verteidigungsausgaben ver­wenden. Das ebenfalls an­gekündigte Sondervermögen über 100 Mil­liarden Euro für die Bundeswehr hat der Bundestag kürz­lich beschlossen. Diese Neuerungen haben im Wesent­lichen zwei Auswirkungen auf eine natio­nale Positionierung zu AWS:

Zum einen wird Offenheit gegen­über be­stehenden Rüstungs­projekten, wie dem Future Combat Air System (FCAS), signalisiert. FCAS ist ein Systemverbund (system of systems) verschiedener militärischer Wirk­einheiten der Luftstreitkräfte; Teile von FCAS sollen auch mit autonomen Funk­tio­nen ausgestattet sein. Dies steht in keinem Widerspruch zu dem im Koalitions­vertrag abgegebenen Ver­sprechen, Waffen­systeme, die vollständig der Verfügungs­gewalt des Menschen ent­zogen sind, zu ächten. Denn im Rahmen von FCAS wurde eine Arbeitsgruppe (AG) zu Technikverantwortung geschaffen, die einen verantwortungsvollen Einsatz des Luft­kampfsystems gewährleisten soll. Einer der zentralen Diskussionspunkte innerhalb der AG ist das Konzept und die konkrete Ope­rationalisie­rung menschlicher Kon­trolle.

Zum anderen ist im Hinblick auf die von Olaf Scholz verkündete Zeitenwende genau zu überlegen, welche Anschaffungen inner­halb des deutschen Militärs in Zukunft tat­säch­lich notwendig und sinnvoll sind. Um Personal­kosten zu sparen, mag sich der Einsatz neuer Technologien, beispielsweise in Form von KI-basierten Datenauswertungs­systemen, lohnen. Hierbei handelt es sich indes nicht um AWS – doch die Fragen, die die zu­nehmende Nutzung von KI auf­wirft, ähneln sich, unabhängig davon, wo und wofür sie eingesetzt wird.

Die Zeitenwende bedeutet daher nicht, dass die im Koalitionsvertrag formulierte Ächtung von AWS mit einer generellen Ablehnung technologischer Innovation im militärischen Bereich verbunden wäre. Im Gegenteil, eine nationale Positionierung zu AWS sollte ein klares Bekenntnis zur Not­wendigkeit von Forschung und Entwicklung zu Militärtechnologien ent­halten sowie deren Vorteile benennen. Denn erst eine entsprechend differenzierte nationale Posi­tionierung wird es Deutschland ermög­li­chen, in den künftigen Verhandlungen aktiv und in Abstimmung mit den Bündnis­partnern mitzuwirken.

Alternative Foren zur Regulierung von AWS

Vor allem die Nato, die EU und die VN kommen als alternative Foren für eine Regulierung von AWS in Betracht (vgl. Grafik). Überdies ist denkbar, dass andere Staaten einen Prozess initiieren, der an keine Institution angeschlossen ist.

Handlungsempfehlungen für Deutschland

Es ist sehr wahrscheinlich, dass die GGE spätestens nach Ende des zweiten diesjäh­rigen Treffens im Juli aufgrund des rus­si­schen Boy­kotts offiziell als gescheitert gelten wird. Deutschland muss folglich bereits jetzt an einer Strategie für eine Zeit nach der GGE arbeiten, um seinem Vor­haben aus dem Koalitionsvertrag, an einer Ächtung von AWS aktiv mitzuwirken, nachzukommen.

Dafür braucht es eine nationale Positionie­rung zu AWS, die sowohl zwischen voll- und teilautonomen Waffensystemen unter­scheiden als auch konkrete Anhaltspunkte zur notwendigen Mensch-Maschine-Inter­aktion geben sollte. Jedoch wäre es sinn­voll, wenn sich die Definition nicht auf letale Waffensysteme beschränkt. Nachdem sich unter anderem die USA wei­gern, den Begriff »menschliche Kon­trolle« zu akzep­tie­ren, könnte sich Deutschland dem Ansatz des IKRK anschließen, von »menschlicher Kontrolle« und »menschlicher Be­ur­tei­lung« zu sprechen. Zudem könnte die ge­plante Nationale Sicherheitsstrategie (NSS) einen Abschnitt zu AWS und neuen Waffen­technologien enthalten. Vorbild für diesen Teil der NSS könnte eine jüngst von der Schweiz verabschiedete Strategie zu Rüs­tungskontrolle und Abrüstung sein.

Der russische Angriffskrieg gegen die Ukraine scheint einen Paradigmenwechsel im Bereich Rüstungskontrolle zu markieren: Universelle Foren treten zunehmend in den Hintergrund, regionale Institutionen, wie Nato und EU, gewinnen an Bedeu­tung. In regionalen Foren lassen sich Fragen zu AWS aber nicht abschließend und schon gar nicht inklusiv klären. Ihre Diskussion inner­halb von Nato und EU könnte aber zumin­dest bewirken, dass Bündnispartner ihre Standpunkte stärker aufeinander abstimmen und mittel- wie auch längerfristig mit ge­ein­ter Stimme in weitere Verhandlungen gehen.

Deutschland sollte sich darüber hinaus auf eine inhaltliche Diskussion über AWS in der GV1 vorbereiten, da vor allem die G13-Staaten einen derartigen Prozess initi­ieren könnten. Ein koordiniertes Vorgehen der Nato-Partner und der EU-Mitglieder könnte dazu beitragen, breite Mehrheiten in den einzelnen Institutionen der VN zu finden.

Keines der in Betracht zu ziehenden Foren garantiert angesichts der aktuellen Umstände Erfolg. Es wäre allerdings nicht zielführend, deshalb die Diskussion über AWS zum Erliegen kom­men zu lassen. Gerade der Einsatz neuer Technologien im Krieg in der Ukraine zeigt deutlich, dass Autonomie in Waffensystemen eine immer größere Rolle spielt. Die angekündigte Zeiten­wende sollte Anlass sein, die Kom­plexität von Autonomie in Waffensystemen zu reflektieren, unter anderem mit einer entsprechenden nationalen Positionierung zu AWS. So könnte Deutschland der Welt signalisieren, dass es seine im Koalitionsvertrag gemachten Versprechen auch in die Tat umsetzt.